Foi uma experiência de curta duração a vida dos Arnold Corns, a banda que David Bowie criou tendo como co-protagonista do designer Freddi Burretti, com quem desenvolveria pouco depois as primeiras expressões da imagem de Ziggy Stardust. Depois de um primeiro single lançado em abril de 1971, um segundo 45 rotações sob o nome da banda surgiria em junho, recuperando Hang On To Yourself, canção originalmente apresentada no lado B do primeiro single dos Arnold Corns e, mais tarde, regravada para o alinhamento de The Rise and Fall of Ziggy Stardust and The Spiders From Mars numa versão mais consistente e convincente.
Mesmo longe da forma que a imortalizaria como um dos grandes hinos do glam rock, Hang On To Yourself mostrava já nesta versão original a alma de uma ideia herdada da tradição rock’n’roll dos anos 50, cruzada com ecos de uma admiração evidente pelos Velvet Undreground. Com The Man In The Middle no lado B, este segundo single dos Arnold Corns teve exatamente o mesmo destino do primeiro: foi um flop!