Considerado um dos precursores da bossa nova, Johnny Alf começou a estudar piano clássico na infância, e logo se interessou pelas canções dos americanos George Gershwin e Cole Porter. Na adolescência montou um conjunto musical que se apresentava aos fins de semana, e foi um dos fundadores do Sinatra-Farney Fan Club. Convidado para fazer parte de um grupo artístico no Ibeu (Instituto Brasil-Estados Unidos), recebeu o conselho de adotar o nome artístico Johnny Alf para uma apresentação na Rádio MEC. Em 1952 começou a atuar profissionalmente como pianista em casas noturnas, e teve composições gravadas pela primeira vez pela cantora Mary Gonçalves. Tocando em Copacabana, ficou conhecido por Dolores Duran, João Gilberto e João Donato, e suas temporadas no Beco das Garrafas e na boate Plaza reuniam à época toda a primeira geração da bossa nova.