Filho e neto de violeiros,
nascido no sertão da Bahia, ainda pequeno fixa-se com a família na zona da mata
de Minas Gerais. O pai abre uma sorveteria, na cidade de Nanuque, a Xangai, que
lhe inpiraria o nome artístico.
Seu avô Avelino era mestre dos
mestres dos sanfoneiros da região e faleceu aos 101 anos, tendo transmitido sua
maestria ao filho Jany. Viveu tempos na fazenda de seu primo, o compositor
Elomar. Aprendeu a cantar aboiando com os vaqueiros. O encontro com Elomar foi
decisivo na sua formação artística. Começou a tocar na adolescência. Apesar de
herdar do pai e do avô o gosto pela sanfona, acabou optando pelo violão.