Después de aprender piano y guitarra, empezó a tocar en bares y prostíbulos de Rio de Janeiro y, en 1952, fue arreglador de la grabadora Continental. Dos años después, Dick Farney y Lúcio Alves grabaron Tereza da Praia, que se tornó el primer éxito de Tom, en sociedad con Billy Blanco. Todavía en 1954, conoció a Vinicius de Moraes, con quien compuso la banda sonora de la pieza Orfeu da Conceição, que incluía Se Todos Fossem Iguais a Você.

También con Vinicius, compuso todas las canciones del disco Canção do Amor Demais (1958), apontado por estudiosos de MPB como la piedra fundamental de la Bossa Nova, al lado de las grabaciones de Chega de Saudade y Desafinado por João Gilberto. En el mismo año fue la vez de Silvia Telles grabar Amor de Gente Moça, un disco con 12 canciones de Tom, entre ellas Só em Teus Braços, Dindi y A Felicidade.

En 1962, obtuvo reconocimiento internacional como el gran destaque de Festival de Bossa Nova realizado en el Carnegie Hall, en Nueva York. Al año siguiente, compuso Garota de Ipanema, la canción brasileña más ejecutado en el exterior, en todos los tiempos.

En años de 1962 y 1963 la cantidad de clásicos compuestos por Tom es impresionante: Samba do Avião, Só Danço Samba, Ela É Carioca, O Morro Não Tem Vez, Inútil Paisagem, Vivo Sonhando. Por el éxito de sus canciones en el exterior, Tom pasó a visitar frecuentemente Estados Unidos, donde grabó un disco con Frank Sinatra, con versiones en inglés de sus mayores éxitos.

De vuelta a Brasil, ganó el III Festival Internacional de la Canción, con Sabiá, compuesta en sociedad con Chico Buarque, blanco de un estrondoso bocinazo en la parte nacional del festival. En la década de 70, Tom pasó a combinar sus conocimientos de jazz y música erudita a elementos de la cultura brasileña, en sus composiciones, siempre con armonías sofisticadas y arreglos creativos. Aprofundizando sus estudios musicales, absorbió influencias de Villa-Lobos y Debussy, en composiciones de rara inspiración. Es el caso de Matita Perê y Urubu, discos de los años 70, que incluyen Águas de Março, Ana Luiza, Lígia, y Correnteza.

Tambíen esa época graba con Elis Regina, Miúcha y Edu Lobo. Passarim, de 1987, es la obra de un compositor ya consagrado. Difícil escoger los más importantes entre los más de 50 discos de que participó, como compositor, intérprete o arreglador. Todos ellos tienen algo de innovador, diferente y especial. Su último CD, Antônio Brasileiro, fue lanzado en 1994, poco antes de su muerte, en diciembre, en Estados Unidos.