Après avoir accompagné des jazzmen lors de son adolescence (Dexter Gordon, Johnny Griffin, Kenny Clarke, etc.), Jean-Claude PETIT sort du Conservatoire national supérieur de Paris avec les premiers prix d’harmonie, de fugue et de contrepoint et commence à travailler à partir de 1966 pour le monde des variétés. C’est ainsi qu’il écrit et réalise les arrangements des disques de Julien CLERC, Serge LAMA, SHEILA, Claude FRANCOIS, Joan BAEZ, Michel SARDOU, Alain SOUCHON, Sylvie VARTAN, JAIRO, Mort SHUMAN, Gilbert BECAUD…
Jean-Claude PETIT signe les musiques de films à succès tels que Jean de Florette ou Manon des sources, de Claude Berri, et Cyrano de Bergerac, de Jean-Paul Rappeneau ; avec cette composition, il obtient un César et une Victoire de la musique en 1991.
Jean-Claude PETIT produit, joue et compose également des albums de jazz-rock : Babel (avec le guitariste Philip Catherine), The best of all possible worlds (avec Celmar Engel)…
En 1995, Jean-Claude PETIT est élu président de l’ADAMI, fonction qu’il occupe jusqu’en 1998.
En juin 2013, il est élu président du conseil d’administration de la SACEM.
En 2014, il signe son premier opéra, Colomba, adapté de la nouvelle de Prosper Mérimée et présenté à l’opéra municipal de Marseille.
Il collabore sur la chanson Le Secret Perdu, premier single du 10e album de Pascal OBISPO (Billet de femme), paru en février 2016.