Rousseau s’est considéré toute sa vie comme un musicien de métier. Il a étudié l’art des sons dès l’adolescence et, jeune homme, enseigne la musique et l’exécute dans des salons. Il exercera assidument, de 1750 à ses dernières années, une activité de copiste.
Rousseau s’est d’abord fait connaître en tant que compositeur, présentant un petit opéra, Le Devin du village, devant Louis XV en 1752 puis à l'Académie royale de musique en 1753.
C’est à ce moment que paraît la Lettre sur la musique française dans laquelle Rousseau oppose à la beauté simple de la musique italienne la lourdeur de la musique française, représentée par Jean-Philippe Rameau, suscitant ainsi ce que l’on appellera la « querelle des Bouffons ». Rousseau avance un nouveau principe, l’unité de mélodie.
Le texte connut au moins une vingtaine de réponses dans le monde littéraire, et suscita l’indignation des musiciens français qui répliquèrent en brûlant une effigie de Rousseau dans la cour de l’Opéra.