Il est l'objet de la dédicace des Fleurs du Mal, « poète impeccable » lui est attribué par Baudelaire. Après avoir suivi le Romantisme hugolien, très vite sa poésie prend le symbole de la sculpture, et lui devient le précurseur du Parnasse, la théorie littéraire de « l'art pour l'art ». Cette idée, où le langage prend une esthétique propre, est explicitée dans la préface de Mademoiselle de Maupin, en 1832 :

Le Beau, élevé dans sa généralité, s'oppose à l'Utile, avec des allégories telles que la maison (les toilettes y sont le plus utile) ou la plate-bande (les choux y seraient plus utiles que les fleurs).