1892 in Noyelles-sur-Sambre geboren, beginnt er eine Ausbildung in der nordfranzösischen Stadt Douai. Anschließend wechselt er nach Paris und nimmt dort ein Jura-Studium auf und macht erste Bekanntschaften mit Künstlern des Montparnasse. Als Autodidakt wird er durch die Künstler Matisse, Cézanne, später von Fernand Léger in seinem künstlerischen Schaffen beeinflusst. Von 1912 bis 1916 nimmt er am ersten Weltkrieg teil. Die dort erfahrenen Erlebnisse und Eindrücke lässt er in seine künstlerische Entwicklung einfließen. Zurück in Paris, arbeitet er ab 1919 vorerst als Filmkritiker und begegnet im folgenden Jahr seinen jahrzehntelangen Förderer Dr. Girardin. Mit seiner Ausstellung im Jahr 1933 in der Kunsthalle de Bâle wird das Werk des Künstlers bestätigt und gewürdigt. 1937 realisiert er die Dekoration des Pavillions der Porzellanmanufaktur von Séveres auf der Pariser Weltausstellung. 1939 bis 1944 ist er maßgeblich an der Erneuerung der Tapisserie-Bewegung beteiligt und gehört damit zu den Wegbereitern einer neuen Gobelin-Tradition. In den USA erhält er zwei Jahre nach seiner Ankunft im Jahr 1952 den renommierten Carnegie-Preis. Gromaire stirbt 1971 in Paris.