Josef Scharl beginnt seine Ausbildung 1910 an einer Münchner Malerschule als Dekorationsmaler. Dort sammelt er praktische Erfahrungen im Bereich der Gemälderestaurierung und besucht zudem Abendkurse in Aktmalerei. Ab 1915 leistet Scharl Kriegsdienst; Verwundungen und eine vorübergehende Lähmung des rechtes Armes zwingen ihn bis 1918 zum Aufenthalt in verschiedenen Lazaretten. Wieder in München kann er noch im gleichen Jahr mit dem Studium an der Kunstakademie in den Klassen von Heinrich von Zügel und Angelo Jank beginnen. 1921 verlässt er die Akademie vorzeitig, um sich autodidaktisch weiterzubilden. Scharl übersiedelt von seinem Elternhaus in die Wohnung der Familie Gruber und heiratet 1922 deren Tochter Magdalena. Bereits kurz nach seinem Schritt in die Selbstständigkeit kann der Maler erste Erfolge verzeichnen und seine Bilder werden ein Begriff für das kunstinteressierte Publikum der 1920er Jahre. Scharl schließt sich den Künstlervereinigungen "Neue Münchner Sezession" und den "Juryfreien" an und beteiligt sich erfolgreich an deren Ausstellungen. Ein Stipendium ermöglicht es Scharl 1930 nach Frankreich zu reisen. Dort lernt er die Werke der Spätimpressionisten kennen. Nach seiner Rückkehr bringt die beginnende nationalsozialistische Kulturpolitik eine entscheidende Wende. Verkäufe und Ausstellungsbeteiligungen nehmen ab, die finanzielle Lage Scharls spitzt sich zu und ihm wird ein Malverbot auferlegt. Trotzdem ermöglicht ihm Karl Nierendorf 1935 eine Einzelausstellung. Eine Einladung des Museums of Modern Art in New York, gemeinsam mit Beckmann, Scholz, Heckel und Hofer an einer internationalen Ausstellung teilzunehmen, bestärken Scharls Auswanderungspläne. 1939 emigriert er nach Amerika. Albert Einstein, den Scharl in Berlin kennengelernt hatte, unterstützt ihn sowohl finanziell als auch beim Zustandekommen verschiedener Ausstellungsprojekte. Die Jahre 1944-46 markieren den Höhepunkt seiner Bekanntheit in Amerika. Scharls engster Freund, Wolfgang Sauerländer, verschafft ihm den Auftrag für den Verlag "Pantheon Books" die Märchen der Gebrüder Grimm zu illustrieren. Das Märchenbuch stößt auf großes Interesse in der Öffentlichkeit und es folgen weitere Aufträge. Doch die Sorge um seine in Deutschland zurückgelassene Familie, der Tod Nierendorfs und ein Magenleiden belasten Scharl zunehmend. Hilde Prytek, ehemalige Mitarbeiterin Nierendorfs, betreut nun den Künstler und es werden verschiedene Projekte angedacht, die jedoch nicht realisiert werden können. 1952 wird Scharl die Einbürgerung in die Vereinigten Staaten von Amerika erteilt. Im gleichen Jahr reist der Künstler in die Schweiz, um an einer Gruppenausstellung in der Genfer Galerie Georges Moos teilzunehmen. Die Schweizer Luft wirkt sich positiv auf seine Gesundheit aus und es entstehen viele neue Arbeiten. 1953 kehrt er nach einem heftigen Streit mit Hilde Prytek nach New York zurück. Sein Gesundsheitszustand verschlechtert sich und er stirbt am 6. Dezember 1954.