Als Sohn eines Pfarrers geboren, besuchte Fritsche die Baugewerkschule Zittau und später die Technische Hochschule Berlin-Charlottenburg, 1887 wurde er Meisterschüler bei Johannes Otzen an der Berliner Kunstakademie. Von 1889 bis 1895 arbeitete Fritsche in Otzens Architekturbüro in Berlin. 1898 schloss er sich mit dem Architekten Adolf Cornehls in Elberfeld zusammen, das gemeinsame Büro bestand bis 1901. Seit diesem Jahr arbeitete Fritsche allein; von 1913 bis 1932 fungierte er außerdem als nebenamtlicher Leiter des Provinzialkirchenbauamts der Evangelischen Kirche der Rheinprovinz; in diesem Amt war er Nachfolger des Architekten August Senz. Erst 1934, im Alter von 76 Jahren, scheint sich Fritsche endgültig zur Ruhe gesetzt zu haben.
1918–1926: ev. Hauptkirche Sonnborn in Wuppertal-Sonnborn, Sonnborner Straße (unter Denkmalschutz)
1928: ev. Kapelle in (Wülfrath-)Flandersbach, Kapellenstraße
1929–1930: Erweiterung (Turm und Seitenschiff) der ev. Gnadenkirche in Essen-Dellwig, Pfarrstraße (unter Denkmalschutz)
Werner Keyl: Cornehls und Fritsche. Architekten in Elberfeld um 1900. In: Dietrich Meyer (Hrsg.): Kirchliche Kunst im Rheinland, Band 2. (=Schriften des Archivs der ev. Kirche im Rheinland, Band4.) Düsseldorf 1991, ohne ISBN.
Marion Niemeyer-Tewes: Die evangelische Pauluskirche in Gelsenkirchen-Bulmke und der Kirchenbau der frühen Fünfziger Jahre in Westfalen. In: Denkmalpflege in Westfalen-Lippe, 10. Jahrgang 2004, Heft 2, S. 64–78.