Franz Härter wurde als Sohn eines Konditors 1797 in Straßburg geboren. Als Jugendlicher musste er seinem Vater
in der Backstube helfen. Er konnte aber das Gymnasium besuchen und wurde von seinem Vater zum Studium der Theologie getrieben, weil dieser auf eine stabile Alterssicherung durch seinen Sohn hoffte. Allerdings starb der Vater 1819, als Franz gerade sein Examen ablegte.
1820 wurde Härter krank. Während der Kur in Bad Hub lernte er Henriette Elise Kampmann kennen, mit der er sich verlobte. Nach seiner Genesung wirkte er zunächst als Lehrer in Straßburg, um dann an verschiedenen Orten seine Studien fortzusetzen.
1823 wurde ihm nach der Ordination die Pfarrstelle in Ittenheim übertragen. Nun konnte er Elise Kampmann auch heiraten. Seine Frau sorgte für Härters Großmutter und kümmerte sich ansonsten um kranke Frauen in der Gemeinde. Junge Frauen unterrichtete sie im Handarbeiten. Währenddessen setzte sich Härter für eine Verbesserung des Schulwesens ein und forderte seine Gemeinde zu einer Lebensweise auf, die den Anfordernissen der christlichen Botschaft entspricht. Dabei orientierte er sich an Oberlin, indem er Elemente der Aufklärung und der Erweckungsbewegung miteinander verband. Der Gottesdienstbesuch nahm zu. 1828 erlitt Härter einen Schicksalsschlag durch den Tod seiner Frau, wovon er sich nur langsam erholte. Nun wurde ihm das Evangelium mehr und mehr zur Kraftquelle. Er selbst sprach in einer Leichenpredigt, die er für sich selbst verfasste, von seiner Neugeburt.
1829 wurde Härter als Pfarrer an die Neue Kirche in Straßburg berufen, an der Johannes Tauler gepredigt hatte. 1830 heiratete er eine Jugendfreundin seiner verstorbenen Frau, Friederike Dorothea Rausch. Aus der ersten Ehe hatte er zwei Kinder. Nun kamen noch drei weitere hinzu, wobei das erste Kind allerdings kurz nach der Geburt starb.
Nach langem inneren Kampf, wohl auch wegen der generell rationalistisch geprägten Kirchenleitung, verkündete er an Trinitatis 1831 seiner Gemeinde, dass er zur Überzeugung gelangt sei, der Mensch werde allein durch Jesus Christus erlöst. Der Widerspruch blieb nicht aus, wobei wohl seine Beliebtheit in Straßburg drastische Schritte gegen ihn verhinderte. Auch bei den strengen Lutheranern, die wie nun auch er den Rationalismus ablehnten, stiess Härter auf heftigen Widerspruch, da er die pietistische Erweckungsbewegung unterstützte, Bibelstunden abhielt und ein praktisches Christentum lebte und lehrte. Dazu war er im Vorstand der Neuhof-Anstalt, die mehrere Schulen betrieb.
1834 gründete er selbst die „Straßburger Evangelische Gesellschaft”, Die neu erbaute Chapelle wurde zum Versammlungsort. Weiter war er Gründungsmitglied der Straßburger Missionsgesellschaft und Mitglied der „Gesellschaft der Freunde Israels”. Viele weitere Vereinsgründungen gingen aus seiner Arbeit hervor, die einerseits der Verbreitung des Evangeliums, andererseits der Hilfe an notleidenden Menschen dienten. Der sogenannte Armendienerinnen-Verein erweckte dadurch Aufsehen, dass die ehrenamtlich darin arbeitenden Frauen dort, wo sie armen Menschen zur Seite standen, auch das Evangelium verkündigten durch Bibelarbeit und Gebet. Da man dies zu der Zeit noch als alleinige Aufgabe der Pfarrer ansah, wurde der Verein auch angefeindet. Härter aber blieb bei seiner Einstellung, dass Armenpflege auch die Verkündigung des Evangeliums beinhalte, und ermutigte die Frauen in diesem Dienst, ihre diakonische und geistliche Aufgabe weiter wahrzunehmen.
1839 besuchte Härter das Kaiserswerther Diakonissenhaus. Danach begann er, in Straßburg eine ähnliche Arbeit aufzubauen, und weihte im Dezember die ersten zehn Frauen zu Diakonissen. Allerdings ließ er sich mehr von den römischen Vinzentinerinnen inspirieren, die in Straßburg die Armenpflege betrieben. Härter ließ sich weiter vom Jansenismus, einer römisch-katholischen Strömung, die das lutherische Prinzip „Sola Gratia” vertrat, inspirieren. Gleichzeitig wehrte er sich vehement gegen den Vorwurf der Katholisierung.
Das Straßburger Diakonissenhaus entstand 1842 zunächst durch die Anmietung eines Hauses. Bemerkenswert ist, dass dem Haus von Anfang an nicht Härter selbst, sondern eine Diakonisse vorstand, die aus dem Kreis der Diakonissen gewählt wurde. Härters Aufgabe war die seelsorgerliche Betreuung der Diakonissen.
Härter starb am 5. August 1874 in Straßburg.