Geboren 1492 in Aldingen (Schwarzwald). In Pforzheim geraakte hij in kennis met Melanchton.
In 1513 kwam hij naar Bern. Daar werd hij, ofschoon humanist, voor het Evangelie gewonnen en in 1519 was hij priester aan den Münster.
Sinds 1521 stond hij in verbinding met Zwingli en werkte hij ijverig mede in het groote werk der Reformatie. Men kan hem den reformator van Bern noemen.
Aan zijn zijde stonden Sebastiaan Meyer, een leek, de dichter Niklaus Manuel en de stadsdokter Valerius Anshelm. In 1523 wist hij, ondanks den tegenstand der oud-geloovigen, van den raad der stad een mandaat te verkrijgen, waardoor de vrije prediking van het Evangelie beschermd werd.
Hij nam deel aan het Badensche dispuut (zie art.) in 1526. Daar disputeerde hij echter niet met succes.
In 1528 had het dispuut te Bern plaats. Voor dit dispuut vervaardigde Haller met Franz Kolb de stellingen.
Een glansrijke overwinning werd behaald.
In 1532 vervaardigde hij de Berner Kerkordening.
Hij voerde de Reformatie nog door in Waadt, maar hij ging gebukt onder den last van zijn veelvuldigen arbeid. Veel leed ondervond hij ook van de destijds opkomende Wederdoopers.
Hij stierf in 1536, kort na zijn trouwen vriend en medearbeider Franz Kolb. „Hij was”, zoo zegt zijn biograaf, „een reformator zonder een groot theoloog te zijn geweest, een man van den tweeden rang, maar die de achting van vele eersten in zijn dagen ten volle waardig was”.
