Am 13. Dezember 1888 wurde er im ersten Wahlgang mit 117 Stimmen in den Bundesrat gewählt (1892 und 1900 Bundespräs.). 1888–90, als die Gotthardfestung gebaut wurde, leitete er das Militärdepartement, 1891–99 und 1901–02 (bis zu seinem Tod) das Finanz- und Zolldepartement. H., als Retter der Bundesfinanzen gepriesen, führte die Finanzkontrolle ein und konnte die Mittel für die Verstaatlichung der Eisenbahnen bereitstellen. Seine Vorlage zur Schaffung einer Nationalbank scheiterte 1897 in der Volksabstimmung und wurde erst 1906 im zweiten Anlauf angenommen.
Zeitgenossen rühmten H.s Intelligenz, Charakterstärke, Willenskraft, Pflichtgefühl, Vaterlandsliebe und Arbeitseifer. Er galt als besonnen, beharrlich und bisweilen starrköpfig. In Wädenswil erinnert ein Denkmal an ihn, ausserdem wurde eine Strasse nach ihm benannt. [pzi]