Ses origines familiales sont mal connues : on sait que son père s'appelait Hugo et était de la famille d'un comte. Héribert étudia à Worms et poursuivit ses études à l'abbaye de Gorze. À l'issue de ses études, alors qu'il souhaite devenir moine, l'évêque de Worms l'ordonne prêtre et le nomme prévôt de la cathédrale de Worms[1].
Au cours de la deuxième campagne d'Italie en 999, le chapitre de Cologne l'élit archevêque, une élection immédiatement confirmée par l'empereur et le pape, le . En tant qu'archevêque de Cologne, il conserva les deux charges de chancelier du Saint-Empire romain germanique. Il fut consacré évêque à la Noël de l'an 999 dans la Cathédrale de Cologne, où l'on dit qu'auparavant il serait venu pieds nus et s'étant mortifié[1].
C'est en présence du nouvel archevêque de Cologne que le tombeau de Charlemagne fut ouvert par l'empereur Otton III à Aix-la-Chapelle. Il accompagnait l'empereur Otton III durant son voyage en Italie lorsqu'il mourut au château de Paterno près de Civita Castellana (). Il rapporta la dépouille de l'empereur et les regalia à Aix-la-Chapelle. Il avait fait remettre la Sainte Lance aux mains du comte palatinEzzo.
Après l'inhumation d'Otton III et la proclamation de son successeur Henri II, il se démit de sa charge de chancelier. De retour à Cologne, il fonda l'abbaye de Deutz sur le Rhin, comme cela avait été convenu avec Otton III[2]. En 1004 il accompagna l'empereur Henri II à Rome, bien que les contemporains estiment que les deux personnages se soient tenus à distance. Henri II lui confia l'archidiocèse de Bamberg en 1007.
Il fut canonisé en 1147 pour avoir, de son vivant, guéri un possédé. Le ses reliques furent solennellement exhibées, elles furent enchâssées entre 1170 et 1180 dans un précieux reliquaire, qui se trouve encore aujourd'hui dans l'église Neu St. Heribert à Cologne-Deutz.
Sa mémoire est célébrée le 16 mars dans l’Église catholique[2].