Né en Allemagne, Klaus Mertens prend ses premières leçons de chant très jeune et poursuit ses études avec Else Bischof-Bornes, Jakob Stämpfli et Peter Massmann avant d’obtenir brillamment son diplôme de chant. Très rapidement, les concerts se multiplient en Allemagne comme à l’étranger.

Klaus Mertens chante aux côtés de grands spécialistes de musique ancienne comme  Frans Brüggen, Nicholas McGegan, Philippe Herreweghe, Gustav Leonhardt ainsi qu’avec les grands interprètes du répertoire classique tels que Gary Bertini, Herbert Blomstedt, Sir Roger Norrington, Enoch zu Guttenberg, Jun Märkl, Kent Nagano, Hans Vonk, Kenneth Montgomery, parmi d’autres.

Chanteur éminemment connu et recherché pour son interprétation des oratorios baroques, il enregistre à de nombreuses reprises les grandes œuvres vocales de Johann Sebastian Bach sous la direction de plusieurs chefs d’orchestre. En 2003, il achève l’intégrale des Cantates de Bach engagée par l’Amsterdam Baroque Orchestra sous la direction de Ton Koopman. L’ensemble de ce projet, qui compte également des tournées à travers l’Europe, les États-Unis et le Japon, est un jalon marquant de sa carrière. Il est en effet le seul chanteur à avoir ainsi enregistré et interprété en concerts l’intégrale des œuvres vocales de Bach.

Klaus Mertens se consacre par ailleurs à l’interprétation de lieder et son répertoire de concert s’étend de Monteverdi aux compositeurs les plus contemporains, certaines œuvres étant même spécifiquement écrites pour lui. Klaus Mertens se dédie aussi à de nombreuses recherches musicologiques pour redécouvrir des œuvres inédites.