Nasceu e cresceu em Lisboa, filho de pai alemão e espanhol, Hermann Krippahl (nascido em 1920), e de mãe portuguesa, Maria Odette Valadas (nascida em 1932). Com quatro anos de idade protagonizava os filmes do pai, cineasta amador. Aos cinco anos entrou para o Kindergarten, na Deutsche Schule Lissabon (Escola Alemã de Lisboa). Teve um comportamento e resultados pouco lineares, à medida que foi tendo primeiros contactos com o teatro e a música. Estudava ainda quando comprou a sua primeira viola-baixo e através da música conheceu a vida artística.
Década de 1970
Por volta dos dezoito anos de idade tem as primeiras aparições na televisão, numa altura em que participava no In-Clave, banda residente do programa de televisão No Tempo Em Que Você Nasceu (estreado a 27 de Janeiro de 1974), dirigida pelo maestro Pedro Osório. Na mesma altura a PIDE faz-lhe um ultimato – ou se naturaliza português e cumpre o serviço militar, ou terá que ir para a Alemanha, como alemão. Herman José opta pela nacionalidade alemã e prepara-se para ingressar num curso superior, em Munique na Escola Superior de Televisão e Cinema (Hochschule für Film und Bild).
Com o 25 de Abril de 1974, acaba por permanecer em Portugal e, em Outubro desse ano, estreia-se como actor no Teatro ABC, com a peça Uma no Cravo, Outra na Ditadura. Empresariada por Sérgio de Azevedo, a peça era escrita por José Carlos Ary dos Santos, César de Oliveira e Rogério Bracinha, e integrava no seu elenco actores como Ivone Silva, José de Castro e João Lagarto. Descoberto por Nicolau Breyner, é levado por este a estrear-se como actor na televisão, em 1975. As suas participações na rábula Sr. Feliz e Sr. Contente levam os críticos a dizer, pouco depois, que Herman «metera o veterano ao bolso».
Não abandona a música e em 1977 lança Saca o Saca-Rolhas, cujas vendas alcançam o Disco de Ouro. Durante cinco anos percorre o país em espectáculos de província onde debita anedotas, canta, inventa personagens e improvisa.
Década de 1980
Em 1980 lança o single A Canção do Beijinho que é novamente galardão de Ouro. Nesse mesmo ano é convidado para o programa O Passeio dos Alegres, emitido nas tardes deDomingo da RTP, com Júlio Isidro. A mais famosa criação deste programa é o personagem Tony Silva («O “creador” de toda música Ró’», latino-romântico de brilhantina e lantejoulas, que retratava a sociedade nas suas canções) conquista o grande público.
Em 1983 tem o seu primeiro programa de humor com O Tal Canal que permite a unanimização à volta do seu humor, num dos seus mais profícuos trabalhos. No mesmo ano leva ao Festival RTP da Canção o tema A Cor do Teu Baton que fica em 2º lugar. A sua equipa regressa em Hermanias (1984), consolidando algumas das suas personagens mais marcantes, como o cronista de futebol José Estebes ou a rústica Maximiana.
O programa seguinte, Humor de Perdição (1987), torna-se polémico após a suspensão por parte do Conselho de Administração da RTP, precisamente quando estava para ser transmitida a entrevista histórica (uma rubrica do programa) à Rainha Santa Isabel. Nesse mesmo ano estreia-se no cinema em O Querido Lilás, de Artur Semedo.
Paralelamente à televisão, Herman desenvolveu na década de 1980 uma intensa actividade de humorista radiofónico, primeiro na Rádio Comercial, depois na TSF e, por fim, como autor da Hermandifusão Portuguesa na Antena1, em duas edições diárias num simultâneo com a RDP Internacional, RDP África, Madeira e Açores.
Década de 1990
Só regressa à televisão em 1990, com Casino Royal, uma mistura de noite de teatro com programa de variedades. Ainda no início da década de 1990 entrega-se à apresentação de concursos como Com a Verdade M’ Enganas e Roda da Sorte , para, logo de seguida, apresentar Parabéns (1993), onde inaugura um espaço talk-show, por onde passam fíguras díspares como Mário Soares, Amália Rodrigues, Roger Moore e Cher.
Foi agraciado com o grau de Comendador da Ordem do Mérito a 10 de Junho de 1992.1
Em 1996 deixa o Parabéns, após a censura da rubrica Última Ceia, que juntou cem mil assinaturas num abaixo-assinado a reclamar da proibição daquela rábula. Regressa comHerman Enciclopédia (1997), com duas séries de sucesso de um humor culto e vernacular. Sobressaem novas personagens, como Diácono Remédios ou Melga e Mike (este último interpretado por José Pedro Gomes), satirizando a publicidade das televendas. Para 1998, altura em que Lisboa recebeu a Exposição Mundial (já caricaturada nas rábulas da Expo ’97, no Porto), lança Herman98 e depois Herman99.
Década de 2000 e saída da RTP
Em 2000, Herman José chega à SIC, apresentando aos Domingos, o talk-show HermanSIC. O programa contava com uma equipa de actores constituída por Maria Rueff, Joaquim Monchique, Ana Bola, Maria Vieira, Manuel Marques, Vítor de Sousa e, durante algum tempo, Nuno Lopes.
Em 2002 apresenta o reality show Masterplan – O Grande Mestre, juntamente com Marisa Cruz, e em 2005 volta a esse tipo de formatos com Senhora Dona Lady que apresentou com Sílvia Alberto e que se revelou um autêntico fracasso durando apenas duas semanas.
Herman José torna-se proprietário do Teatro Tivoli, situado na Avenida da Liberdade (Lisboa), em 2005.
Em 2007 estreia Hora H, à semelhança de outros programas do actor está dividido em sketchs humorísticos. Apesar do fracasso, foi nomeado como Melhor Programa de Humor, no único festival da especialidade, o Festival de Humor de Monte Carlo.
No dia 13 de Janeiro de 2007, no programa Os Grandes Portugueses, Herman José ficou em 70º lugar na lista dos 100 maiores portugueses de sempre. No dia 1 de Abril de 2007recebe o décimo segundo Globo de Ouro, desta vez sob a Ordem de Mérito e Excelência. Outros dos prémios que recebeu foi o Prémio Personalidade Masculina Portuguesa do canal Biography Channel em 2008.
Em Maio de 2008 o apresentador lançou a versão portuguesa de Chamar a Música,2 um concurso que teve no ar durante a época de verão de 2008, alcançando óptimos resultados de audiências. Em Setembro de 2008 volta a apresentar o concurso Roda da Sorte na SIC.3
Em 2009 muda-se para a TVI, onde apresentou o programa Nasci P’ra Cantar entre Julho e Setembro de 2009. Em Julho de 2009 lançou o álbum Adeus, vou ali já venho.