Mueller foi um dos principais arquitectos do programa para exterminar os judeus na Europa.
O jornal Bild diz ter visto documentos que confirmam sua morte.
O presidente do Conselho Central dos Judeus na Alemanha, Dieter Graumann, disse que ficou chocado com a revelação.
"Que tal sádico nazista brutal esteja enterrado num cemitério judeu de todos os lugares possíveis é uma monstruosidade de mau gosto. A memória das vítimas está sendo fortemente pisada", disse ao jornal Bild .
O jornal cita o professor Johannes Tuchel, um historiador, que diz ter descoberto evidências de arquivo mostrando que Mueller morreu no final da guerra.
"Mueller nunca sobreviveu à guerra. O seu corpo foi enterrado em 1945, numa vala comum no cemitério judaico", disse ele.
Correspondentes dizem que os esforços para encontrar o corpo de Heinrich Mueller seria muito difícil, pois o local exacto do túmulo é desconhecido.
Enigma
Houve sempre um ar de mistério em torno do destino de Heinrich Mueller, um participante na Conferência de Wannsee em Janeiro de 1942, onde a eliminação de judeus - a "Solução Final" - foi determinada.
Ele foi registrado como estando presente no bunker de Hitler no dia em que este se suicidou. Mas depois disso o seu paradeiro permaneceu desconhecido.
Em 1949, a agência de inteligência da Alemanha (BND) relatou ter visto Mueller na Checoslováquia. Mas não parece haver nenhuma evidência de que ele foi perseguido.
O professor Tuchel, que também é o chefe do Memorial Resistência Alemã em Berlim, disse que o avistamento estava errado. Disse que os documentos descobertos indicam que Mueller foi enterrado primeiro perto de um aeroporto em Berlim nos últimos dias da guerra.
Disse que "um corpo em uniforme de general, com documentos de identificação do Mueller" foi então exumado e enterrado numa das três valas comuns no cemitério judaico e certificada por um registrador local das mortes em 1945.
Mais tarde teorias sugeriram que Mueller tivesse sido enterrado no distrito de Neukölln, em Berlim. E, em 1963, um coveiro, Walter Lueders, disse à polícia que ele tinha enterrado Mueller pessoalmente, de acordo com o site on-line alemã, The Local.