Né en 1900 à Saint-Pétersbourg, en Russie, Joseph Billig avait émigré en France au début des années 30 après avoir passé son doctorat en philosophie à Berlin. Blessé lors de la bataille de la Somme, prisonnier de guerre durant la seconde guerre mondiale, il s'était lancé dans l'étude des archives allemandes dès la Libération en préparant aux côtés du procureur américain le procès des principaux dignitaires nazis devant le tribunal militaire international de Nuremberg.
Sa mère, déportée de France, a été assassinée par les Nazis.

Devenu chercheur auprès du Centre de Documentation Juive Contemporaine (CDJC), Joseph Billig a profondément marqué les premières recherches historiques sur le système concentrationnaire nazi et la politique antijuive mise en place par le régime de Vichy. Les trois volumes de son étude consacrée au Commissariat général aux questions juives (1955-1960) constituent son ouvrage principal.
Ce philosophe contrarié a cependant publié, toujours en langue française, bien d'autres livres décrivant et analysant les rouages de l'Etat SS comme l'Hitlérisme et le système concentrationnaire (1967) et les Camps de concentration dans l'économie du Reich hitlérien (1973).
Joseph Billig est décédé en 1994.
Le témoignage de Joseph Billig en 1969 au procès en appel de Beate Klarsfeld à Berlin pour avoir giflé le Chancelier Kurt-Georg Kiesinger a été retentissant. Il s'est agi d'un réquisitoire portant sur la carrière de propagandiste hitlérien du Chancelier allemand de la Grande Coalition. En 1976, Beate et Serge Klarsfeld ont demandé à Joseph Billig d'écrire un essai sur la Solution finale pour s'opposer au négationnisme émergeant. Ils ont publié cet ouvrage en 1977.