Budapesten született 1929-ben, zsidó családban. 1944-ben Auschwitzba deportálták, a felszabadulás Buchenwaldban érte. 1945-ben visszatért Magyarországra, fizikai munkásként dolgozott, majd újságíró lett. 1953-tól szabadfoglalkozású író és műfordító. Németből több jelentős szerzőt (Nietzshe, Hofmannstal, Wittgenstein) ültetett át magyarra.

Első regényén, a Sorstalanságon 13 éven át dolgozott. Többszöri visszautasítás után a mű 1975-ben megjelenhetett ugyan, de a hivatalos kritika hallgatott róla, igazi jelentősége egy évtizeddel később, a második kiadás után mutatkozott meg. A fő mű irodalmi fogadtatásával foglalkozik A kudarc (1988) című regény. Ezt a regényt egy tetralógia második részének szokták tekinteni, amelynek első része a Sorstalanság, harmadik része az 1996-ban napvilágot látott Kaddis a meg nem született gyermekért. A Kaddis-ban újra megjelenik Köves György, az előző két regény főszereplője, s elmondja a kaddisát, halotti imáját a gyerekért, akit nem hajlandó arra a világra nemzeni, amely megengedte a megengedhetetlent, Auschwitzot. A tetralógia befejező kötete a legújabb regény, a Felszámolás (2003)..

Elbeszéléseit A nyomkeresö (1977) és Az angol lobogó (1991) kötetek tartalmazzák. A Gályanapló (1992) című, szépirodalmi formában megírt napló az 1961-91-es éveket fogja át, A változás krónikája (1997) az író 1991-95 között vezetett jegyzeteit tartalmazza. Előadásait és esszéit három kötetben gyűjtötte össze: A holocaust mint kultúra (1993), A gondolatnyi csend, amíg a kivégzőosztag újratölt (1998), A száműzött nyelv (2001).

A nyolcvanas évektől számos hazai és nemzetközi elismerésben részesült (József Attila-, Kossuth-, Herder-díj). 2002-ben a Svéd Akadémia az irodalmi Nobel-díjat – elsőként a magyar írók közül – Kertész Imrének ítélte „egy írói munkásságért, amely az egyén sérülékeny tapasztalatának szószólója a történelem barbár önkényével szemben”.