A mű tizenkét fejezete öt jól elkülöníthető szerkezeti részből épül föl.
A kisregény szerkezetének meghatározó eleme az időrend.Tolsztoj szándékosan szakított a hagyományos, lineáris időrendiséggel. Az első fejezetben értesülünk a hivatalnok haláláról a felesége által közzétett gyászjelentésből, s csak utána kezd bele Ivan Iljics történetébe. A megváltoztatott időrend alkalmat ad arra, hogy a főszereplő halálával kapcsolatban megnyilatkozó munkatársak, barátok, a család tagjai értelmezzék a halál tényét, illetve megtudhatjuk, hogyan vélekednek az elhunytról. A felcserélt kronologikusság és a késleltetés szerepe kettős: egyfelől hangsúlyt kap, hogy Tolsztoj érdeklődésének középpontjában ezúttal elsősorban a halál áll, és csak ezután következik a főhős életének jellemzése. Másfelől az olvasóban is egyre inkább növekszik a kíváncsiság: milyen életet élt, miféle ember volt ez az Ivan Iljics, akinek a halála ilyen reakciókat vált ki környezetéből.