Le héros du roman est Jean Macquart, déjà personnage principal de La Terre, qui a repris du service dans l'armée après ses désillusions dans le monde paysan. Incorporé dans le 106e de ligne, il est caporal, et ses hommes le respectent pour son bon sens, son dévouement et sa saine conception de l'autorité. Il assiste impuissant à l'effondrement de l'empire et à la déroute de ses armées, que Zola attribue à l'incompétence de l'état-major, au manque de préparation des troupes et au rôle néfaste joué par l'impératrice Eugénie de Montijo auprès de Napoléon III.

Le roman est d'abord une dénonciation implacable de la guerre et de ses horreurs. C'est aussi l'histoire d'une amitié qui finira en drame entre Jean Macquart et l'un des ses soldats, l'intellectuel Maurice Levasseur. Le premier veut une France où règnent l'ordre et la sagesse; le second souhaite mettre fin aux injustices, et rêve de révolution. Ces divergences idéologiques ne les empêchent pas de s'aimer et de se respecter, chacun sauvant la vie de l'autre. Une fois la guerre finie, tous deux participent à la Commune, mais dans des camps différents. Lors de la Semaine sanglante, le versaillais Macquart blesse mortellement d'un coup de baïonnette un communard ;il s'aperçoit par la suite que c'est Levasseur. Jean Macquart, qui était sur le point d'épouser Henriette, sour de Levasseur, quittera Paris et l'armée. On le retrouve ensuite dans Le Docteur Pascal, vivant en Provence et marié à une paysanne du nom de Mélanie Vial.
Un peu comme Germinal, le roman se termine par une note d'espoir. Alors que Paris brûle et que Jean vient de perdre à la fois son meilleur ami et la jeune femme qu'il aimait, il a la sensation d'une aurore qui se lève, après la chute de la branche pourrie que constituait l'empire :

« C'était le rajeunissement certain de l'éternelle nature, de l'éternelle humanité, le renouveau promis à qui espère et travaille, l'arbre qui jette une nouvelle tige puissante, quand on a coupé la branche pourrie, dont la sève empoisonnée jaunissait les feuilles... et Jean, le plus humble et le plus douloureux, s'en alla, marchant à l'avenir, à la grande et rude besogne de toute une France à refaire. »