En 1939 se convirtió en jefe de Estado Mayor del 10º Ejército bajo el mando de von Reichenau, bajo el cual también luchó con el 6º Ejército en el Frente Occidental. En 1942, sucedió al general Stulpnagel como comandante de este ejército, con la tarea de ocupar Stalingrado.
Tras la victoria en Járkov, Paulus consiguió penetrar en la ciudad de Stalin, pero gracias a la tenaz resistencia del ejército ruso, la ocupación no pudo completarse y poco a poco los sitiadores fueron víctimas de una maniobra de cerco de la defensa soviética.
Después de tres meses de lucha, en los que los alemanes combatieron a los rusos en cada metro de terreno, enfrentándose a los rigores del invierno, a la dificultad de moverse entre los escombros de la ciudad (los bombardeos aéreos habían hecho muy poco práctico el movimiento de los tanques, presa fácil de los defensores rusos) y a la falta de suministros, von Paulus, al frente del 6º Ejército, se rindió, a pesar de la prohibición de Hitler de negociar la rendición.
Durante su encarcelamiento, se puso en contacto con un grupo de soldados alemanes antinazis y en 1944 participó en el comité nacional “Alemania Libre” para evitar la continuación de una guerra inútil y comprometida.
Como testigo en Nuremberg, pasó sus últimos años en Alemania Oriental trabajando con el gobierno de este país.
