Comandante del 8º Cuerpo de Ejército en 1937, fue uno de los creadores de las fuerzas blindadas alemanas. Hostil a Hitler, chocó amargamente con él y se vio obligado a dimitir del ejército, para ser llamado de nuevo en 1938, dirigiendo el 1er Cuerpo Blindado mixto del 10º Ejército de von Reichenau.
Actuó en la campaña de Polonia en 1940 y en Francia (al frente de cinco divisiones acorazadas y tres mecanizadas del Grupo de Ejércitos “A” de von Rundstedt), con la tarea de lograr el avance decisivo en las Ardenas.
La operación fue encomendada entonces al general Guderian, con el que tuvo diferencias sobre la estrategia de guerra (este último llegó a proponer a Hitler la destitución de von Kleist), pero a pesar de ello consiguió buenos éxitos en territorio francés, destruyendo con sus tropas acorazadas nada menos que ocho divisiones enemigas en sólo cuatro días.
Luego participó en la campaña de los Balcanes, capturando Belgrado (1941).
Cuando estallaron las hostilidades contra Rusia, estaba al mando del 1er grupo acorazado de los ejércitos “del Sur” de von Rundstedt (la letra “K” pintada en blanco en sus tanques los distinguía de los del segundo grupo con la “G” de Guderian).
Después de que Reichenau rompiera la línea de Stalin, Kleist y von Stulpnagel cerraron veinte divisiones rusas en la bolsa de Uman, tomando más de 100.000 prisioneros. Junto con Guderian participó en el cerco de Kiev y en las operaciones en Ucrania.
Kleist pasó entonces a estar bajo el mando de von List y, todavía al frente del 1er Ejército Blindado, siguió la expedición hacia el Cáucaso con la intención de apoderarse de los campos petrolíferos, fracasando debido a la escasez de combustible y al constante agotamiento de su contingente.
En 1942 conquistó Rostov, y luego se dirigió a Stalingrado: la situación era trágica, y tras la derrota del general Paulus y la decisión de Hitler de retirarse, Kleist se retiró del Cáucaso sin sufrir grandes pérdidas, y fue nombrado mariscal de campo.
Su siguiente destino fue Crimea, al frente del Grupo de Ejércitos “A”, pero ante la ofensiva de Malinovsky y Tolbuchin tuvo que retirarse, siendo finalmente destituido por Hitler en favor de Schorner.
Al retirarse, cayó prisionero de los aliados y luego fue puesto bajo custodia soviética. Murió en 1954 en el campo de prisioneros de Vladimirovka.
