Jan Christiaan Smuts nació en 1870, hijo de los terratenientes Jacobus y Catharina Smuts, en la granja familiar de Bovenplaats, cerca de Malmesbury, en la Colonia del Cabo (actual Sudáfrica).
En 1882 falleció su hermano mayor, por lo que tuvo derecho a recibir educación. En 1886, comenzó a estudiar en el Victoria College (actual Universidad de Stellenbosch) en Stellenbosch, Colonia del Cabo, donde conocería a Issie Krige, con quien se casaría en abril de 1897.
Al terminar sus estudios en el Victoria College, fue a la Universidad de Cambridge, en el Reino Unido, para estudiar Derecho con una beca y un préstamo del profesor J. I. Marais del Victoria College; se graduó en Cambridge en 1893. En 1894 aprobó los exámenes para el Inns of Court, pero al año siguiente decidió no ejercer la profesión de abogado en Gran Bretaña, y regresó a la Colonia del Cabo.
En la Colonia del Cabo, ejerció la abogacía, escribió para el periódico Cape Times, asesoró a Cecil Rhodes, de la compañía minera De Beers, y se hizo políticamente activo en el partido político Afrikaner Bond. A principios de 1896, tras la incursión de Jameson y el papel de De Beers en ella, dimitió y desapareció brevemente de la vida pública, realizando una gira por el sur de África durante 1897.
En junio de 1898, el presidente de la República Sudafricana/Transvaal, Paul Kruger, contrató a Smuts como fiscal del Estado, con lo que volvió al servicio público, aunque ahora se oponía al Imperio Británico.
Durante la Segunda Guerra de los Bóers, entre las repúblicas bóers y las colonias británicas, dirigió la propaganda, la logística, las comunicaciones y diversos aspectos para Transvaal; más adelante en la guerra, sirvió a las órdenes del general Koos de la Rey como oficial de unidades de comando.
Su carrera política hizo una pausa tras la Segunda Guerra de los Bóers, en la que el derrotado Transvaal fue tomado como colonia británica. Volvió a la política en diciembre de 1906, tras bajar la tensión, y se convirtió en el Primer Ministro del Transvaal, Louis Botha, en Secretario Colonial y Secretario de Educación.
En los años siguientes, apoyó el impulso de Botha para la unificación del sur de África, que se materializó con el establecimiento en 1910 de la Unión Sudafricana, una nación de la Commonwealth británica. Bajo el mandato del Primer Ministro Botha, Smuts fue Ministro del Interior, Ministro de Minas y Ministro de Defensa.
Poco después, fue relevado como ministro del Interior, pero obtendría el control del tesoro. En 1913, Botha y Smuts fueron acusados de acaparar demasiado poder, aunque vencerían por poco una moción de censura.
En 1914, Smuts declaró la ley marcial durante una huelga general, deteniendo y deportando a los líderes sindicales sin juicio, y poco después sofocando una posible rebelión armada antes de que se materializara con fuerza en noviembre de 1914.
Durante la Primera Guerra Mundial, volviendo a vestir su uniforme de general, Smuts desempeñó un papel clave en la conquista del África sudoccidental alemana, pero también se le acusó de un mal liderazgo que provocó un gran número de bajas innecesarias durante la campaña.
A principios de 1917, participó en la conferencia del Gabinete de Guerra Imperial en Londres, Inglaterra, Reino Unido. En 1918, apoyó la creación de la Real Fuerza Aérea Británica.
Después de la Primera Guerra Mundial, volvió a centrarse en la política, convirtiéndose en el segundo Primer Ministro de la Unión Sudafricana en 1919 tras la muerte de Botha. En 1920, desempeñó el papel de enlace entre los británicos y los irlandeses y negoció un acuerdo de paz entre ambos.
En 1924, fue derrotado en las elecciones; hasta su regreso a la política en la década de 1930, se dedicó a la botánica y la filosofía.
En 1931, Smuts se convirtió en el primer presidente no británico de la Asociación Británica para el Avance de la Ciencia y, a continuación, se convirtió en el segundo Lord Rector no británico de la Universidad de St Andrews en Escocia, Reino Unido.
En la década de 1930, Smuts fue nombrado viceprimer ministro bajo el gobierno de coalición del primer ministro J. B. M. Hertzog.
En 1939, cuando Hertzog anunció su postura de neutralidad hacia Alemania, Hertzog fue expulsado, y Smuts, que apoyaba la adopción de medidas contra Alemania, volvió a ocupar el puesto de primer ministro. Ascendido al rango de mariscal de campo del ejército británico en 1941 (fue el primer sudafricano en ostentar ese rango), fue nombrado miembro del Gabinete de Guerra Imperial.
Desempeñó un papel fundamental no sólo en la puesta a disposición de los recursos sudafricanos para el esfuerzo bélico, sino también en la coordinación de las naciones de la Commonwealth con el mismo objetivo. Su contribución al Imperio Británico fue tan grande que hubo un movimiento para nominarlo como sucesor de Winston Churchill como Primer Ministro del Reino Unido en caso de que Churchill muriera antes del final de la guerra.
En mayo de 1945, representó a Sudáfrica en la conferencia de la Carta de las Naciones Unidas en San Francisco, California, Estados Unidos, y en 1947 firmó el Tratado de Paz de París; fue la única persona que estampó su firma en los documentos de creación de la Sociedad de Naciones y de las Naciones Unidas y en los documentos que ponían fin oficialmente a la Primera y Segunda Guerra Mundial.
Su dedicación a la causa bélica británica durante la guerra le hizo popular en la escena política internacional, pero en el ámbito interno le distanció del pueblo sudafricano, en particular de los afrikaners, que históricamente desconfiaban de los británicos. En junio de 1948 fue destituido y se retiró de la política.
Poco después de su jubilación fue nombrado rector de la Universidad de Cambridge, convirtiéndose en el primer no británico en ocupar ese cargo. En octubre de 1948, su hijo Japie falleció inesperadamente. Smuts falleció en 1950 de un ataque al corazón en su casa, Doornkloof, en Irene, Sudáfrica.