Alfred Rosenberg nació en Reval, Gobernación de Estonia, Imperio Ruso (actualmente Tallin, Estonia), en el seno de un rico comerciante alemán. Estudió arquitectura en el Instituto Politécnico de Riga, en Letonia, y luego estudió ingeniería en la Escuela Técnica Superior de Moscú, en Rusia; se doctoró en 1917.
Mientras estaba en Moscú, se casó con Hilda Leesmann, una estonia, en 1915. Durante la Revolución Rusa de 1917, apoyó a los zaristas, y cuando éstos perdieron la guerra civil, emigró a Munich (Alemania) en 1918. Antisemita y anticomunista, se le convenció fácilmente para que se uniera al Partido Obrero Alemán en enero de 1919 como uno de sus primeros miembros, adelantándose a Adolf Hitler en 9 meses.
Había trabajado con Dietrich Eckart en el periódico Völkischer Beobachter (El Observador del Pueblo), que se convertiría en el periódico oficial del Partido Nazi en diciembre de 1920. En 1923, se convirtió en director del periódico.
Ese mismo año se divorció de Hilda Leesmann. En 1924, mientras Hitler cumplía su condena en prisión por el fallido Putsch de la Cervecería, Rosenberg fue nombrado líder temporal del Partido Nazi. En 1925, se casó con Hedwig Kramer; tendrían un hijo (que murió en la infancia) y una hija.
En 1929, fundó la Liga Militante para la Cultura Alemana; más tarde, fundó el Instituto para el Estudio de la Cuestión Judía para atacar la influencia judía en la cultura alemana. En 1930, se convirtió en diputado del Reichstag.
Ese mismo año publicó el libro Der Mythus des 20. Jahrhunderts (El mito del siglo XX), centrado en la filosofía nazi; vendió un millón de ejemplares en 1945, pero los dirigentes del partido no lo consideraron una obra importante de la literatura del Partido Nazi.
En 1933, Rosenberg se convirtió en el jefe de la oficina política exterior del Partido Nazi. En ese cargo, visitó el Reino Unido ese mismo año para promover la amistad anglo-alemana, y la visita fue un fracaso.
En una visita a la Tumba del Guerrero Desconocido en la Abadía de Westminster en Londres, Inglaterra, Reino Unido, colocó una corona de flores con el emblema de una esvástica en la tumba; el gesto fue tan ofensivo para algunos británicos que un veterano la cogió más tarde y la arrojó al río Támesis.
En 1934, Hitler nombró a Rosenberg jefe de educación espiritual y filosófica del Partido Nazi, convirtiéndolo así en el principal teórico racial del partido. Aunque los detalles de sus puntos de vista raciales tuvieron pequeños cambios a lo largo de los años, siempre vio con animosidad a los judíos, los negros y los homosexuales.
En cuanto a la religión, despreciaba el cristianismo por sus orígenes judíos y por la creencia cristiana de que todas las personas nacían pecadoras, esto último porque todos los alemanes, según su propia filosofía, nacían nobles.
Este punto de vista abierto contra el cristianismo no sentó bien a otros líderes del Partido Nazi; aunque muchos de los que ocupaban posiciones de poder rechazaban de hecho el cristianismo en privado, en público evitaban las declaraciones radiales en un intento de mantener la unidad entre los alemanes.
A principios de 1940, se convirtió en el director de la institución académica Centro de Investigación Ideológica y Educativa Nacional Socialista. En marzo de 1941, Rosenberg fue nombrado jefe del Ministerio del Reich para los Territorios Orientales Ocupados (Reichsministerium für die besetzten Ostgebiete) en preparación de la invasión alemana de la Unión Soviética.
En este cargo, llevó a cabo la deportación y el exterminio de judíos, pero protestó cuando los grupos de las SS actuaron de forma similar contra los pueblos eslavos, ya que Rosenberg consideraba a los eslavos como una clase racial superior que podía ser germanizada.
Suprimió las granjas colectivas soviéticas en los territorios conquistados y devolvió las tierras de labranza a las familias eslavas, una política que no gustó a sus colegas de Berlín, ya que esta acción se consideró perjudicial para las mayores cantidades de alimentos que necesitaba el ejército alemán.
Al final de la guerra, Rosenberg fue capturado por las tropas aliadas. Juzgado en Nuremberg, Alemania, se determinó que desempeñó un papel decisivo en la configuración de la filosofía nazi y en la ejecución de las políticas contra los judíos.
Se le declaró culpable de conspiración para cometer crímenes contra la paz; planificación, iniciación y ejecución de guerras de agresión; crímenes de guerra y crímenes contra la humanidad.
Negándose a hacer una última declaración antes de su ahorcamiento, Alfred Rosenberg fue ejecutado el 16 de octubre de 1946.