Antes del estallido de la Segunda Guerra Mundial, Wilhelm Canaris ocupó los cargos de Ministro de Transporte Naval y Comandante de un submarino, una fachada para la organización de un servicio de información apoyado por la marina alemana que se estaba rearmando en secreto, a pesar de las prohibiciones impuestas tras la Primera Guerra Mundial.
Tras el advenimiento del nazismo, al que se opuso desde el principio, Canaris fue puesto al frente del servicio secreto que operaba en el extranjero y se distinguió brillantemente en el tejido de su red de información. Uno de sus agentes, Wehring, era responsable de la información sobre las defensas de la base de Scapa Flow y la posición del acorazado británico Royal Oak, hundido por el submarinista Günther Prien en 1939.
Conocedor de los planes de guerra más importantes de la política de Adolf Hitler, Canaris se dio cuenta inmediatamente de la catástrofe a la que se enfrentaba Alemania y trató de frustrar los planes nazis fomentando una filtración de información en detrimento de las fuerzas armadas alemanas, con el apoyo de algunos oficiales superiores del ejército.
Parece haberse establecido que en 1940 advirtió a los diplomáticos belgas y holandeses de que la invasión alemana era inminente. Ese mismo año fue a Madrid con la aparente intención de convencer a Franco de que interviniera en la Segunda Guerra Mundial, pero en lugar de ello trabajó para obtener su neutralidad.
A pesar de su aversión al nazismo, Wilhelm Canaris se mantuvo fiel a su puesto: se enfrentó al aparato policial soviético de Beria con la colaboración de su antiguo jefe Walther Nicolai. En 1944, tras la detención de algunos de sus colaboradores por la Gestapo (acusados de sedición), Canaris dimite de su cargo para convertirse en ministro de Asuntos Exteriores. En un intento de sacar a Alemania de la Segunda Guerra Mundial, participó en la conspiración del 20 de julio, que culminó con el fallido intento de asesinato de Hitler.
Fue arrestado por Walter Schellemberg, jefe del servicio secreto de las SS y acérrimo opositor suyo. Tras un falso juicio, fue ahorcado en 1945.