Quando Hitler ordenou a invasão da Polônia, em setembro de 1939, dando início ao maior conflito da História, a Alemanha nazista tinha duas organizações de Inteligência, a Abwehr que era o serviço de Inteligência militar e o Sicherheitsdienst ou SD, vinculado ao Partido Nazista e cuja função principal era espionar os outros membros para a temida SS (Schutzstaffel). Embora o Tratado de Versailles proibisse os alemães de estabelecerem seu próprio serviço de Inteligência, em 1920 eles criaram um grupo de espionagem dentro do Ministério da Defesa, ao qual denominaram Abwehr que inicialmente deveria apenas combater a espionagem estrangeira dentro do país. Porém após a ascensão de Hitler ao poder, ela se tornou uma agência de Inteligência independente e a partir de janeiro de 1935 passou a ser dirigida pelo Almirante Wilhelm Canaris, um brilhante oficial da velha escola que falava fluentemente seis línguas e já tinha alguma experiência nesta área, devido à sua atuação como oficial de Inteligência do navio SMS Dresden no decorrer da Primeira Guerra Mundial. Com a proximidade de um novo conflito, a agência passou de 150 funcionários para mais de mil em apenas dois anos e Canaris promoveu uma reorganização, subdividindo a Abwehr em três seções principais: a Divisão Central (Abteilung Z) como o cérebro controlador para as outras duas seções e acumulando as funções administrativas; o Serviço Estrangeiro (Amtsgruppe Ausland) com funções de ligação com o OKW (Oberkommando der Wehrmacht) o Alto Comando do Exército Alemão, coordenação com o Ministério das Relações Exteriores em assuntos militares e avaliação  de documentos capturados, imprensa estrangeira e das emissões de rádio; e a terceira divisão era a própria Abwehr, focada na coleta de Inteligência. Por sua vez esta última foi subdividida nas seguintes áreas e responsabilidades: o Serviço de Informações do Exterior (análise de documentos falsos e fotografias, comunicações, monitoração dos Exércitos Aliados, etc); Sabotagem (encarregada de contatar e explorar secretamente grupos descontentes em outros países); e a Divisão de Contra-Inteligência (responsável pela contra-espionagem na indústria alemã, plantação de informações falsas, investigação de atos de sabotagem em solo alemão, etc).

Antes do início da guerra, o Abwehr era bastante ativo e eficaz, pois construiu uma ampla rede de contatos, desenvolvendo ligações com os ucranianos que se opunham ao regime soviético, conduzindo reuniões com nacionalistas indianos que trabalhavam contra o domínio britânico na Índia e estabelecendo um acordo de compartilhamento de informações com os japoneses. Houve até alguma infiltração significativa na extensão da capacidade industrial e potencial econômico dos Estados Unidos e dados foram coletados pela Abwehr sobre a capacidade militar americana e planejamento de contingência. Após assumir o controle absoluto sobre o OKW em fevereiro de 1938, Hitler declarou que não queria homens da Inteligência sob seu comando, mas homens de brutalidade, uma observação que não agradou Canaris. Sob seu comando, o Abwehr se expandiu e provou ser eficiente durante os primeiros anos da guerra. Seu sucesso mais notável foi a Operação Nordpol, que era uma ação contra a rede subterrânea holandesa, que na época era apoiada pelo Special Operations Executive (SOE) organização secreta britânica. Concomitante coletou informações sobre os embarques de entrada e saída dos portos dinamarqueses e noruegueses e, como resultado, mais de 150.000 toneladas de cargas diversas foram destruídas. Agentes na Noruega e na Dinamarca penetraram com sucesso em suas Forças Armadas, mantendo as forças alemãs, particularmente a Luftwaffe, intimamente informadas durante a invasão da Noruega o suficiente para determinar a disposição das forças terrestres em ambos os países. A Abwehr montou o que se chamaria de uma operação de inteligência bem sucedida em alguma escala e provou ser crítica para o sucesso dos esforços militares alemães no Norte da Europa.

Em março de 1941, os alemães forçaram um operador de rádio SOE capturado a transmitir mensagens para a Grã-Bretanha em um código obtido pelos alemães. Assim, os alemães conseguiram penetrar na operação holandesa e mantiveram esse estado de coisas por dois anos, capturando agentes e enviando informações falsas e relatórios de sabotagem até que os britânicos perceberam. Mas algumas fontes sugerem que os ingleses estavam bem cientes de que os rádios estavam comprometidos e usaram esse método para fornecer informações falsas aos alemães sobre o local dos desembarques do Dia D, na Normadia. Hitler enviou Canaris pessoalmente a Madri durante o início do verão de 1940 para convencer a Espanha a se juntar à luta contra os Aliados, para a qual Gibraltar poderia ter valor militar estratégico. A missão foi um fracasso pois Franco, por várias razões políticas e militares, não estava pronto para se juntar ao esforço de guerra alemão. Avaliações tardias e incorretas da Abwehr sobre o verdadeiro poderio do Exército Vermelho da contribuíram para o excesso de confiança militar nazista e seu mecanismo de relatório nada disse sobre a capacidade de mobilização maciça da União Soviética, um descuido que provavelmente contribuiu para a derrota alemã, uma vez que os cronogramas eram tão importantes para o sucesso da invasão da Rússia. O fracasso do Exército alemão em alcançar seus objetivos em curto espaço de tempo provou ser crucial; uma vez que o inverno chegou, as forças alemãs inadequadamente equipadas sofreram quando os suprimentos não os alcançaram. Superestimar suas capacidades e confiar demais em suas próprias avaliações, bem como subestimar seus inimigos (especialmente os soviéticos e os americanos), considerando-se ainda as tradições de obediência incondicional, foi historicamente por muito tempo uma fraqueza central no sistema militar alemão.

Em colaboração com agentes da SD, a Abwehr elaborou a Operação Bernhard um plano para falsificar as notas de papel moeda emitidas pelo Banco da Inglaterra. A ideia inicial era lançar essas notas falsas sobre a Grã-Bretanha para provocar um colapso da economia britânica durante a Segunda Guerra. A primeira fase foi executada desde o início de 1940 pelo SD sob o codinome de Operação Andreas. A unidade duplicou com sucesso o papel usado pelos britânicos, produziu blocos de gravação quase idênticos e deduziu o algoritmo usado para criar o código serial alfanumérico em cada nota. Em vez de uma unidade especializada, agentes alemães selecionaram prisioneiros judeus que dominavam a arte de cunhar moedas que foram enviados ao campo de concentração de Sachsenhausen para trabalhar sob o comando do major da SS Bernhard Krüger. A unidade produziu notas britânicas até meados de 1945; as estimativas variam quanto ao número e valor das notas impressas, de £ 130 milhões a £ 300 milhões. Quando a unidade encerrou a produção, eles haviam aperfeiçoado a arte em dólares americanos, embora o papel e os números de série ainda estivessem sendo analisados. O dinheiro falsificado foi lavado em troca de dinheiro e outros ativos. Notas falsas da operação foram usadas para pagar ao agente albanês Elyesa Bazna - codinome Cícero - por seu trabalho na obtenção de segredos britânicos do embaixador da Grã-Bretanha em Ancara. Eram tão bem feitas que a falsificação só foi descoberta depois do fim da guerra. Um grande fracasso do Abwehr ocorreu quando a existência de uma rede de espiões, que operava fora da Áustria e vinha trabalhando com os Aliados, foi descoberta pela Gestapo. Seus membros forneceram ao Office of Strategic Services (OSS) americano planos e informações sobre as instalações em Peenemünde, sobre os projetos dos foguetes V-1, V-2, de tanques Tiger, das aeronaves Messerschmitt Bf 109, Messerschmitt Me 163 Komet, entre outros e forneceu informações sobre a existência dos infâmes campos de concentração, como o de Auschwitz. Apesar do uso da tortura pela Gestapo, os nazistas foram incapazes de descobrir a verdadeira extensão do sucesso do grupo, particularmente no fornecimento de informações para a Operação Crossbow e Operação Hydra, ambas missões preliminares para a Operação Overlord (a invasão da Normandia, o Dia-D). Embora tenha se dedicado a exercer sua função no comando da Abwehr, a realidade é que o Almirante Wilhelm Canaris, já havia algum tempo, se mostrava insatisfeito com as diretrizes políticas e militares de Hitler, colocando em dúvida a legitimidade do regime ao qual servia. Assim, em julho de 1944, após uma tentativa frustrada de um grupo de oficiais alemães em assassinar o Führer, do qual se suspeitava que Canaris fizesse parte, ele foi preso e executado em abril de 1945.