Pendant les sept années du conflit, ces deux unités combattirent en France, en Belgique, en Allemagne, en Italie, dans les pays scandinaves, dans les Balkans, en Europe de l'est et en URSS. Toutefois, si de plusieurs crimes de guerre furent commis en France, la grande majorité des exactions eurent lieu sur le front est.

Les premiers massacres commis par la Wehrmacht survinrent lors de la campagne de Pologne[2], en septembre 1939. L'on estime que 50 000 civils perdirent la vie d'ici la fin des opérations militaires (bombardements, exécutions de masse, pillages, etc.), même si les massacres se poursuivirent après la conquête de la Pologne.

Ainsi, plusieurs villages furent rasés lors de l'occupation allemande (la Pologne devait devenir une colonie allemande) ; au cours de l'insurrection de Varsovie, pendant l'été 1944, la Wehrmacht, aux côtés des SS, participa au massacre de Wola, dans les quartiers nord-ouest de la capitale, massacrant plus de 50 000 civils en l'espace de quelques jours.  

En URSS, les crimes de guerre perpétrés par la Wehrmacht prirent une ampleur démesurée, l'Etat-major allemand collaborant avec les Einsatzgruppen[3], en vue d'éliminer les populations juives et slaves des régions occupées.

Si l'on ne peut pas imputer à la Wehrmacht l'entière responsabilité des massacres commis sur le front est, notons néanmoins que 12 millions de Polonais, Russes et Ukrainiens furent éliminés entre 1939 et 1945[4].

Dans un même ordre d'idées, de nombreux soldats soviétiques capturés par la Wehrmacht trouvèrent la mort dans les Stalags[5] (contrairement aux prisonniers de guerre du front ouest qui furent relativement bien traités.). En effet, l'URSS n'avait pas signé la convention de Genève (contrairement à l'Allemagne.) ; ainsi, le troisième Reich refusa d'accorder de bonnes conditions de détentions aux Soviétiques, sachant que les Allemands faits prisonniers en URSS subissaient des mauvais traitements.

En Europe de l'ouest, la majorité des crimes de guerres commis par la Wehrmacht furent majoritairement perpétrés à titre de représailles. Ainsi, à chaque attentat commis par les partisans contre l'armée allemande, plusieurs civils des villages avoisinants étaient exécutés de façon sommaire.

A l'issue du second conflit mondial, plusieurs procès furent organisés en Allemagne, le plus important étant le procès de Nuremberg. Si plusieurs généraux allemands furent condamnés à mort à cette occasion, l'Etat-major de la Wehrmacht ne fut pas considéré comme une organisation criminelle (au contraire de la SS[6].).

Apparut alors la théorie de la Wehrmacht "propre", relayée par de nombreux officiers, avançant l'idée selon laquelle l'armée allemande n'aurait jamais commis de crimes de guerre. A noter que cet argumentaire trouva écho en Allemagne et aux Etats-Unis, à une époque où le bloc de l'ouest, dans le contexte de la guerre froide, avait besoin d'alliés contre la menace soviétique.

C'est ainsi que fut opéré le distinguo entre la SS, organisation composée de nazis fanatiques, et la Wehrmacht, qui avait combattu selon les lois de la guerre et dans la plus complète ignorance de la Shoah[7].