În paralel cu ghetoizarea, regimul nazist a desfășurat campanii de exterminare masivă și prin execuții in situ, în special pe teritoriile cucerite în Est. Protagonistele acestei forme de genocid au fost Einsatzgruppen – unități mobile de ucidere, formate din trupe SS și poliție, însărcinate cu eliminarea evreilor și a altor „elemente indezirabile” (romi, comisari sovietici, partizani) în spatele frontului german. După invazia Uniunii Sovietice în iunie 1941, patru Einsatzgruppen principale (A, B, C, D), însumând circa 3.000 de oameni, au pornit la acțiune în teritoriile ocupate​. Metoda lor era terifiant de simplă: intrau în localități imediat după trupele regulate, adunau populația evreiască sub diverse pretexte (de exemplu, pentru „recolonizare” sau verificarea actelor), îi duceau la marginea orașului – în păduri, pe malul râurilor sau la gropi comune săpate forțat – și îi executau prin împușcare în masă​. Întregi comunități evreiești de pe teritoriul Poloniei de est, Ucrainei, Belarusului și Țărilor Baltice au fost șterse în acest mod. Femeile, bătrânii și copiii nu au fost cruțați: Einsatzgruppen ucideau adesea „în unități familiale”, nemaiținând cont de vârstă sau sex​. Un exemplu cutremurător este masacrul de la Babi Yar (lângă Kiev): pe 29-30 septembrie 1941, sub coordonarea Einsatzgruppe C, circa 33.771 de evrei au fost împușcați și aruncați într-o râpă în doar două zile​. Evenimente similare s-au petrecut la Rîbnița, Odessa, în pădurea Rumbula lângă Riga (unde peste 25.000 de evrei letoni au fost uciși în noiembrie 1941) și la fortul IX din Kaunas (Lituania), unde în octombrie 1941 aproximativ 9.000 de evrei – jumătate copii – au fost masacrați într-o singură zi​.