Несмотря на это формальное разделение, айнзацгруппы и немецкая армия часто работали в тесном сотрудничестве. Айнзацгруппы полагались на армию в вопросах материально-технического обеспечения, транспорта и безопасности. Во многих случаях армия предоставляла айнзацгруппам карты, разведданные и доступ к военнопленным. В некоторых случаях армейские части даже принимали непосредственное участие в массовых убийствах, устроенных айнзацгруппами.
Однако между айнзацгруппами и немецкой армией также существовали напряженность и конфликты. Некоторые офицеры немецкой армии были обеспокоены методами айнзацгрупп и стремились дистанцироваться от их деятельности. Других возмущал тот факт, что СС предоставили преференции с точки зрения ресурсов и снабжения. В некоторых случаях армейские офицеры сообщали своему начальству о зверствах айнзацгрупп, но эти сообщения часто оставались без ответа или игнорировались.
В целом отношения между айнзацгруппами и немецкой армией характеризовались сочетанием сотрудничества, соперничества и напряженности. Хотя две организации работали вместе для достижения общей цели — завоевания и умиротворения оккупированных территорий, существовали также существенные различия в их методах и мотивах.