Zur Zeit des sogenannten „Dritten Reiches“ verstand man unter der „Gendarmerie“ die klassische Dorfpolizei auf dem Lande. Ihr oblagen mit wenigen Ausnahmen sämtliche polizeilichen Aufgaben. Ausgenommenen von ihrer Zuständigkeit waren: schwere kriminelle Delikte, für deren Bearbeitung die Kriminalpolizei zuständig war, staatspolizeiliche Vorfälle, die von der Gestapo verfolgt wurden sowie die Verkehrsüberwachung auf außerörtlichen Reichsstraßen, die (ab 1936) in den Tätigkeitsbereich der motorisierten Gendarmerie fiel.

Gendarmen verrichteten ihren Dienst in der Regel zu Fuß oder mit dem Fahrrad, Kraftfahrzeuge waren nur in Ausnahmefällen vorhanden.