Hans Koch war Verwaltungsfachmann. Nach seinem Abschluss an der Realschule arbeitete er in verschiedenen Ämtern und besuchte die Höhere Verwaltungsfachschule in Stuttgart. Als er 1938 nach zwei Jahren Wehrdienst in die Geheime Staatspolizei eintrat, hatte er keinerlei Erfahrung in der polizeilichen Arbeit. Wahrscheinlich fiel seine Beförderung zum Polizeiinspektor im April 1939 mit der Übernahme der Leitung der Abteilung „II B, Weltanschauliche Gegner“ zusammen. Kurz zuvor war er in die SS eingetreten.

Kochs Abteilung umfasste drei Referate mit den Zuständigkeiten für die katholische und evangelische Kirche (II B 1), Juden (II B 2) sowie für „Geheimlehren und Geheimwissenschaften“ (II B 3). Letzteres wurde später aufgelöst.

Koch leitete die Abteilung bis Herbst 1942, als er zur Sicherheitspolizei im Protektorat Böhmen und Mähren abkommandiert wurde. Ab 1943 arbeitete er dann im „Reichskommissariat Ostland“. Bis dahin hatte er die Deportationen der Juden aus Württemberg und Hohenzollern maßgeblich organisiert und deren Durchführung persönlich überwacht, indem er Transporte zusammen mit seinen Mitarbeitern begleitete. Er hatte auch die Maßnahmen gegen die katholische und evangelische Kirche im Allgemeinen koordiniert und beim Reichssicherheitshauptamt in Berlin zahlreiche Redeverbote für einzelne Pfarrer erwirkt. Seine Nachfolger waren Eugen Krause, Kurt Johner und ab Mai 1943 Walter Schurer, der die Abteilung bis April 1945 leitete.

Mit seiner Kommandierung zur Sicherheitspolizei wandelte sich der Bürokrat Koch zum ideologisch motivierten, aktiven Täter. Das sowjetische Militärgericht in Minsk, vor dem sich Koch im Januar 1946 verantworten musste, stellte eine Reihe von ihm begangener Kriegsverbrechen fest. Koch hatte Erschießungen von Zivilisten – Männern, Frauen und Kindern – angeordnet und auch selbst durchgeführt. Er hatte Gaswagen zur Ermordung von Menschen eingesetzt und war darüber hinaus verantwortlich für die im Lager Orechi verübten Morde. Das Militärgericht verurteilte Koch zum Tod durch Erhängen. Er wurde am 30. Januar 1946 hingerichtet.