MeHuCo – Meaningful Human Control

Led by:  Prof. Dr. Susanne Beck, LL.M. (LSE)
Team:  Dipl.-Jur. Simone Tiedau
Year:  2022
Date:  10-05-23
Funding:  2.379.000 € (gesamt)/ 400.000 € (Standort Hannover) durch das Bundesministerium für Bildung und Forschung (BMBF)
Duration:  1/4/2022-31/3/2026
Further information https://meaningfulhumancontrol.de

Gesamtprojekt

Eines der dringendsten Probleme der internationalen Sicherheit und des Friedens ist die Entwicklung und Anwendung Autonomer Waffensysteme (AWS). Akteur:innen aus Politik, Zivilgesellschaft, Militär und Wissenschaft debattieren kontrovers, ob und inwieweit mit der Ausweitung KI-basierter, maschineller Autonomie ein Verlust menschlicher Kontrolle wichtiger Kriegshandlungen droht. Das überregionale und interdisziplinäre Kompetenznetz ‚Meaningful Human Control. AWS zwischen Regulation und Reflexion‘ mit Forscher:innen der Science & Technology Studies (STS), Robotik, Rechtswissenschaft, Soziologie, Physik, Politikwissenschaft, Gender Studies und Medienwissenschaft sowie interdisziplinären Fellows aus dem globalen Süden, will bislang unverbundene Problembeschreibungen und disparate Konzepte historisch und kulturell situieren und in einem interdisziplinären Forschungsprogramm zusammenführen. Das Ziel ist 1. ein umfassendes Verständnis der soziokulturellen Dimension von AWS, 2. ein komplexes Technikverständnis soziomaterialer Handlungsfähigkeit von KI-basierten AWS, 3. die Bündelung transklassischer Kompetenzen der Friedensforschung, 4. die Übersetzung der wissenschaftlichen Ergebnisse zu ‚AWS und Meaningful Human Control‘ in einen breiteren öffentlichen Diskurs.

Teilprojekt

Kooperative Entscheidung vs. individuelle Verantwortung

Im Humanitären Völkerrecht ist die zunehmende Fokussierung auf individuelle Verantwortlichkeit bzw. strafrechtliche Verantwortlichkeit von großer Bedeutung. Auf ihm basiert die gegenseitige Anerkennung als handlungsfähige Personen, die (Wieder-)Herstellung des Glaubens an die Gültigkeit von Normen und die friedenssichernde Wirkung in der Gesellschaft. Angesichts der Fortentwicklung Autonomer Systeme wird eine Meaningful Human Control (MHC) gefordert – inzwischen nicht mehr nur über Waffensysteme, sondern auch in Kontexten wie der Medizin. Im Anschluss an ein Forschungsprojekt in der Medizin soll aus (völker-)strafrechtlicher Perspektive die Bedeutung der technischen Umsetzung, aber auch der Illusion der eigenen Handlungsmacht für die MHC, das Konzept von Verantwortung und damit verbundenen gesellschaftlichen Funktionen analysiert werden.