Am 18. November 2025 fand erneut eine Veranstaltung im Rahmen der Ringvorlesung „Automatisierte Systeme“ in hybrider Form statt. Hierzu hatte der Lehrstuhl für Zivilrecht, Europäisches und Internationales Wirtschaftsrecht (Prof. Dr. Buck-Heeb) zusammen mit dem Interdisziplinären Institut für Automatisierte Systeme e.V. (RifaS) eingeladen.
Dieses Mal konnte Herr Prof. Dr. Jan Eichelberger, LL.M.oec. gewonnen werden. Herr Eichelberger ist Inhaber des Lehrstuhls für Bürgerliches Recht, Immaterialgüterrecht und IT-Recht an der Leibniz Universität Hannover. Er studierte, promovierte und habilitierte an der Friedrich-Schiller-Universität Jena. Nach dem Referendariat und einer anwaltlichen Tätigkeit in Berlin wurde er 2016 nach Hannover berufen.
Der Vortrag gab einen Überblick über die rechtlichen Rahmenbedingungen des Einsatzes von Künstlicher Intelligenz in der Medizin. Der Fokus lag dabei einerseits auf dem regulatorischen Umfeld aus dem Zusammenspiel von Medizinprodukte- und KI-Recht und andererseits auf den behandlungsvertraglichen und haftungsrechtlichen Implikationen. Es wurde gezeigt, wo Chancen und Risiken der Digitalisierung in der Medizin liegen und wie sich die „Medizin von morgen“ rechtssicher gestalten lässt.
Eingangs wurden die Anwendungsbereiche skizziert. KI kann etwa in der Diagnostik eingesetzt werden, z.B. in der bildgebenden Medizin und in der Dermatologie. Verwendet werden kann sie aber auch im Rahmen der Therapie, wo es bereits etwa sehr gute Erfahrungen in der (sofort verfügbaren) Psychotherapie gemacht wurden, aber auch in der Aufklärung/Information/Dokumentation (Befundberichte, Arztbriefe, Patienteninformationen), in der Vorsorge/Prävention, in der Forschung und Entwicklung sowie im Praxismanagement (Terminvereinbarung). In rechtlicher Hinsicht war der Ausgangspunkt die Definition von KI in Art. 3 Nr. 1 KI-Verordnung. Daraufhin wurden praktische Fälle von KI-Systemen vorgestellt.
Sodann wurde auf die Fragen im ärztlichen Vertrags-, Beruf- und Haftungsrecht eingegangen. Unterschieden wurde dabei die Pflichten und Grenzen des Arztes, d.h. was er hinsichtlich des Einsatzes von KI tun muss und was er darf. Dabei ist entscheidend, dass die KI noch nicht als Standard-, sondern als Neulandmethode anzusehen ist. Daraus folgt eine erhöhte Aufklärungspflicht sowie erhöhte Sorgfalts- bzw. Überwachungspflichten. Ein „Muss“ eines KI-Einsatzes besteht derzeit noch nicht.
Thematisiert wurde auch, ob bzw. wann der Einsatz von KI als unzulässige Delegation an Nichtärzte gesehen werden kann. Als mögliche Lösungen der Problematik wurde überlegt, ob in der Zukunft bei Weiterentwicklung der KI deren Zertifizierung eingeführt werden sollte. Angesprochen wurde des Weiteren, ob eine KI die Aufklärung nach § 630e Abs. 2 Nr. 1 BGB vornehmen könnte. Das lehnte der Referent schon angesichts des (derzeitigen) Wortlauts der Norm ab. Sodann wurde auf die Arzthaftung für Fehlfunktionen der KI eingegangen. Auch hier bietet sich – jedenfalls im Sinne von „Zukunftsmusik“ – eine Lösung über eine Zertifizierung an.
Abschließend beschäftigte sich Herr Eichelberger mit dem Aspekt der Regulierung von KI in der Medizin. Abgestellt wird auf die EU-Verordnung über Medizinprodukte (MDR) von 2017 sowie die bereits angesprochene europäische KI-Verordnung von 2024. Beide europäischen Regelung spielen zusammen und führen zu einem erheblichen Normenumfang. Im Hinblick auf die MDR wurde etwa auf die – im Ergebnis verneinte – Frage eingegangen, ob Chat-GPT ein Medizinprodukt im Sinne der MDR sein kann.
Die Klassifizierung nach der MDR gilt als entscheidend auch für die KI-Verordnung (vgl. Art. 6 Abs. 1 lit. b KI-VO). Das bedeutet, dass solche klassifizierten KI-Systeme regelmäßig als Hochrisiko-KI im Sinne der KI-VO sind. Damit finden die umfassenden Regelungen der KI-VO zu den Anforderungen an eine Hochrisiko-KI bzgl. der Hersteller bzw. Anbieter sowie die Betreiber Anwendung. Bei Verletzung der Pflichten drohen nicht nur erhebliche Bußgelder, sondern auch Schadensersatzforderungen der Geschädigten.
An den Vortrag schloss sich eine lebhafte Diskussion an.
Über die Ringvorlesung „Automatisierte Systeme“
Nähere Informationen über die Ringvorlesung „Automatisierte Systeme“ sowie weitere Rückblicke auf vergangene Veranstaltungen finden Sie hier.
Über das Interdisziplinäre Institut für Automatisierte Systeme e.V. (RifaS)
Das Institut wurde im Herbst 2017 gegründet und steht für eine interdisziplinäre, nationale und internationale Forschung in verschiedenen Bereichen automatisierter Systeme. Die Forschungsbereiche lassen sich in Verkehr und Mobilität, Produktion und Wirtschaft sowie Medizin unterteilen. Das Institut bringt sowohl Wissenschaftler als auch Praktiker zusammen und ist nicht nur in der Forschung aktiv, sondern auch in der Lehre.
Informationen zu aktuellen Veranstaltungen finden sich stets auf www.rifas.de.
