Können KI-Chatbots wie ChatGPT tatsächlich gefährlich werden? Wer haftet eigentlich, wenn eine KI falsche oder sogar lebensgefährliche Antworten gibt? Und wie reagieren Gerichte in Deutschland und der EU auf diese neue Entwicklung?

In diesem Video geht es um reale Fälle aus den USA und Deutschland:
Ein Mann, der nach langen Gesprächen mit ChatGPT seine Mutter und sich selbst tötete. Ein Jugendlicher, der laut Klage durch KI-Gespräche in seinem Suizid bestärkt worden sein soll. Und eine deutsche Schönheitsklinik, deren KI-Chatbot frei erfundene Facharztbezeichnungen ausgab – mit Folgen vor Gericht.

Ich erkläre Euch:

warum KI-Chatbots psychologisch problematisch sein können,
was sogenannte „AI-Companions“ sind,
weshalb KI-Systeme manchmal Wahnvorstellungen oder gefährliche Gedanken bestätigen,
wie die aktuelle Rechtslage in Deutschland aussieht,
warum das bisherige Produkthaftungsrecht an Grenzen stößt,
was die neue EU-Produkthaftungsrichtlinie ändern soll,
und warum Unternehmen bei KI-Chatbots künftig erhebliche Haftungsrisiken drohen könnten.

Außerdem geht es um:

das OLG-Hamm-Urteil zur Haftung für KI-Chatbots,
die neue EU-KI-Verordnung (AI Act),
Produkthaftung bei KI-Systemen,
Haftung von OpenAI & Co.,
und die Frage, ob Disclaimer wie „KI kann Fehler machen“ überhaupt helfen.

Quellen und weiterführende Informationen:

LTO – Haftung für Schäden im Zusammenhang mit KI:
https://www.lto.de/recht/hintergruende/h/haftung-von-chatbots-rechtslage

OLG Hamm – KI-Chatbot mit falschen Facharztbezeichnungen:
https://www.olg-hamm.nrw.de/behoerde/presse/Pressemitteilungen/16_26_PE_KI-Chatbot/index.php

EU AI Act / KI-Verordnung:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

EU-Produkthaftungsrichtlinie 2024/2853:
https://eur-lex.europa.eu/eli/dir/2024/2853/oj/eng

Wenn Euch das Video gefällt, lasst gern ein Like und ein Abo da. Schreibt auch in die Kommentare:
Sollten Betreiber von KI-Chatbots für Schäden ihrer Systeme haften?