Die EU will die Regeln zur Sicherheit und Haftung von KI-fähigen Produkten verbessern. In einer Resolution hat sich das EU-Parlament mit verschiedenen Herausforderungen beschäftigt, die sich im Rahmen der schnellen Entwicklung von Künstlicher Intelligenz (KI) und Technologien zur automatisierten Entscheidungsfindung stellen. Ein besonderes Augenmerk wird auf den Verbraucherschutz gelegt.
Das Parlament begrüßt das Potenzial von automatisierter Entscheidungsfindung, den Verbrauchern innovative und verbesserte Dienstleistungen zu bieten, einschließlich neuer digitaler Dienste wie virtueller Assistenten und Chatbots. Wenn man jedoch mit einem System interagiert, das die Entscheidungsfindung automatisiert, sollte man „angemessen über die Funktionsweise informiert werden, sowie darüber, wie ein menschlicher Ansprechpartner mit Entscheidungsbefugnissen erreicht werden kann und wie sichergestellt wird, dass die Entscheidungen eines Systems überprüft und korrigiert werden können“, so das Parlament in seiner Resolution.
Kontrollmechanismen für automatische Entscheidungen
Die Systeme sollten nur hochqualitative und tendenzfreie Datensätze, sowie „nachvollziehbare und tendenzfreie Algorithmen“ verwenden, heißt es weiter. Es müssen Kontrollmechanismen eingerichtet werden, um mögliche Fehler automatisierter Entscheidungen korrigieren zu können. Verbraucher müssen auch eine Aufhebung von endgültigen automatisierten Entscheidungen verlangen können.
“Es müssen immer Menschen für Entscheidungen letztverantwortlich sein und sie müssen in der Lage sein, diese Entscheidungen insbesondere bei medizinischen und rechtlichen Dienstleistungen sowie im Finanz- und Bankenbereich zu korrigieren“, unterstreichen die Abgeordneten. Sie fordern ein Risikobewertungsschema für KI und automatisierte Entscheidungsfindung sowie einen gemeinsamen EU-Ansatz, um die Vorteile dieser Prozesse zu sichern und die Risiken in der gesamten EU zu mindern.
Sicherheits- und Haftungsregeln aktualisieren
Die Abgeordneten fordern die Kommission auf, Vorschläge zur Aktualisierung der EU-Sicherheits- und Haftungsregeln im Hinblick auf KI-fähige Produkte (z.B. Maschinen und Spielzeug) vorzulegen um sicherzustellen, dass die Verbraucher über die Nutzung der Produkte informiert und vor möglichen Schäden geschützt werden. Die Hersteller müssen sich ihrer Pflichten bewusst sein.
Die Produkthaftungsrichtlinie, die vor über 30 Jahren angenommen wurde, muss ebenfalls aktualisiert werden um Begriffe wie „Produkt“, „Schaden“ oder „Fehler“ sowie die Beweislastregelungen anzupassen, fordert das Parlament.
Überwachung der Regelungen
Im Rahmen der EU-Gesetzgebung müssen die Händler die Verbraucher informieren, wenn der Preis von Waren und Dienstleistungen aufgrund automatisierter Entscheidungsfindung und der Erstellung von Profilen des Verbraucherverhaltens personalisiert wurden, erinnern die Abgeordneten und fordern die Kommission auf, die Einhaltung dieser Regelungen genau zu überwachen. Die EU muss außerdem sicherstellen, dass die automatische Entscheidungsfindung nicht dazu genutzt wird, Verbraucher aufgrund ihrer Staatsangehörigkeit, ihres Wohnsitzes oder ihres vorübergehenden Aufenthaltsorts zu diskriminieren. (hp)
