Wie können technische Standards ethisch wertvolles Verhalten einer autonomen Maschine sicherstellen, beispielsweise eines autonomen Fahrzeugs, das von einer KI gesteuert wird? Dieser Kernfrage ging das vom Bundesministerium für Wirtschaft und Energie (BMWi) geförderte Projekt „Ethikaspekte in der Normung und Standardisierung für Künstliche Intelligenz in autonomen Maschinen und Fahrzeugen“ nach. Die Ergebnisse sind nun in einem Weißbuch veröffentlicht, wie das BMWi in einer Presseerklärung mitteilte.
„Normen und Standards können bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz eine zentrale Rolle spielen. KI-Systeme müssen über ihren gesamten Lebenszyklus intern und extern überprüfbar sein, insbesondere in sicherheitskritischen Bereichen. Normen und Standards können einen nachvollziehbaren und sicheren Einsatz solcher Systeme für Verbraucher, Anwender und Hersteller gewährleisten“, wird Thomas Jarzombek, Beauftragter des BMWi für Digitale Wirtschaft und Start-ups, zitiert.
DKE veröffentliche Whitepaper
Die Ergebnisse des Projekts wurden vom Deutschen Institut für Normung e.V. (DIN) und der vom Verband der Elektrotechnik, Elektronik und Informationstechnik e.V. (VDE) getragenen Deutschen Kommission für Elektrotechnik, Elektronik und Informationstechnik (DKE) im Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ veröffentlicht.
Ziel des Projektes sei es, den aktuellen Stand der Normung und Standardisierung im interdisziplinären Themenfeld KI und Ethik darzustellen sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen. Gemeinsam mit insgesamt 77 Expertinnen und Experten aus Wirtschaft, Wissenschaft und Forschung, öffentlicher Hand und Zivilgesellschaft seien in Workshops die Inhalte des Dokuments erarbeitet worden, teilte das BMWi mit.
Acht Handlungsempfehlungen an Normungsgremien
Im Whitepaper werden acht Handlungsempfehlungen an Normungsgremien und interessierte Fachkreise vorgestellt. Unter anderem wird empfohlen, dass sich die entsprechenden Normungsgremien in ihren Themenbereichen mit dem Aufstellen von konkreten Prüfkriterien befassen sollen, mit denen eine KI auf Achtung der Autonomie des Menschen überprüft werden kann.
Weitere Prüfkriterien fordert das Projektteam z. B. in Bezug auf die Erklärbarkeit, Rückverfolgbarkeit, Überprüfbarkeit, Sicherheit und den Datenschutz. KI-Systeme sollten vor externem Zugriff gesichert sein und nicht zur Gefahr für ihre Umwelt werden. Bei KI-Systemen mit hohem oder erheblichem Gefährdungspotenzial wird eine Risikoanalyse empfohlen, die beide Aspekte prüft, um Schäden vom Einzelnen und/oder der Gesellschaft abzuwenden.
Gesetzliche Vorgaben zum Datenschutz präzisieren
Für den Bereich des Datenschutzes wird laut der Pressemitteilung des BMWi aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können.
Die Ergebnisse des Whitepapers sollen in die Normungsroadmap KI einfließen, die als Teil der nationalen KI-Strategie der Bundesregierung auf dem Digitalgipfel der Bundesregierung am 30. November 2020 vorgestellt werden soll, teilte das BMWi mit. (hcn)
Erhältlich ist das Whitepaper hier
