Prof. Christiane Wendehorst über ethische Grundfragen im Kontext von KI – Digital-Gipfel 2019
Frau Professor Wendehorst ist Co-Sprecherin der Daten-Ethikkommission und gibt somit der Bundesregierung Handlungsempfehlungen zum ethischen Umgang mit Künstlicher Intelligenz. In unserem Interview berichtet sie, wie ihre Kommission durch interdisziplinäre Zusammenarbeit innerhalb ihrer Kommission Analysen sehr komplexer Fragestellungen durchführt. Zuletzt hat ihre Kommission zu ganz konkreten Leitfragen der Bundesregierung Antworten ausarbeitet, viele davon zu grundlegenden Themen wie Grundfreiheiten im digitalen Zeitalter.
Die Professorin berichtet von der sogenannten Kritikalitätspyramide, einem Modell das Hilft die Vertretbarkeit der Automatisierung von gesellschaftliche Entscheidungen durch Algorithmen zu beurteilen. Entscheidungen, die unvertretbares Schädigungspotential in sich tragen, sind hierbei als nicht vertretbar gekennzeichnet. Ein Beispiel ist die Entwicklung von autonomen Waffensystemen, die unter keinen Umständen legitimierbar ist.
Eine weitere Gefahr ist die Diskriminierung durch Algorithmen, gegen die gezielt Maßnahmen ergriffen werden müssten. Trainingsdaten von selbstlernenden Systemen können zu einem ungewollten Bias der Entscheidungen solch eines Systems führen. Die Professorin benennt nun Kontrollmechanismen, die hierbei helfen können. Als nächstes widmet sie sich dem Thema Daten und wie mit diesen verantwortungsvoll umgegangen werden kann. Daten seien Teil der Persönlichkeit und sollten nicht als Gegenleistung für digitale Leistungen angesehen werden. Die Bundesregierung arbeitet bereits an Technologien, die dabei helfen persönliches “Datenmanagement” zu betreiben. Weitere Maßnahmen seien allerdings notwendig.
Lösungen könnten beispielsweise bestehenden Modelle in der Finanzbranche nachempfunden werden. Details seien allerdings noch Diskussionsgegenstand.