KommHUB Talk: Vertrauenswürdige KI als Schlüssel für Akzeptanz
Am 8. Februar 2024 (09:00 – 10:00 Uhr) fand der 2. KommHUB Talk der Digitalakademie@bw statt:
KommHUB Talk: Vertrauenswürdige KI als Schlüssel für Akzeptanz
Der zweite KommHUB Talk KI am 8. Februar 2024 – diesmal zum Thema „Vertrauenswürdige KI“ – stieß mit fast 120 Teilnehmerinnen und Teilnehmern aus dem kommunalen Umfeld auf ein sehr hohes Interesse.
Die Veranstaltung unterstrich die Notwendigkeit, sich mit zentralen ethischen, rechtlichen und sozio-technischen Fragestellungen auseinanderzusetzen, um KI vertrauenswürdig zu gestalten und verantwortungsvoll im öffentlichen Sektor einzusetzen. Der Referent Dr. Tobias Kopp beleuchtete in seinem Vortrag ein breites Spektrum an relevanten Aspekten, die es zu berücksichtigen gilt. Er diagnostizierte, dass KI-Anwendungen derzeit situativ entweder zu viel („overtrust“) oder zu wenig Vertrauen („undertrust“) geschenkt wird – mit allen damit verbundenen Negativfolgen. Die vertrauenswürdige Gestaltung von KI zielt darauf ab, dass Verwender:innen der KI in angemessenem Maße vertrauen und sie effizient einzusetzen wissen. Dies setzt u.a. die Berücksichtigung ethischer Anforderungen voraus, wie sie beispielsweise der Deutsche Ethikrat jüngst definiert hat. Neben Regulierungsmaßnahmen können wertebasierte Implementierungsstrategien, unabhängig geprüfte Gütesiegels für KI und Methoden der erklärbaren KI vertrauensstiftend wirken. Diese sind allerdings aktuell noch wenig etabliert. Trotz aller Herausforderungen wurden konkrete Beispiele für den erfolgreichen Einsatz von KI vorgestellt, wie etwa in der Optimierung des öffentlichen Verkehrs und in der gerechten Schichtplanung in einem produzierenden Unternehmen.
Haupterkenntnis dieses KommHUB Talks ist, dass eine vertrauenswürdige Gestaltung von KI eine wichtige Voraussetzung für den gewinnbringenden Einsatz im öffentlichen Sektor ist, auf dem Weg dahin allerdings noch zahlreiche Hürden zu bewältigen sind, wenngleich zielgerichtete Maßnahmen bereits vorliegen.
Als Referenten durften wir diesmal Dr. Tobias Kopp begrüßen. Er berät bei der esentri AG Unternehmen in Hinblick auf die Digitale Transformation, forscht an der Hochschule Karlsruhe im Bereich der menschenzentrierten Technikgestaltung und wirkt beim Aufbau des „Kompetenzzentrums KARL – Künstliche Intelligenz für Arbeit und Lernen in der Region Karlsruhe“ mit.
