Ausgezeichnet wurde das von Prof. Dr. Matteo Pasquinelli geführte Projekt „AI Forensics: Accountability through Interpretability in Visual AI Systems“.
Die im November 2017 eingerichtete Förderinitiative der VolkswagenStiftung „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" fördert als eines von sieben Projektkonsortien auch das HfG-Forschungsprojekt „AI Forensics: Accountability through Interpretability in Visual AI Systems“ für eine Projektlaufzeit von drei Jahren mit 1,4 Mio. Euro.
Mit ihrer Initiative möchte die VolkswagenStiftung die fach- und länderübergreifende Forschung zur verantwortungsvollen Weiterentwicklung von Systemen Künstlicher Intelligenz (KI) stärken.
„Vor dem Hintergrund der unter dem Begriff “Künstliche Intelligenz“ stattfindenden aktuellen und sich abzeichnenden Entwicklungen sollen ausgehend von Gegenwartsdiagnosen neue Sichtweisen und Erkenntnisse mit Blick auf die Zukunftsgestaltung der Gesellschaft wie auch der Technologie ermöglicht werden,“ heißt es auf der offiziellen Webseite der Volkswagen Stiftung.
Über das Projekt
Das Projekt der Forschungsgruppe schlägt KI-Forensik als einen neuen soziotechnischen Rahmen für die Analyse und Kritik von KI-Systemen vor. Dies impliziert den Entwurf und die Entwicklung neuer KI-Forensik-Tools für die Untersuchung großer KI-Datensätze, welche manuell nicht analysiert werden können, Modelle (Reverse-Engineering des Black-Box-Effekts) und Anwendungen (Offenlegung ihres soziohistorischen Kontexts), wodurch modernste Ergebnisse aus erklärbarem und interaktivem maschinellem Lernen für ForscherInnen in den Geisteswissenschaften und darüber hinaus zugänglich gemacht werden.
Das daraus resultierende Open-Source-Toolkit für KI-Forensik soll von zivilen Organisationen, Hochschulen und der Industrie genutzt und mit ihnen geteilt werden können, um die sozialen Auswirkungen und Folgen von KI-Systemen in der Praxis zu untersuchen. Das KI-Forensik-Toolkit wird auch vier soziotechnische Untersuchungen unterstützen, die die Produktionspipeline der Gesichtserkennung, die Interpretierbarkeit und Rechenschaftspflicht von KI im humanitären Sektor, vorurteilsbewusste Designmethoden für KI-Systeme und die Rolle visueller KI-Modelle in der Wissenschaft untersuchen.
Durch eine enge Verzahnung von maschineller Lernforschung und soziotechnischer Analyse schafft das Projekt einen neuen und umfassenden methodischen Rahmen, um die Geistes- und Sozialwissenschaften mit den notwendigen Mitteln auszustatten, die Auswirkungen der Künstlichen Intelligenz des 21. Jahrhunderts zu untersuchen.
Über die Projektbeteiligten
Prof. Dr. Matteo Pasquinelli (PhD) ist Professor für Medienphilosophie an der Staatlichen Hochschule für Gestaltung Karlsruhe, wo er die Forschungsgruppe für Künstliche Intelligenz und Medienphilosophie KIM (kim-hfg-karlsruhe.de) koordiniert. Kürzlich gab er unter anderem die Anthologie „Alleys of Your Mind: Erweiterte Intelligenz und seine Traumata“ (Meson Press) heraus. Seine Forschung konzentriert sich auf die Schnittstelle zwischen kognitiven Wissenschaften, digitaler Wirtschaft und Maschinellem Lernen.
KIM HfG wird ein Konsortium von Partnern koordinieren, an dem außerdem Prof. Dr. Leonardo Impett und Prof. Dr. Noura Al Moubayed (beide Department of Computer Science, Durham University, Großbritannien), Prof. Dr. Claude Draude (Wissenschaftliches Zentrum für Informationstechnik-Gestaltung, Universität Kassel) und Prof. Dr. Fabian Offert (Department of Germanic and Slavic Studies, University of California – Santa Barbara, USA) beteiligt sind.
