Künstliche Intelligenz kritisch reflektieren

Ein strategisches Ziel der Universität ist es, Wissen zu schaffen, damit die Gesellschaft ihre Zukunft verantwortungsvoll gestalten kann. Mit dem Verbund IRIS wollen Forschende gemeinsam die Grundlagen, Mechanismen, Implikationen und Effekte intelligenter Systeme in der Forschung, Lehre und im Hinblick auf die Gesamtgesellschaft kritisch reflektieren. Im Spannungsfeld von KI und Ethik fragen die Wissenschaftlerinnen und Wissenschaftler zum Beispiel, wie man unfaire Diskriminierungen durch den Einsatz von Künstlicher Intelligenz bei automatisierten Entscheidungen oder Stereotype in der Technikentwicklung vermeiden kann.

Prof. Wolfram Ressel, der Rektor der Universität Stuttgart, kommentiert die Einrichtung erfreut: „Im neuen Forschungsverbund IRIS zeigt die Universität Stuttgart das, was sie besonders gut kann: ein hochaktuelles Thema aus unterschiedlichsten Blickwinkeln und über Fächergrenzen hinweg zu diskutieren und zu erforschen. IRIS führt Wissenschaftlerinnen und Wissenschaftler aus allen Disziplinen der Universität zusammen – die KI-Forscherin und den Philosophen, den Sprachwissenschaftler und die Software-Ingenieurin – um gemeinsam intelligente Systeme verantwortlich und zukunftsfähig zu gestalten. Unser Ziel ist es, mit dieser in IRIS gebündelten Kompetenz eine Führungsposition in der Reflexion intelligenter Systeme einzunehmen.“

Jun.-Prof. Maria Wirzberger, die Sprecherin des neuen Forschungsschwerpunkts IRIS, und ihr Team beschäftigt unter anderem die Frage, wie Diskriminierung durch Technik entsteht und wie man dem entgegenwirken kann. Sie sagt: „Vereinfacht gesagt funktionieren Algorithmen wie Schubladen. funktionieren Algorithmen wie Schubladen. Sie beruhen auf Standards, die von Menschen gesetzt werden und darum auch mit deren Stereotypen behaftet sein können. Diese Stereotype sind oft unbewusst und fließen damit unreflektiert in die Technikentwicklung ein.“ Co-Sprecher Prof. Steffen Staab arbeitet mit seinem Team interdisziplinär daran, technische Entscheidungsfindung, wie Darlehensbewilligung durch Künstliche Intelligenz, ganzheitlich zu verstehen. „Wir haben in den letzten Jahren gelernt, wie der naive Einsatz von Künstlicher Intelligenz für automatisierte Entscheidungen zu unfairer Diskriminierung führen kann. Aus diesem Grund entwickeln wir neue Methoden zur Vermeidung, Erkennung und Erklärung von Un-/ Fairness“, sagt er.

Weitere Aufgaben und Angebote von IRIS

Neben der Forschung schafft IRIS Austauschmöglichkeiten, um inner- und außerhalb der Universität mit Partnern aus Gesellschaft und Wirtschaft über aktuelle ethische und gesellschaftliche Herausforderungen intelligenter Systeme zu diskutieren, angefangen von Datenethik über informationelle Selbstbestimmung bis zu vertrauenswürdiger KI. Und auch die Lehre steht im Fokus: Das Lehrforum Reflecting on Intelligent Systems in the Next Generation (RISING) unter der Leitung von Wirzberger vermittelt Studierenden aller Fächer die kritische Reflektion intelligenter Systeme.

Für einen verantwortungsvollen Umgang mit intelligenten Systemen

Wie hilft IRIS, etwas gegen Stereotype in der Technikentwicklung zu tun? Sprecherin Wirzberger erklärt: „Der Nutzen ist, dass Studierende, wenn sie in den Beruf gehen, für dieses Thema sensibilisiert sind. Dann passieren solche Dinge wie diskriminierende Technik nicht mehr in diesem Ausmaß.“ Zum anderen soll die internationale Vernetzung der Universität gestärkt werden. Wenn unterschiedliche Menschen zusammenkommen, entständen gute Ideen und es gäbe einen lebhaften Austausch, meint die Wissenschaftlerin. Am neuen universitätsweiten Forschungsverbund IRIS sind Wissenschaftlerinnen und Wissenschaftler aus den Exzellenzclustern sowie aus allen Profil- und Potenzialbereichen der Universität beteiligt. Gefördert wird IRIS durch die Deutsche Forschungsgemeinschaft (DFG) im Rahmen der Exzellenzstrategie des Bundes und der Länder sowie durch den Forschungsfonds der Universität.