DE / EN

Foto: Anna Logue

Forschung zu gesellschaft­lichen Auswirkungen Künstlicher Intelligenz mit 850.000 Euro gefördert

Im Rahmen eines neuen Forschungs­programms für den gemeinwohl­orientierten Umgang mit Künstlicher Intelligenz (KI) werden drei Projekte der Universität Mannheim von der Baden-Württemberg Stiftung gefördert.

KI spielt in vielen Lebens­bereichen eine zunehmend wichtige Rolle – und wirft dabei grundlegende rechtliche und ethische Fragen auf. Die Baden-Württemberg Stiftung hat jetzt ein neues Förder­programm zum Thema „Verantwortliche Künstliche Intelligenz” ausgeschrieben und zehn Projekten den Zuschlag erteilt – davon drei von Wissenschaft­lerinnen und Wissenschaft­lern der Universität Mannheim. Gefördert werden Forschungs­vorhaben, die die Interaktion von KI-Technologien und Gesellschaft untersuchen.

„Dass gleich drei von zehn geförderten Projekten an der Universität Mannheim angesiedelt sind, ist ein großer Erfolg für uns“, so Prof. Dr. Heiko Paulheim, der zwei der erfolgreichen Forschungs­projekte leitet. „Dies bestätigt Mannheims zentrale Rolle in den Bereichen Data Science und Künstliche Intelligenz.“ Die interdisziplinären Projekte bilden ein gemeinsames Cluster im Mannheim Center for Data Science, es sind vier Fakultäten der Universität beteiligt.

Illegale Online-Preisabsprachen 
Im Rahmen des Projekts „Kartellrechts­konforme KI (KarekoKI)” werden Prof. Dr. Thomas Fetzer und Prof. Dr. Heiko Paulheim, Inhaber des Lehr­stuhls für Data Science, unter anderem Rechts­rahmen und Strategien zur technischen Verhinderung von KI-basierter Preisabsprache erarbeiten. Der Hintergrund: Auf Online-Plattformen wie Amazon sind immer häufiger KI-Systeme im Einsatz, die die Preise von Mitbewerbern beobachten und auf dieser Basis ihre eigenen Preise festsetzen. „Dies wirft rechtliche und technische Fragen auf, wie mit dem Potential illegaler Preisabsprachen durch KI umgegangen werden soll“, sagt Prof. Dr. Thomas Fetzer, Inhaber des Lehr­stuhls für Öffentliches Recht, Regulierungs­recht und Steuerrecht. Das Team erhält für seine Forschung eine Förderung von 383.000 Euro.

Gesellschaft­liche Polarisierung durch Online-Nachrichten 
Das Projekt „Responsible News Recommender Systems“ (ReNewRS) von Prof. Dr. Heiko Paulheim und Dr. Philipp Müller vom Institut für Medien- und Kommunikations­wissenschaft in Zusammenarbeit mit Prof. Dr. Harald Sack (FIZ Karlsruhe) sowie Prof. Dr. Christof Weinhardt (KIT Karlsruhe) erhält knapp 700.000 Euro, wobei rund die Hälfte auf die Universität Mannheim entfällt. Nachrichtenempfehlungs­systeme kommen in Social-Media-Plattformen und auf Online-Nachrichtenportalen zum Einsatz und empfehlen dort Nutzern Nachrichten auf Basis ihrer bisherigen Nutzung der Plattform. Die Forscher wollen die Auswirkungen solcher Systeme auf gesellschaft­liche Polarisierungs­prozesse, politische Teilhabe und prosoziales Verhalten untersuchen. Dazu sollen in dem Projekt verschiedene Versionen solcher Empfehlungs­systeme entwickelt und deren Auswirkungen in Online- und Labor­studien getestet werden.

Fairness und Diskriminierung in automatisierten Entscheidungs­prozessen
Das Projekt „Fairness in Automated Decision-Making (Fair ADM)” von Prof. Dr. Frauke Kreuter, Dr. Ruben Bach und Dr. Christoph Kern vom Lehr­stuhl für Statistik und sozial­wissenschaft­liche Methodenlehre, beschäftigt sich mit Diskriminierung und Fairness von auf Algorithmen basierten Entscheidungs­prozessen (Automated Decision-Making, ADM) im öffentlichen deutschen Sektor. „Während ADM-Systeme bürokratische Verfahren durch Automatisierung optimieren, wirft deren Einsatz zugleich auch neue gesellschaft­liche und ethische Fragen auf“, so Prof. Dr. Frauke Kreuter. So wird befürchtet, dass ADM bestehende gesellschaft­liche Diskriminierung verstärken könnte. ADM Systeme werden im US-amerikanischen Kontext etwa bereits für die Beurteilung des Rückfallrisikos von Angeklagten im Rahmen von Gerichtsprozessen eingesetzt. Ein besonders sensitives Anwendungs­feld von ADM im europäischen Kontext ist die Bewertung der Arbeits­markt­chancen von Jobsuchenden, z.B. zur Zuteilung von Weiterbildungs­ressourcen, welches aktuell von Arbeits­markt­service Österreich (AMS) vorgeschlagen wurde. Dabei besteht die Gefahr, dass sensitive Merkmale wie Geschlecht, Alter oder Familienstand in der algorithmischen Entscheidungs­findung herbeigezogen werden und somit die Verteilung von Ressourcen beeinflussen. Um dies näher zu beleuchten und Methoden zur Korrektur unfairer Algorithmen empirisch zu untersuchen, entwickelt und evaluiert das Projekt ein ADM basierend auf administrativen Arbeits­markt­daten. Unterstützt wird diese Forschung mit 171.000 Euro.

Link zur Pressemitteilung der Baden-Württemberg Stiftung: https://www.bwstiftung.de/news-presse/pressemitteilungen/pressemitteilungen/programm-fuer-verantwortliche-kuenstliche-intelligenz-gestartet/?no_cache=1

Kontakt:
Prof. Dr. Thomas Fetzer
Universität Mannheim
Abteilung Rechts­wissenschaft
Tel.: +49 621 181-1438
E-Mail: lsfetzer(at)mail.uni-mannheim.de

Prof. Dr. Frauke Kreuter
Lehr­stuhl für Statistik und Methodenlehre
Co-Direktorin des Mannheim Center for Data Science
Universität Mannheim
Tel. +49 621 181-2003
E-Mail: frauke.kreuter(at)uni-mannheim.de

Prof. Dr. Heiko Paulheim
Lehr­stuhl für Data Science
Universität Mannheim
Tel. +49 621 181-2652
E-Mail: heiko(at)informatik.uni-mannheim.de

Yvonne Kaul
Forschungs­kommunikation
Universität Mannheim
Tel. +49 174 3146512
E-Mail: kaul(at)uni-mannheim.de

Zurück