Wenn Künstliche Intelligenz an ihre Grenzen stößt

Wie wird bei der Entwicklung und Nutzung von Gesundheits-Apps, die auf Künstlicher Intelligenz basieren, Objektivität technisch und sozial „gemacht“? Welche Vorentscheidungen treffen Informatiker*innen, aufgrund derer sie dann die Algorithmen programmieren, und wie interpretieren Nutzer*innen die Resultate? Diese Fragen wird Prof. Dr. Silja Samerski von der Hochschule Emden/Leer in Kooperation mit Prof. Dr. Corinna Bath von der Technischen Universität (TU) Braunschweig in den kommenden drei Jahren nachgehen. Das Gemeinschaftsprojekt wird vom Ministerium für Wissenschaft und Kultur (MWK) mit 640 000 Euro gefördert.

Prof. Samerski lehrt seit drei Jahren am Fachbereich Soziale Arbeit und Gesundheit der Hochschule. Einer ihrer Schwerpunkte liegt auf der die Erforschung der sozialen und kulturellen Auswirkungen neuer Gesundheitstechnologien. In ihrem aktuellen Projekt wird sie sich auf die Frage konzentrieren, wie Menschen Apps nutzen und verstehen, die anhand von Krankheitssymptomen Diagnosevorschläge berechnen. Ihre Projektpartnerin Prof. Dr. Corinna Bath wird sich als Informatikerin und Forscherin im Bereich der feministischen Science and Technology Studies mit den Entwicklern der Apps auseinandersetzen und eine ethnographische Studie erstellen.

„Wir möchten im Projekt erforschen, was Objektivität hier bedeutet und wie sie hergestellt wird. Für das Funktionieren der Apps sind statistische Klassifikationen grundlegend, und Klassifikationen sind anfällig für Vorurteile und immer auch ein stückweit politisch“, so Samerski. So würden beispielsweise bestimmte Gesundheits-Apps, die in den USA genutzt werden, selbstverständlich von weißen Nutzer*innen ausgehen und andere Bevölkerungsgruppen außen vorlassen – und dadurch diskriminieren. Ziel des Projektes sei es jedoch nicht nur, sogenannte Verzerrungen sichtbar zu machen, sondern auch, das wirkmächtige Ideal der wertneutralen und objektiven Maschine in Frage zu stellen.

Die Ergebnisse der Studie seien auch für Krankenkassen interessant und hilfreich, erklärt Samerski. „Es freut mich sehr, dass es uns als Fachhochschule möglich ist, in dieser Form an wichtiger Grundlagenforschung mitzuwirken“, so die Professorin. Das Niedersächsische Ministerium für Wissenschaft und Kultur und die VolkswagenStiftung unterstützen insgesamt 14 sozialwissenschaftliche Projekte mit 7,9 Millionen Euro aus dem „Niedersächsischen Vorab" der Stiftung. Die Ausschreibung „Die digitale Gesellschaft: Entwicklungen erforschen, Perspektiven entwickeln, digitale Methoden und Daten nutzen" richtete sich im Wesentlichen an Forschende der Soziologie, Politik-, Wirtschafts- und Rechtswissenschaften, Psychologie sowie Bildungsforschung.