eDay 2023 : Roboterpsychologin Martina Mara warnt vor voreingenommenen KI-Systemen

Die künstliche Intelligenz ist in der breiten Bevölkerung angekommen, der Siegeszug von Chat GPT & Co. sei aber nicht bloß eine technische Herausforderung, sondern auch eine ethische. Diesem Umstand widmete sich Martina Mara in ihrer Keynote im Rahmen des diesjährigen eDays der Wirtschaftskammer Österreich, bei dem jährlich die aktuellsten Entwicklungen der Digitalisierung in der heimischen Wirtschaft diskutiert werden. Die Roboterpsychologin stellt fest, dass KI genauso mit Vorurteilen behaftet ist, wie ihre menschlichen Vorbilder.

"Das heißt, es geht gar nicht anders, als dass KI, die von uns selbst lernt, uns natürlich als Gesellschaft den Spiegel vorhält. Und alles, was wir so an Werten, Wünschen, Fehlern, Stereotypen, alten klischeehaften Vorstellungen produzieren, in Texten, Entscheidungen die KI im Output am Ende reproduziert. Man muss also sagen, dass die KI eigentlich wir sind", so Mara.

Die promovierte Psychologin sieht im Durchbruch von KI-Technologien nicht nur Negatives – in der Medizin beispielsweise sieht sie enorme Potenziale. Problematisch sei hingegen die Nutzung von KI, wenn es um lebensrelevanten Entscheidungen gehe, die zunehmend an KIs ausgelagert werden. Algorithmen, die über eine Kreditvergabe entscheiden oder Jobs vergeben, seien so äußerst problematisch, weil sie mit Datenmodellen operieren, die mit voreingenommenen Datensätzen gefüttert sind.

"Das ist etwas, was in großen Unternehmen heute schon vielfach vorkommt, dass eine KI mitentscheidet oder zumindest eine Empfehlung abgibt, ob eine gewisse Person aus einem großen Pool an Bewerbern zum Vorstellungsgespräch eingeladen werden soll oder nicht. Das heißt, die KI trifft eine Einschätzung darüber, mit welcher Wahrscheinlichkeit ich möglicherweise für den Job als Developer im IT-Bereich dann auch erfolgreich werde oder nicht." Als Beispiel nennt sie Amazon, wo ein Algorithmus bei Personalentscheidungen eingesetzt wurde, und dabei Frauen klar benachteiligt wurden. "Wenn eine KI aus den Daten gelernt hat, dass Frauen ein bisschen weniger geeignet sind oder ganz einfach im Datensatz unterrepräsentiert sind, dann wird es problematisch. Das sind nämlich die Stereotypen, die alten Rollenbilder und Klischees, die in den Datensätzen, in dem Lernfutter, das wir der KI geben, drinnen stecken."

Mara sieht im Bereich der künstlichen Intelligenz eine große Schere zwischen den Geschlechtern. "Das Problem ist, dass natürlich hier eine totale Ungleichverteilung von Wissen, selbsteingeschätzten Wissen, Kompetenzen vorliegt. Hier hat eine sehr junge, gebildete, männliche Gruppe mehr Wissen zur Verfügung, die auch die eigene Kompetenz deutlich stärker einschätzt als weibliche, ältere, weniger gebildete Personengruppen." Deshalb fordert die Roboterpsychologin heterogenere Datensätze beim Anlernen von KI-Systemen, die die Vielfalt in der Gesellschaft besser abbilden.

"Für gute Produktentwicklungen wäre es sinnvoll, möglichst verschiedene Personen einzubeziehen. Beispielsweise wäre es notwendig, dass man vielleicht auch ältere Personen am Weg der Entwicklung vor Launch des Produkts mit einbezieht - sozusagen künstliche Intelligenz von uns allen, für uns alle. Das ist derzeit einfach nicht gegeben", so Mara.

Die Ungleichheit in der gesellschaftlichen Repräsentation in KI-Systemen spiegelt sich Mara zufolge auch im Bildungssystem. "In Europa sind 80 Prozent der Studierenden in KI oder in anderen MINT-Fächern nach wie vor männlich und Österreich schneidet hier besonders schlecht ab. Nur 10 Prozent der KI-ForscherInnen bei Google sind Frauen. Nur jedes vierzehnte Patent im IKT-Bereich wird von einer Frau erworben. Und Mädchen - und das zeigen uns auch die Zahlen sehr deutlich - unterschätzen ihre Computer- und IT-Kenntnisse deutlich stärker als gleichaltrige Buben in der Schule."

Insofern fordert Martina Mara mehr interdisziplinäre KI-Forschung und mehr Diversität im Bildungssystem: "Wir brauchen verschiedene Perspektiven, Expertisen und Mindsets, die zusammenkommen. Ich forsche und entwickle seit vielen Jahren komplett inter- und transdisziplinär. Und das führt einfach zu interessanteren Fragen und meiner Ansicht nach auch interessanteren Lösungen. Und wir müssen auch wirklich schauen, dass man diversere Zielgruppen für digitale, KI-assoziierte Bildungsangebote gewinnt."