TEXT: ELISABETH OBERNDORFER
KI-Tools wie ChatGPT zeigen zwar, was möglich ist, haben aber viele Fehler – auch menschliche. Denn viele Anwendungen haben einen so genannten Bias, also eine Voreingenommenheit, weshalb Expertinnen mehr Diversität in der Entwicklung Künstlicher Intelligenz fordern.
Jexi, M3gan oder einfach Her: Künstliche Intelligenz ist weiblich, zumindest in Hollywood-Filmen. In den drei genannten Titeln spielen weibliche Stimmen oder Roboter eine Hauptrolle, in der Künstlichen Intelligenz der realen Welt kommen Frauen allerdings seltener vor. Unterschiedlichen Studien zufolge sind in diesem Technologiesektor nur zwischen 15 und 20 Prozent Frauen beschäftigt. Angesichts der mangelnden Diversität sind diese Zahlen keine Überraschung. Doch wie sehr sich diese Monotonie auswirkt, wird bei Künstlicher Intelligenz noch sichtbarer als bei anderen technischen Anwendungen. Denn in KI steckt mehr Menschlichkeit als man vermuten würde.
Virtuelle Assistenten und Chatbots
Künstliche Intelligenz ist ein breiter Begriff: Er beschreibt Algorithmen, maschinelles Lernen, Robotik – Systeme, die denken und handeln wie Menschen. Das Feld ist kein Neues, schon in den 1930er Jahren beschäftigte sich der Informatiker Alan Turin mit Künstlicher Intelligenz und gilt als einer der Pioniere in diesem Bereich. Es dauerte aber knapp ein Jahrhundert, bis der Begriff von der Masse aufgenommen wurde.
Grund dafür sind Anwendungen wie der Textgenerator ChatGPT oder der Bildgenerator Dall-E, die in den vergangenen Monaten für Aufmerksamkeit sorgten. Dabei begleitet uns Künstliche Intelligenz schon lange im Alltag, ohne dass wir sie bewusst wahrnehmen: Produktempfehlungen auf Amazon, personalisierte Suchergebnisse oder Spracherkennung am Smartphone. Etwas offensichtlicher ist die KI bei virtuellen Assistenten wie Siri oder Alexa. Und doch brauchte es einen Chatbot wie ChatGPT, um darzustellen, wie fortgeschritten und einfach anwendbar KI mittlerweile ist.
Wie der Bias entsteht
Doch die Weiterentwicklung der Künstlichen Intelligenz in den vergangenen zehn Jahren sorgt nicht nur für Faszination, sondern auch für Besorgnis: Was, wenn Maschinen unsere Jobs wegrationalisieren? Wie beeinflussen die Tools, die neben Zeichnungen zum Beispiel auch Musik generieren können, Kunst und Kultur? KI-Forscherinnen verweisen in diesen Fragen oft auf die Tatsache, dass die Künstliche Intelligenz bei den Lernvorgängen von Menschen “gefüttert” wird. Aus welchen Daten die Maschine lernt, entscheidet der Mensch. Und hier sehen viele Expertinnen auch die Herausforderung: Denn menschliche Fehler und Probleme aus der analogen Welt werden so in die Künstliche Intelligenz transferiert. Und so kommt es bei vielen KI-Anwendungen zu Gender Bias, also geschlechtlicher Diskriminierung. Tina Klüwer, Director des Künstliches Intelligenz Entrepreneurship Zentrum, bringt es auf den Punkt: „Es gibt keine Maschine, die aus eigenem Antrieb sexistische Darstellungen wählt. Es sind unsere eigenen Gehirne, die jeden Tag diskriminierende Darstellungen ins Internet pusten. Wir könnten der KI dankbar sein, dass sie uns so klar spiegelt, was in unserer Gesellschaft an der Tagesordnung ist und damit einen Diskurs anregt.“
Welche Risiken dieser Bias in der Praxis mit sich bringt, zeigte sich schon vor fünf Jahren bei Amazon. Damals beendete das Unternehmen die Verwendung einer KI beim Recruiting-Prozess ein, da diese Frauen benachteiligte. Hier wird also der fehlende Input von weiblichen und diversen Entwickler*innen bei der Entstehung von KI spürbar. Wie kann ein solcher Bias vermieden werden? Forscherinnen des Alan Turin Institutes empfehlen in einer Studie Regulierungen: Es gebe eine ethische Notwendigkeit, die dahinterstehenden Prozesse zu verstehen und die Daten und Mechanismen zu hinterfragen. Diese nachvollziehbaren Regeln müssten für alle Bürger*innen zugänglich sein. An einer solchen Regulierungsmaßnahme arbeitet die Europäische Union bereits: dem Artificial Intelligence Act. Darin soll festgelegt werden, wie KI-Software zertifiziert werden muss, um auf den Markt gehen zu dürfen. So sollen etwa Anwendungen für hochriskante Bereiche, also Lebensbereiche wie Medizin, einem strengen Prüfprozess unterzogen werden.
Bilder: Wir haben auf Dall-E nach Begriffen wie "women AI" gesucht und das kam dabei heraus
Frauen stehen KI skeptisch gegenüber
Vielleicht ist es auch die Einseitigkeit der Technologie, die Frauen skeptisch gegenüber KI stimmt. In einer Umfrage des Pew Research Centers zeigten sich mehr Frauen als Männer besorgt, wenn es um den Einsatz von KI-Lösungen geht – besonders jene, die wichtige Entscheidungen im persönlichen Leben treffen und das menschliche Verhalten einschätzen können. Und anders als die befragten Männer sprachen sich Frauen für mehr Vielfalt bei der KI-Entwicklung aus.
Die Technologie bringt aber nicht nur Gefahren, sondern auch Chancen mit sich: Einer UNESCO-Studie zufolge könnte KI auch Gleichberechtigung forcieren – wenn etwa Frauen in MINT-Berufen gefördert werden. Die öffentliche Hand und Bildungseinrichtungen sollten dafür sorgen, dass Innovationen entsprechend dieser Chancen vorangetrieben werden. Aber auch private Initiativen kümmern sich um mehr Diversität: Die internationale Organisation “Women in AI” etwa will durch Vernetzung und Weiterbildung Transparenz schaffen und Frauen in der Branche fördern. „Diversität in den Entwicklungsteams von KI ist jedenfalls von großem Vorteil, denn je mehr Personen mit verschiedenen Sichtweisen und Erfahrungen die Tools schon vor Veröffentlichung testen, desto mehr Fehlverhalten der KI wird frühzeitig aufgedeckt”, erklärt die KI-Expertin Katrin Strasser, die Mitglied von “Women in AI Austria” ist.
Wachsender KI-Markt
Bei ChatGPT war übrigens eine Frau maßgeblich an der Entstehung beteiligt: Mira Murati ist Chief Technology Officer von OpenAI – dem in San Francisco ansässigen Unternehmen hinter dem Tool. Selbst sie sieht noch viele Fragen im Umgang mit Künstlicher Intelligenz ungeklärt, wie sie kürzlich in einem Interview betonte – etwa, wie man sicherstellen könnte, dass die Technologie mit menschlicher Absicht und im Sinne der Menschlichkeit handle: „Es ist wichtig, dass wir viele unterschiedliche Stimmen einbringen, Philosoph*innen, Soziolog*innen, Künstler*innen und Leute aus dem Humanbereich.“ Auch Mira Murati spricht sich deshalb für die öffentliche Regulierung von KI-Anwendungen aus. Eine weitere KI-Expertin, Frederike Kaltheuner, gibt zu bedenken: „Wir müssen uns immer bewusst machen, wer die KI konzipiert. Das sind in den meisten Fällen Werbeplattformen wie Google. Sie wollen uns nicht zu besseren Menschen machen. Sondern sie wollen uns etwas verkaufen.“
Trotz der Fehler, die Bots wie ChatGPT heute noch haben, gehen KI-Expert*innen von einem weiteren Wachstums des Sektors aus. 2022 wurden laut CB Insights 2,65 Milliarden US-Dollar in KI-Startups investiert, im Jahr davor waren es noch 1,55 Milliarden Dollar. Demzufolge werden wir in den nächsten Monaten und Jahren noch viele weitere Innovationen sehen. Vom Massenmarkt sind fortschrittliche Technologien wie autonomes Fahren oder Roboter als Servicepersonal noch weit entfernt, in vielen Bereichen sind kleinere, weniger auffällige KI-Lösungen aber bereits weit verbreitet. Für Frauen besteht jetzt die Chance, diese mitzugestalten. Denn wie auch Mira Murati von OpenAI erwähnt: „Es ist wichtig, dass sich jetzt alle beteiligen, angesichts des Impacts, den diese Technologien haben werden.“