Interview FATIMA NJOYA
Es ist an der Zeit zu ändern, wie wir über Technologie sprechen, fordert Sinéad Bovell, Model und Gründerin des Technologiebildungsunternehmens Waye. Und erläutert im Interview, warum es wichtiger denn je ist, auf diverse Stimmen junger Unternehmer:innen der marginalisierten Community zu hören.
Deine Mission als Futuristin ist es, eine zukunftsorientierte und aufgeklärte Gesellschaft mitzugestalten, in der Technik auf der richtigen Seite der Geschichte steht. Was genau ist damit gemeint?
Ich kann nachvollziehen, dass das erst einmal sehr komplex klingt. Doch da unsere Gesellschaft zu einem großen Teil auf Technologie aufbaut, ist es wichtig, dass wir alle ihre Sprache sprechen. Nur wenn wir an der Konversation teilhaben, bleiben wir informiert und auf dem neusten Stand. Wenn wir unsere Zukunft also so gestalten wollen, dass die meisten Menschen Teil davon sein können, müssen die Diskurse so verständlich wie möglich gestaltet werden.
Das klingt schlüssig, aber was genau ist in diesem Fall die „richtige Seite“?
Wenn ich „auf der richtigen Seite der Geschichte“ sage, dann meine ich damit Folgendes: Viele Leute sagen, dass Technologie nur ein Werkzeug ist und es an uns liegt zu entscheiden, ob wir es zum Guten oder Bösen einsetzen. Das stimmt nur zu einem gewissen Teil. Was dahintersteckt, wird in der Wissenschaft als „Dual-Use-Dilemma“ bezeichnet: Technologie kann Erstaunliches, aber auch Beängstigendes leisten. Doch ich glaube nicht, dass Technik von Natur aus neutral sein kann. Sie ist nämlich ein Produkt der Zeit, in der sie entwickelt wird, so wie die Menschen, die an ihrer Entwicklung beteiligt worden sind.
Technologien, Maschinen und Algorithmen lernen aus den Daten, mit denen wir sie vorab füttern: Wie können wir da von ihnen erwarten, „besser zu sein“?
Ich denke, es geht zunächst darum zu erkennen – wie auch immer man AR oder Algorithmen einsetzt –, dass sie immer voreingenommen sein werden. Denn jede KI wird weitgehend von den Daten beeinflusst, anhand derer sie trainiert wird, ebenso von den Meinungen der Programmierer:innen, die sie erstellen. Diese Daten stammen in der Regel aus der Vergangenheit, die vieles mit sich bringt, was wir in der Zukunft nicht wiederholen wollen. Das bedeutet nicht, dass jegliche Art der künstlichen Intelligenz ausschließlich unheilvoll und schwerwiegend vorbelastet ist – nein. Doch mit dem Wissen darüber, unter welchen Bedingungen sie entstanden ist, können wir uns genau das zu jeder Zeit bewusst machen und unser Bestes tun, um diese Voreingenommenheit zu minimieren.
Dazu reicht es, eine vielfältige Auswahl an Entwickler:innen einzustellen, oder steckt mehr dahinter?
Natürlich besteht eine dieser Strategien darin, die Aufmerksamkeit darauf zu lenken, wer in den Programmierräumen sitzt. Denn wenn es dort keine vielfältigen Stimmen gibt, wird es auch keine Leute geben, die von vornherein auf bestimmte Vorurteile in den Datensätzen achten. Wenn man also nur auf eine homogene Gruppe mit homogenen Erfahrungen setzt, gibt es niemanden, der Daten auf eine Art und Weise hinterfragen würde, wie es bestimmte marginalisierte Communitys aufgrund ihrer Erfahrungen machen würden. Es muss also immer mit Vorsicht vorgegangen werden, bevor eine KI einfach auf dem Markt eingesetzt wird. Genau an dieser Stelle wird es interessant, wenn nicht sogar heikel. Im sogenannten „Zeitalter der Algorithmen“ gibt es noch keinen wirklich eindeutigen Handlungsrahmen für Verantwortlichkeit und Rechenschaftspflicht. Das heißt, wenn ein Unternehmen einen KI-Algorithmus einsetzt, müssen wir uns immer die Frage stellen: Wer ist hier verantwortlich?
Gibt es darauf eine richtige Antwort?
Ich denke, dass mehrere Parteien eine Verantwortung haben: Das Unternehmen, das diesen Algorithmus verkauft, und das Unternehmen, welches die Technologie einsetzt. Die Konsequenz daraus ist, dass, sobald künstliche Intelligenz in irgendeiner Weise eingesetzt wird, das Unternehmen zu einem KI-Unternehmen wird. Somit muss im Vorfeld über diese Kausalitäten nachgedacht werden, bevor die Technologie überhaupt Verwendung findet.
Das klingt schlüssig, aber auch ganz schön komplex. Wie lässt sich das runterbrechen?
Indem wir Gespräche für die Gesellschaft, die Allgemeinheit öffnen. Viele Menschen haben das Gefühl, dass der technische Fortschritt ihnen einfach passiert und nicht mit ihnen. Verständlich, denn die Art und Weise, wie Technologie unser Leben verändert hat, erweckt den Eindruck, dass sie keinerlei Mitspracherecht hatten. Um das aufzubrechen, ist ein gewisses Maß an Wissen und Verständnis dafür gefordert, wie diese Systeme funktionieren. Daher ist vor allem (Weiter-)Bildung wichtig, um dann den Diskurs in der Öffentlichkeit anzuregen, wie Technologie unser Leben in Zukunft mitgestalten soll – angefangen im Jetzt.
Was könnte dabei helfen, das erdrückende Gefühl der Überwältigung/ Überforderung zu verringern?
Je mehr die Menschen die KI verstehen, desto mehr verstehen sie, wie sie sich auf ihren Arbeitsbereich und die Gesellschaft im Allgemeinen auswirken wird. Dieses Grundverständnis ist sehr wichtig, um Ängste und Vorbehalte gegenüber diesem „mystischen“ System abzubauen, das plötzlich aufgetaucht ist und allen die Arbeit wegnehmen könnte. Natürlich ist mir ganz genau bewusst, dass KI für viele Menschen sehr überw.ltigend ist. Viele schalten bei den Debatten also lieber ganz ab und hoffen, dass es sich von selbst regelt. Es ist aber wichtig, sich darauf einzulassen.
Wie zum Beispiel?
Indem man zum Beispiel einmal im Monat eine Google-Suche startet, wie sich KI auf den eigenen Arbeitsbereich auswirkt. Diese schnelle Recherche kann dabei helfen, sich daran zu gewöhnen, was bevorsteht und wie man sich darauf vorbereiten kann.
Laut einer Studie von McKinsey aus dem Jahr 2017 sollen bis 2030 etwa 800 Millionen Arbeitsplätze von der Technik ersetzt werden – auch in der Kreativindustrie. Doch darin liegt deiner Meinung nach auch eine Chance?
Sicher wird KI viele Arbeitsplätze ersetzen. Trotzdem ergibt sich daraus auch eine wachsende Wirtschaft mit neuen Arbeitsplätzen und Branchen, die man sich gerade nur schwer vorstellen kann. Die meisten der heutigen Jobs gab es vor 80 Jahren auch noch nicht. Technologie schafft also mit der Zeit neue Regeln, und das wird auch bei der künstlichen Intelligenz so sein. Die meisten digitalen Berufe, die es heute gibt, zum Beispiel Social-Media-Manager:in, Datenwissenschaftler:in oder Expert:innen für Datenhygiene, waren damals noch nicht einmal möglich. KI wird also für neue Aufgaben sorgen, doch dafür müssen wir zukunftsorientiert denken. Es ist wichtig zu verstehen, was passiert, um in der Lage zu sein, Maßnahmen zu ergreifen und nicht nur passiv abzuwarten, was passieren wird.
Genau das machst du auch mit deinem Unternehmen Waye: aktiv den Diskurs anregen, aufklären und Schulungen zu neuen Technologien für zukünftige Kreative und Unternehmer:innen anbieten?
Genau, wir wollen den Menschen das Wissen und die Fachkompetenzen darüber vermitteln, wie die Technik ihre Branche, die Arbeitswelt im Allgemeinen oder unser persönliches Leben verändern wird. Mit diesen Informationen können sie dann bewusste und bessere Entscheidungen für ihre Zukunft treffen. Ich habe Waye damals gegründet, um genau diese Gespräche zugänglich, ja fast schon unterhaltsam zu gestalten und die Menschen da abzuholen, wo sie gerade stehen.
In einem Interview über die Gründungsgeschichte von Waye hast du erwähnt, wie abgekoppelt viele Kreative von der Technologie und ihren Möglichkeiten sind. Ist das immer noch so?
Ich glaube, es ist einfach eine große Herausforderung, weshalb sich viele vielleicht etwas überfordert fühlen. KI dringt gerade in ihre Welt ein – und zwar nicht auf eine Art und Weise, die kollaborativ zu sein scheint, sondern eher automatisierend. Dabei hatten Kreative schon immer eine symbiotische Beziehung zur Technologie. Es ist interessant, dass gerade der künstlerische Bereich oft einer der ersten ist, in dem Innovationen tatsächlich genutzt werden. Sei es nun die Erfindung der Kamera, des Internets oder des Computers. Ich bin der Meinung, dass Kreative, wenn sie dieses Tool für sich nutzen können, dem Rest von uns um Lichtjahre voraus sein werden. Genauso, wie es bereits viele Male vorher geschehen ist.
In dieser Hinsicht können KI, CGI und AR dabei helfen, fantastische Welten von Eskapismus und Entertainment in verschiedenen Bereichen zu schaffen. Werden dadurch aber nicht auch bestimmte Standards und Idealbilder stilisiert? Wie bewertest du die Einflüsse in diesem Bereich?
Technologie hat definitiv einen großen Einfluss auf unsere äußere Wahrnehmung. Einer davon ist die kognitive Dissonanz zwischen dem, wie sich die Menschen [online] präsentieren, und dem, was sie im wirklichen Leben zu sein glauben. Diese Art von Diskrepanz des Selbstwertgefühls, das Empfinden, dass man nur eine vollkommene, bearbeitete und gefilterte Version seiner selbst präsentieren kann, hat sich dadurch zu einer Art Norm entwickelt.
Wie können wir mit dieser Sucht nach Perfektion mithalten und was bedeutet das für unser Selbstbild und die Image-making-Industry?
Jetzt, wo Filter so alltäglich geworden sind, wird von uns erwartet, dass wir immer kameratauglich sind und uns ständig in Szene setzen. Das ist schlichtweg unmöglich, hat viele negative Auswirkungen auf die psychische Gesundheit und sorgt für einen immensen Druck, mithalten zu müssen. Dank der ganzen technologischen Möglichkeiten wird es sogar noch einfacher, auf digitalem Wege Schritt zu halten. Allerdings entsteht dadurch eine Dissonanz darüber, wer wir in der realen Welt zu sein glauben. Darüber hinaus sieht man, dass diese [Schönheits-]Filter eher eurozentrische Merkmale berücksichtigen. Das bedeutet Folgendes: Je nachdem, wie diese Filter und KIs trainiert wurden, haben die Daten, auf denen sie basieren, einen drastischen Einfluss darauf, welche Kulturen digital als schön wahrgenommen werden. Gleichzeitig erfolgt eine Vereinheitlichung des Erscheinungsbildes und der Darstellung aller. Eine Entwicklung, die noch weiter vorangetrieben wird, da sich die Möglichkeiten zur Erstellung digitaler Avatare kontinuierlich verbessern. Mitunter erschaffen Menschen sogar digitale fotorealistische Figuren, die ihnen gar nicht ähneln und beispielsweise in Modekampagnen auftreten.
Glaubst du, dass künstliche Intelligenz irgendwann deinen Job als Model übernehmen wird und so dafür sorgt, dass weniger diverse „echte“ Personen für Aufträge gebucht werden?
Wir sind in eine Welt hineingewachsen, in der digitale Persönlichkeiten und Avatare potenziell für Fashionkampagnen gebucht werden können. Vielleicht werden wir sie auch in Filmen sehen oder es wird möglich sein, eine KI-Figur gegen eine andere auszutauschen. All das stellt uns vor neue ethische Herausforderungen: Was passiert mit den ethischen Standards, wenn Dinge, die bisher von Menschen gemacht wurden, nun von KI oder vollständig digitalisierten Persönlichkeiten ausgeführt werden? Wer hat die Kontrolle über die Identität dieser digitalen Personae? Es ist nämlich eine Sache, digitale Identitäten zu schaffen und dabei die Möglichkeiten der Kreativität auszuschöpfen und mit ihren Grenzen zu experimentieren. Es gibt allerdings eine gewisse Grauzone, innerhalb der Menschen Identitäten schaffen und kontrollieren können, die zu Communitys gehören, denen sie nicht angehören. Das Problem ist hier: Durch die digitalen Kreationen sprechen sie im Namen dieser Gemeinschaften und profitieren von deren Identitäten. Das wiederum öffnet neue Türen der digitalen kulturellen Aneignung, mit der wir uns ebenfalls in Zukunft auseinandersetzen müssen.
Werden diese digitalen Avatare Auswirkungen auf Diversität und Inklusion in der Mode- sowie Beautyindustrie haben?
Die Branchen und ihre Praktiken sind ein Paradebeispiel für die Kluft zwischen den Menschen, die die Avatare kontrollieren, und den Identitäten der Avatare selbst. Das kann zu einer sogenannten „Diversity-Illusion“ führen, bei der eine Marke oder ein Unternehmen einen Avatar erstellt, der so aussieht, als gehöre er zu einer bislang marginalisierten Community. Doch die Menschen, die tatsächlich von dieser Identität profitieren, haben nichts damit zu tun.
So entsteht die Illusion von Diversität …?
… bei der lediglich eine Fassade gezeigt wird, aber dahinter findet dieselbe Ausbeutung statt, die es zuvor gegeben hat – sei es zu Profitzwecken oder zur falschen Repräsentation. Hier müssen wir besonders vorsichtig sein! Ein aktuelles Beispiel dafür ist Levi’s, die vor ein paar Monaten angekündigt haben, dass sie digitale Models einsetzen wollen, um inklusiver zu sein. Doch es gab keine Informationen darüber, ob diverse Programmierer:innen oder Softwareentwickler: innen im Backend eingestellt werden.
Wie können wir dann sichergehen, dass der kulturelle Kontext digital nicht missinterpretiert wird?
Wenn wir Technologien in eine Richtung lenken wollen, die Probleme löst, uns inspiriert und Vorfreude auf die Zukunft haben lässt, dann müssen wir darauf achten, wer beteiligt ist und welche Werte miteinbezogen werden. Wir müssen unbedingt sicherstellen, dass wir Technologie so gestalten, dass sie sich an die meisten Menschen richtet und nicht nur für eine bestimmte dominante Gruppe gedacht ist.
Wie kann für mehr Awareness zum Thema digitale kulturelle Aneignung gesorgt werden?
Im Falle der kulturellen Aneignung gibt es keine gesetzlichen Regelungen. Es handelt sich einfach um etwas, bei dem sich die Gesellschaft darauf geeinigt hat, dass sie es nicht tun sollte. Aus diesem Grund muss eine Konversation darüber stattfinden, wie genau diese Art gesellschaftlicher Normen und Rahmenbedingungen in die digitale Welt übertragen wird. Das bedeutet beispielsweise, dass wir sicherstellen müssen, dass alle Menschen Zugang zur Entwicklung der Technologien haben. Auf diese Weise wird verhindert, dass die dominanteren Gruppen immer diejenigen sind, die Zugang und Kontrolle zu neuen Innovationen haben, und die marginalisierten Gruppen auch in den digitalen Welten weiterhin an den Rand gedrängt werden.
Nach all dem, was du in den letzten Jahren gelernt und gesehen hast: Glaubst du, dass wir in der Lage sind, mit der Hilfe von Technik neue Erinnerungen zu schaffen, die nicht mit Voreingenommenheit verbunden oder mit bestehenden Mustern verknüpft sind?
Ich denke, dass es definitiv Möglichkeiten gibt, um Vorurteile und gewisse Risiken, die mit künstlicher Intelligenz und Algorithmen einhergehen, abzuschwächen und zu minimieren. Aber wir haben noch keinen genauen Weg dafür gefunden, da wir immer noch daran arbeiten, künstliche Intelligenzen mit unzähligen Daten zu trainieren. Doch auch wenn sich die neuen Technologien in der Entwicklung befinden, bedeutet das nicht, dass wir die Prozesse dahinter nicht kritisch betrachten und kontinuierlich verbessern können. Wir müssen sicherstellen, dass wir dabei die bestmögliche Arbeit leisten und dass die Datensätze nicht von [unterbewussten] Vorurteilen geprägt sind. Wir müssen also verhindern, dass das historische Ungleichgewicht in der Zukunft verankert und durch Codes weitergetragen wird und dadurch bestimmte marginalisierte Communitys weiter ausgegrenzt werden. Persönlich denke ich, dass wir es viel besser machen könnten, als wir es bisher getan haben. Denn das ist noch nicht das Ende – sondern etwas, worauf wir uns freuen können.
gründete 2017 die Tech-Education-Company WAYE (Weekly Advice for Young Entrepreneurs). Durch ihre einzigartige Perspektive – von ihrem Finance-Studium, einem Business-Master sowie ihrer Karriere als Model beeinflusst – gelingt es ihr, die unterschiedlichen Ebenen zu verknüpfen, die im Umgang mit den neuen Technologien relevant sind. Jeden Tag schalten mehr als 10.000 Millennials und Gen Z auf Sinéads Plattformen ein. In ihrer Rolle als Speakerin und Expertin sowie als Mitglied des GENERATION CONNECT VISIONARIES BOARD der UN sorgt die Kanadierin dafür, dass diverse Stimmen in der Tech- Industrie berücksichtigt werden. Refinery 29 zählte die Futuristin 2020 zu den „Top Ten Black Women Changing the Game“.
