Das Projekt Under the Calculative Gaze von Sanela Jahić untersucht, wie angewandte KI nicht nur direkt mit ungelösten gesellschaftlichen Ungerechtigkeiten des vorherrschenden sozioökonomischen Systems verwoben ist, sondern auch tatsächlich einen Übergang zum Autoritarismus ermöglicht, der in der Technologieindustrie selbst, in der Politik verschiedener Länder und Institutionen und im Aufstieg rechtsextremer politischer Bewegungen zu beobachten ist. KI verstärkt bestehende Machtdynamiken und fördert durch die hierarchische Kategorisierung von Individuen gesellschaftliche Spaltungen, die auf ausgrenzenden und ideologisch untermauerten Wert- und Zuweisungskriterien beruhen.
Ziele der umfassenden digitalen Kontrolle und algorithmischen Optimierung sind typischerweise »rechtsarme Umgebungen«, in denen die Erwartungen an politische Verantwortung und Transparenz leichter zu missachten sind. Demgegenüber stehen kollektive Praktiken der Selbstorganisation, in denen aus sozial und politisch benachteiligten Positionen Solidarität entsteht, über Differenzen hinweg und jenseits von Modellen algorithmischer Steuerung. (Ausstellunsgstext)
(Bild: Tanjab)
Die Auswüchse der künstlichen Intelligenz und der digitalen Überwachung wurden lange Zeit verklärt und waren Gegenstand der berühmtesten dystopischen Science-Fiction-Werke der Welt, als Warnung vor dem, was auf unsere Gesellschaft zukommen könnte. Heute gibt es am Vorhandensein und an den Auswüchsen dieser Technologien keinen Zweifel mehr. Die Entwicklung ist so weit fortgeschritten, dass bei den nächsten Europawahlen im Juni 2024 die Regulierung des Einsatzes von Algorithmen bei der Einstellung von Fachkräften auf der Agenda stehen wird. In der Praxis bedeutet dies, dass die Systeme bereits entwickelt und von öffentlichen Einrichtungen eingeführt wurden. Unter diesen Umständen geht es nicht mehr darum, die Grenzen dessen festzulegen, was eine KI leisten kann oder wie, sondern vielmehr darum, zu wissen, was wir individuell und kollektiv zu akzeptieren bereit sind. Was wird die Norm von morgen sein? Diese Frage stellt sich die Künstlerin Sanela Jahić schon seit einiger Zeit. Ihr Projekt Under the Calculative Gaze zeigt, wie algorithmische Systeme zur Vergrößerung bestehender sozialer Klüfte beitragen und eine Gefahr für unsere Bürgerrechte und individuellen Freiheiten darstellen. Irgendwo zwischen Soziologie, Kunst und Aktivismus erzählt Sanela Jahić sehr reale Geschichten.
Für die Künstlerin sind Anwendung von KI in verschiedenen öffentlichen Bereichen und ihre Auswirkungen Gegenstand von Kämpfen. Während ihres Researches erhält sie etwa im Jahr 2020 eine E-Mail von einem jungen Forscher, der für ein Institut im Rahmen eines europäischen Projekts, das sich mit dem Arbeitsmarkt beschäftigt, einen Algorithmus entwickelt, der Arbeitslosen helfen soll. Nur wird der Algorithmus das dann nicht tun; er wird nur vorhersagen, wer früher einen Job bekommen könnte, und die Kandidaten in eine Reihenfolge bringen. Die mit der Arbeitslosigkeit verbundenen Probleme sind jedoch vielfältig und komplex und erfordern größere Auseinandersetzung bis gesellschaftliche Umstrukturierung. Wenn also öffentliche und private Institutionen die Macht, über die Zukunft der Menschen zu entscheiden, einer Maschine anvertrauen, entledigen sie sich in Wirklichkeit jeglicher Verantwortung.
Diese neuen algorithmusgesteuerten Systeme können sowohl von Regierungen als auch von Unternehmen geschaffen werden, aber im Allgemeinen arbeiten der öffentliche und der private Sektor Hand in Hand. Die politischen Behörden vereinbaren die zu treffenden Maßnahmen, oft mit dem Hintergedanken, die Sicherheit der Bürger zu gewährleisten, und legen fest, was sie als Bedrohung ansehen. Die Unternehmen wiederum stellen Beratung und Fachwissen zur Verfügung. Die Art und Weise, wie sie arbeiten, und die Kriterien, die sie anwenden, sind jedoch nicht klar zu fassen, was das Feststellen von Ungerechtigkeiten erschwert. Sicher ist jedoch, dass Minderheiten und Randgruppen sehr oft die unwissenden Versuchskaninchen dieser Systeme sind. Der Politikwissenschaftlerin Virginia Eubanks sind diese Praktiken nicht fremd; in einem Artikel aus dem Jahr 2014 beschrieb sie bereits die Gefahren ihrer Normalisierung für Bevölkerungsgruppen, die vom amerikanischen Staat als »gefährdet« angesehen werden. Ihre damalige Interviewpartnerin, eine junge Mutter, die Sozialhilfe bezieht, warnte: »...ihr solltet aufpassen, was mit uns passiert. Ihr seid die Nächsten.«
Erschüttert über die bestehenden Machtdynamiken und die gesellschaftliche Kluft, die durch ausgrenzende Zuschreibungen und Bewertungen entsteht, startete Sanela Jahić 2021 ihr Projekt. Sie wird dabei von Aksioma – Institute of Contemporary Art in Ljubljana gefördert, Forschung und Produktion wird außerdem über die konS ≡ Platform for Contemporary Investigative Art unterstützt, eine Förderplattform, die auf Initiative unabhängiger slowenischer Kulturorganisationen gegründet wurde. Sanela Jahić wendet sich zuerst an Dan McQuillan, dessen Artikel »Mental Health and Artificial Intelligence: Losing your voice« den für sie richtigen Ton trifft. Der Experte für kreatives und soziales Computing schreibt zu dieser Zeit an Resisting AI. Er wird an einem Video mitarbeiten, das Teil der endgültigen Kunstinstallation sein wird. Beim London-Aufenthalt bei Dan McQuillan nimmt Sanela Jahić spontan Kontakt mit dem 56a infoshop auf, einem DIY-Sozialzentrum, der ein Raum des Widerstands ist. Von diesem Raum werden 3D-Scans angefertigt. Später tritt Sanela Jahić auch mit Extinction Rebellion in Kontakt, die ihr die Erlaubnis erteilen, einige ihrer Videoinhalte für ihr Projekt zu verwenden. In Folge nimmt die Künstlerin Gemeinschaften ins Visier, die im Kampf gegen Ungerechtigkeit am Arbeitsplatz aktiv sind. Sie stößt auf einen gewerkschaftlich organisierten Amazon-Lagerarbeiter in Chicago, den sie nicht als Künstlerin, sondern als Arbeitnehmerin der Kreativbranche kontaktiert, die in ihrem Land mit Schwierigkeiten zu kämpfen hat. Er berichtet von seinen Erfahrungen mit der kollektiven Organisierung, von seinen eigenen Schwierigkeiten, aber auch von der Notwendigkeit, die Gewerkschafts-bewegungen auf der ganzen Welt zusammenzuschließen. Jenseits von Gesetzen, sozialen Maßnahmen, geografischen und kulturellen Unterschieden haben all diese Menschen überall auf der Welt gemeinsam, dass sie für bessere Arbeitsbedingungen kämpfen.
(Bild: Tanjab)
Als sie nach ähnlichen Aktionen in anderen Ländern sucht, stößt Sanela Jahić auf Magda Malinowska, die von Amazon rechtswidrig entlassen wurde, weil sie den Tod einer Kollegin aufgrund schlechter Arbeitsbedingungen thematisiert hatte. Als Mitglied der polnischen Gewerkschaft Inicjatywa Pracownicza bezog sie Stellung, indem sie den Fall vor Gericht brachte und die Arbeitnehmer ermutigte, ihre Rechte einzufordern. Die Künstlerin nimmt die Zeugnisse von Erfahrungen und Geschichten filmisch auf: die Art und Weise, wie die Arbeiter getrennt werden, die Kontrolle ihrer Gesprächszeit, ihrer Pausenzeit und ihres Standorts im Lager, das Abgleiten in die Automatisierung des Körpers, aber auch und vor allem ihre Widerstandsaktionen. Dabei geht es weniger um Amazon selbst, sondern vielmehr um Grundprinzipien einer solchen Organisation und wie das Vertrauen der Arbeitnehmer und ihr Glaube an eine bessere Zukunft wiederhergestellt werden können.
Im Jahr 2023 nimmt die Installation die Form mehrerer Videos, einer Reihe von Plakaten und hängemattenähnlichen Strukturen an. Das Video No to AI, Yes to a Non-fascist Apparatus wechselt zwischen Ausschnitten von Extinction Rebellion während einer Demonstration auf einem Amazon-Gelände während des Black Friday und Photogrammetrien von Orten, an denen Widerstand organisiert wird. Die Photogrammetrie ist eine Technik zur Vermessung eines Objekts oder einer Szene mithilfe von Fotos, die aus verschiedenen Blickwinkeln aufgenommen werden und 3D-Scans ähneln. Hier wird mit Nicht-Perfektion der von der Maschine erzeugten Illusion entgegengewirkt. Der Text zum Video wurde von Dan McQuillan speziell für diese Arbeit geschrieben und gesprochen, er beschreibt die faschistischen Tendenzen von KI. Die anderen Videos zeigen Interviews, die die Künstlerin geführt hat, und Aufnahmen, die in verschiedenen Amazon-Lagern von Gewerkschaftsarbeitern gemacht wurden, im Vorfeld des Projekts heimlich gefilmt. Ein weiterer Bestandteil der Ausstellung ist eine Reihe von Postern mit dem Titel 1s and 0s, haves and have-nots (1en und 0en, Habende und Habenichtse). Diese Poster wurden mit dem Carbon Design System, einer von IBM lancierten Open-Source-Plattform für Produktdesign, erstellt. Mit dieser Ästhetik schafft die Künstlerin ein hochgradig systematisiertes und informatives Umfeld. Die Darstellungen beziehen sich dabei auf ein klassisches Marketingmodell: das Bild eines zufriedenen, lächelnden Kunden, begleitet von einem Text, der seine Erfahrung beschreibt. Sanela Jahić verwendet diese Codes, zerstört aber die Illusion durch eine kurze Beschreibung eines konkreten Beispiels, wie und wo die Anwendung probabilistischer Algorithmen zu diskriminierenden und schädlichen Praktiken geführt hat. Jede dieser Darstellungen beginnt mit der Phrase: »If you are a …«. Die Künstlerin hat mehr als 200 Beispiele gesammelt, die Auswahl ist so gestaltet, dass sich das Publikum identifizieren kann. Soziale, berufliche und geografische Kontexte, physisches Erscheinungsbild, Geschlecht usw. werden variiert – das System wird zum gemeinsamen Nenner für die Besucher:innen.
Schließlich wird die Installation durch Strukturen nach dem Design der Bambus-Protesttürme, die von Extinction Rebellion bei ihren Demonstrationen verwendet wurden, komplettiert. Es handelt sich um selbsttragende Tensegrity-Strukturen, die aus isolierten Komponenten innerhalb eines Netzes von Seilen besteht, die unter ständiger Spannung stehen. Sie sind aus sehr leichtem Material gefertigt, leicht zu transportieren und schnell und einfach zu montieren. Sie können verwendet werden, um Eingänge zu blockieren oder bei Polizeirazzien an Interventionsorten hoch oben Zuflucht zu suchen. In der Installation verbinden sie gewissermaßen die Themen. Sie ermöglichen dem Publikum auch, darauf Platz zu nehmen, und bilden gleichzeitig ein Gegengewicht zur Allgegenwart der digitalen Technologie.
Als Sanela Jahić eine Einladung zu AMRO – Art Meets Radical Openness 2024 erhielt, zögerte sie nicht, daran teilzunehmen. Das Festival ist dem Widerstand gegen das wirtschaftliche, soziale und ideologische Monopol der Giganten der digitalen Industrie gewidmet, indem Räume für künstlerischen Ausdruck und lernenden Austausch geschaffen werden. Das diesjährige Thema von AMRO, »Dancing at the Crossroads«, lud speziell dazu ein, eine wünschenswerte Zukunft zu denken, in der technologische Entkolonialisierung, zivile Resilienz und eine Verteidigung der Natur auf der Tagesordnung stehen. Science-Fiction-Autoren schildern gemeinhin zukünftige Gesellschaften, die bereits fest in einer technologischen Diktatur verankert sind und geben uns aber kaum Hinweise, wie der Weg dorthin vonstatten ging. Engagierte Künstler wie Sanela Jahić zeigen dies und warnen uns vor dem schleichenden politischen Wandel. Under the Calculative Gaze beleuchtet einerseits die indiskrete Art und Weise, wie die KI unser Leben betrachtet und wie wir ihr ausgesetzt sind, und andererseits die potenzielle Änderung unseres Verhaltens, um der künftigen neuen Norm zu entsprechen, die uns schließlich auferlegt werden wird. Aber wir sollten dabei nicht auf unsere Fähigkeiten vergessen zu vertrauen, uns kollektiv zu organisieren und gegen Ungerechtigkeiten vorzugehen.
Der Text wurde ursprünglich in Englisch verfasst und von der Versorgerin-Redaktion auf Deutsch übersetzt.
Zur Künstlerin
Sanela Jahić (1980, Kranj) schloss 2008 ihr Studium der Malerei an der Akademie der Künste und des Designs der Universität Ljubljana ab und erwarb 2010 ihren Master-Abschluss in Öffentlicher Kunst und Neuen künstlerischen Strategien an der Bauhaus-Universität Weimar.
Die Ausstellung
Die Ausstellung Under the Calculative Gaze wurde im Rahmen von AMRO – Art meets Radical Openness, Festival dedicated to Art, Hacktivism and Open Culture 8. - 11. Mai 2024, in Linz gezeigt. Ausstellungdauer war von 8. - 29. Mai in der Galerie MAERZ.
https://art-meets.radical-openness.org/2024/program/under-the-calculative-gaze/