Incom ist die Kommunikations-Plattform der Fachhochschule Potsdam

In seiner Funktionalität auf die Lehre in gestalterischen Studiengängen zugeschnitten... Schnittstelle für die moderne Lehre

Incom ist die Kommunikations-Plattform der Fachhochschule Potsdam mehr erfahren

Data Justice

Inwieweit können Tools, die mit künstlicher Intelligenz (KI) arbeiten diskriminierend sein?
Anhand von Recherchen, Diskussionen und Workshops beschäftigten wir uns mit dieser und angrenzender Fragestellungen. In einem abschließenden Designprojekt wurden Erkenntnisse aus dem Kurs verarbeitet und gestalterisch aufbereitet.

Deconstructing AI – Fortress Europe

Seit dem Herbst 2017 verwendet das Bundesamt für Migration und Flüchtlinge (BAMF) eine Software zur Sprachanalyse bei Asylverfahren. Wir haben uns anhand mehrerer Artikel in einer 4er-Gruppe mit der Technologie dieses und ähnlicher Tools beschäftigt. Anhand eines Fragebogens analysierten wir die Software und stellten uns die Fragen wer dieses Tool nutzt, wieso es benutzt wird und welche Formen der Diskriminierung von ihm ausgehen. Dabei stießen wir zum einen auf Mängel in der Umsetzung  des Tools (z.B. Fehlen von wichtigen Daten, eine daraus resultierende hohe Fehlerquote und ein missverständliches Interface). Zum anderen stellten wir schnell sehr fragwürdige Motivationen hinter der Entwicklung und der Anwendung der Software fest. Diese bestehen zum Großteil darin Asylverfahren zu beschleunigen, nicht aber sie für alle Beteiligten zu verbessern. Letztendlich bleibt das Tool Produkt einer fremdenfeindlichen Weltanschauung, die Geflüchtete als Problem sieht und Effizienz über menschliche Schicksale stellt. 

Aufbauend auf diesen Erkenntnissen stellten wir uns die Frage, wie das Tool verbessert werden kann. Zunächst kamen wir zu dem Punkt, dass die effektivste Verbesserung des Tools in dessen Abschaffung und in der Bekämpfung seiner politischen Ursprünge liegt. Ein möglicher reformatorischer Ansatz wäre eine stärkere Inklusion von Sprachwissenschaftlern und Geflüchteten in den Entwicklungsprozess der Software.

Speculative Future – Urban Dorf

Innerhalb eines Workshops während des Kurses beschäftigten wir uns mit den Methodiken des Speculative Designs. Anhand einer Auswahl von vorher gesammelten sozialen/politischen, technologischen und ökonomischen Trends entwickelten wir in Gruppenarbeit ein Zukunftsszenario. Dabei viel unsere Wahl auf die Trends Urbanisierung, Smart Homes und Genossenschaften. Gemeinsam erarbeiteten wir die Idee von Dorfstrukturen in Hochhausform innerhalb einer Stadt, die aus selbstverwalteten und räumlich abgegrenzten Communities bestehen. Architektonisch wird diese Lebensweise durch mehrere smarte, variable Modulwohnungen in einem größeren Gebäudekomplex ermöglicht. Die Communities eines Gebäudekomplexes sind dabei weitestgehend autonom, können aber mit angrenzenden Communities interagieren und so eine bessere Infrastruktur schaffen. 

Zur Visualisierung unserer Idee entwickelten wir in einfachster Form einen Prototypen unseres Häuserkomplexes. Mit dem Szenario griffen wir aktuelle Probleme wie Wohnungsnot und eine wachsende Annonymität in Städten auf, wobei unser utopischer Ansatz innerhalb seiner abgeschlossenen Form und der datengesteuerten Wohnparzellen auch dystopische Züge hat.

Abschlussprojekt – Delphi

In einem finalen Kursprojekt sollten Erkenntnisse aus den Seminaren innerhalb eines Designprojekts umgesetzt werden. Mithilfe von Skizzen und Mindmaps entwickelte ich mehrere Ideen, die auf verschiedenen bestehenden KI-Tools fußten. Nach einem Gespräch mit den Kursleiterinnen entschied ich ein Szenario in Form eines Speculative Designs umzusetzen. 

Beschreibungstext Szenario:

Im Jahr 2062 entwickelte ein Team der Purdue University eine Künstliche Intelligenz mit dem Namen Delphi, die Zukunftsszenarien abhängig von den Entscheidungen einer jeden Person simulieren kann. Umgekehrt wurde es mit ihrer Hilfe auch möglich ein gewünschtes Szenario abzuspeichern und die dafür notwendigen Handlungen ausgeben zu lassen. In einer gemeinsamen Versammlung der NATO vor 17 Jahren wurden drei Ziele definiert, die innerhalb der westlichen Welt mithilfe von Delphi umgesetzt werden sollen:

1. Weltweite Klimaneutralität

2. Konstantes Wirtschaftswachstum mit Vollbeschäftigung 

3. Weltfrieden

Gespeist von den Zielen errechnet Delphi seitdem in Echtzeit Handlungsvorgaben für alle Bürger*innen und schickt diese an das Handy der jeweiligen Person. Die Umsetzung der Vorgaben wird mithilfe von Videoüberwachung zentral von der Delphi-Gesellschaft in Washington überprüft. Bei Missachtung der Anweisungen wird die örtliche Polizei benachrichtigt und es drohen Strafen.

Idee:

Das Konzept beruht auf einem existierendem Tool namens 'Synthetic Environment for Analysis and Simulations (SEAS)'. Dieses kann anhand von Nachrichten sowie ökonomischen, ökologischen und gesellschaftlichen Daten Zukunftsszenarien für 62 Länder berechnen und wird derweil vom US-Verteidigungsministerium verwendet. Meine Idee knüpft an dem Orakel-Charakter der Technologie an und zeichnet aufgrund einer verbesserten Version des Tools ein mögliches Zukunftsszenario.

Umsetzung:

Um mein Szenario zu kommunizieren und zu verbildlichen, erstellte ich mehrere Infografiken, Logos fiktiver, beteiligter Organisationen und ein Software Interface für eine Delphi-App. Dieses Interface nutzte ich zudem, um Nachrichten mehrerer Personas an einen Journalisten darzustellen, in denen die Auswirkungen der Delphi-Technologie thematisiert werden. 

Das Szenario vermittelt zunächst einen utopischen Charakter, der auf den zweiten Blick gebrochen wird und gesellschaftliche Probleme wie Überwachung und Kontrolle durch Staaten, westlichen Imperialismus und die Intransparenz von künstlicher Intelligenz behandelt.

Fazit

Der Kurs war für mich in erster Linie meinungs- und persönlichkeitsbildend. Sowohl die Inputs durch Texte und Vorträge der Dozentinnen, als auch die Diskussionen des Kurses sowie im Freundes- und Bekanntenkreis haben mein Bewusstsein für Diskriminierung, Vorurteile und Privilegien gestärkt. Ich habe einen neuen Blick auf die Verantwortung von Gestalter*innen bekommen und denke der Aspekt von Diskriminierung und Vorurteilen kann und muss in jeder Art von Dienstleistung oder Produkt von beteiligten Designer*innen mitgedacht und bewusst in die Gestaltung einbezogen werden. Außerdem habe ich einen kritischeren Standtpunkt zu den gesellschaftlichen Auswirkungen und der institutionellen Anwendung von Technologie entwickelt.

Die Arbeit an einem Speculative Design Szenario war eine interessante Methodik, um die Wechselwirkung von Technologie und Gesellschaft zu ergründen, auch wenn es vermutlich keine Disziplin ist, die ich weiterverfolgen möchte. 

Ich bin froh den Kurs belegt zu haben, da er tiefgreifende gesellschaftliche Fragen behandelt hat, die in vielen anderen Kursen ausgelassen oder nur oberflächlich angeschnitten werden.

Ein Projekt von

Fachgruppe

Perspektiven und Social Skills

Art des Projekts

Studienarbeit im Hauptstudium

Betreuung

Jasmin Grimm Nushin Yazdani

Zugehöriger Workspace

Data Justice – Künstliche Intelligenz und Diskriminierung

Entstehungszeitraum

Wintersemester 2019 / 2020

Noch keine Kommentare