Responsible AI ist ein zentrales Thema, das sowohl in der aktuellen akademischen Diskussion als auch im Alltag von Unternehmen, die mit AI arbeiten, eine große Rolle spielt.

Viele AI-Unternehmen wie beispielsweise Google, Microsoft oder OpenAI haben bereits entsprechende Prinzipien, Standards und Guidelines formuliert, um sicherzustellen, dass AI-Systeme verantwortungsvoll entwickelt und eingesetzt werden.

Die bereits 2019 veröffentlichten und vielbeachteten „Guidelines for Human-AI Interaction“ betonen, dass „fairness and broader ethical considerations“ entscheidend für eine gelungene Interaktion zwischen Mensch und AI sind. In der aktuellen Ausgabe „unserer“ Fachzeitschrift „ACM Interactions“ wird zudem die Forderung erhoben, dass UX eine zentrale Rolle bei der Entwicklung von Responsible AI spielen sollte.

In diesem MA-Kurs werden wir die aktuelle Diskussion um Responsible AI sowohl theoretisch als auch praxisorientiert reflektieren. Wir werden einschlägige Texte diskutieren sowie gute und schlechte Beispiele analysieren. Darüber hinaus werden wir die Prinzipien des Responsible AI skizzenhaft auf das jeweilige Master-Thema der Studierenden anwenden. Abschließend soll jede/r Studierende ein (möglichst passendes) Prinzip im Sinne des „designerly way“ vertiefend explorieren und die Ergebnisse dieser Exploration in einem 2- bis 4-seitigen Paper zusammenfassen.

Quellen:

Google’s „Responsible AI practices“: https://ai.google/responsibility/responsible-ai-practices/

Microsoft’s “Responsible AI - Principles and approach”:
https://www.microsoft.com/en-us/ai/principles-and-approach

OpenAI’ s “safety” statement: https://openai.com/safety/

Amershi, Saleema, et al. „Guidelines for human-AI interaction.“ Proceedings of the 2019 chi conference on human factors in computing systems. 2019.
https://www.microsoft.com/en-us/research/uploads/prod/2019/01/Guidelines-for-Human-AI-Interaction-camera-ready.pdf

Liao, Q. Vera, et al. „UX Matters: The Critical Role of UX in Responsible AI.“ Interactions 31.4 (2024): 22-27.
https://dl.acm.org/doi/pdf/10.1145/3665504