Raus aus der Black Box: Vermittlung von Wissen zur transparenten Gestaltung von Machine-Learning-Anwendungen

Diese Masterarbeit erforscht, wie benötigtes Wissen zur transparenten Gestaltung von Machine-Learning-Anwendungen an UX/UI-Designer*innen vermittelt werden kann.

Abstract Deutsch

Der Einsatz von Machine Learning (ML) gewinnt in digitalen Anwendungen zunehmend an Bedeutung. Insbesondere in Form von Large Language Models (LLMs) treten ML-Systeme als intransparente Black Boxes auf, die Nutzer*innen im Unklaren lassen, wie sie zu Ergebnissen kommen. UX/UI-Designer*innen als Schnittstelle zwischen ML-Systemen und Nutzer*innen stehen dabei vor der Herausforderung, Anwendungen transparent und kontrollierbar zu gestalten. Diese Arbeit untersucht, welches Wissen UX/UI-Designer*innen für die transparente Gestaltung von ML-Anwendungen benötigen und wie dieses geeignet vermittelt werden kann.

Auf Basis von Forschungsliteratur wurde zunächst ein Transparenzbegriff und damit zusammenhängende Transparenzbedürfnisse im Kontext von ML definiert. Anschließend wurden durch Literaturrecherche und semistrukturierte Interviews Informationsbedürfnisse von UX/UI-Designer*innen abgeleitet, um ML-Anwendungen transparent zu gestalten. Die Ergebnisse zeigen, dass Designer*innen ein grundlegendes Verständnis von ML und LLMs, eine gemeinsame Fachsprache mit Entwickler*innen sowie Unterstützung bei der Übersetzung technischer Eigenschaften in Interface-Entscheidungen benötigen.

Auf Grundlage dieser Erkenntnisse und der Analyse bestehender ML-Vermittlungsformate wurden Lernziele sowie Gestaltungsprinzipien abgeleitet und in Form eines digitalen Designentwurfs in ein eigenes Vermittlungsformat überführt. Die Arbeit und das entstandene Forschungsartefakt zeigen damit einen möglichen Ansatz zur Vermittlung von Wissen rund um transparente ML-Gestaltung für UX/UI-Designer*innen auf.

Abstract English

The use of Machine Learning (ML) is becoming increasingly important in digital applications. Particularly in the form of Large Language Models (LLMs), ML systems often appear as opaque black boxes, leaving users uncertain about how results are generated. As mediators between ML systems and users, UX/UI designers face the challenge of designing applications that are transparent and controllable. This thesis investigates what knowledge UX/UI designers need to design ML applications transparently and how this knowledge can be effectively conveyed.

Based on research literature, a concept of transparency and related transparency needs in the context of ML were first defined. Subsequently, through a literature review and semi-structured interviews, the information needs of UX/UI designers for designing transparent ML applications were identified. The results show that designers require a fundamental understanding of ML and LLMs, a shared terminology with developers, and support in translating technical characteristics into interface design decisions.

Based on these findings and an analysis of existing ML educational formats, learning objectives and design principles were derived and translated into a digital design concept in the form of a self-developed educational format. The thesis and the resulting research artifact thus demonstrate one possible approach to conveying knowledge about transparent ML design to UX/UI designers.