„an opaque crystal ball“ - Transparent Artificial Intelligence in UX Research

Fostering trust, control and transparency is challenging due to AI's probabilistic nature. While technical research for better AI-interpretability is a common research field for OpenAI & Co, this thesis focuses on the UX and UI design considerations that can be made to improve human understanding of an AI output.

Specifically, this thesis: - examines AI's recent history and relates it to the Industrial Revolutions, - establishes a framework to provide terms when discussion how AI output can be affected using different input, - makes considerations for design requirements of such a tool and then, - conceptually presents it.

Abstract English

Since late 2022, there has been a significant increase in the presence of generative artificial intelligence in the consumer sector, with its capabilities progressively being integrated into professional creative and design tools. Currently, these tools, such as Figma plugins and Creative Cloud features, primarily focus on copywriting and image generation. However, major industry players have announced plans to introduce AI features in beta directly within their platforms. As this integration advances, AI will be able to operate more proactively and independently. This raises questions about the extent of control users are willing to delegate to AI. What do interfaces look like that enable us to efficiently supervise AI’s contributions? How do we ensure that modifications are comprehensible and reversible? What design principles foster user trust in AI?

This thesis briefly examines the historical development of artificial intelligence and evaluates some of the tools available to designers today. It then focuses on the possibilities for future development and speculates on the challenges that design tools will face as AI becomes increasingly competent and autonomous.

Abstract Deutsch

Seit Ende 2022 hat die Präsenz generativer Künstlicher Intelligenz im Verbrauchersektor erheblich zugenommen, wobei ihre Fähigkeiten zunehmend in professionelle Kreativ- und Designwerkzeuge integriert werden. Derzeit konzentrieren sich diese Werkzeuge, wie Figma-Plugins und Funktionen der Creative Cloud, hauptsächlich auf Textgenerierung und Bildgestaltung. Allerdings haben führende Branchenakteure angekündigt, dass sie KI-Funktionen direkt in ihre Plattformen integrieren und diese als Beta-Versionen bereitstellen wollen. Mit diesem Fortschritt wird KI zunehmend proaktiver und unabhängiger agieren können. Dies wirft Fragen auf: In welchem Umfang sind Nutzer bereit, die Kontrolle an KI zu delegieren? Wie können Schnittstellen gestaltet werden, die eine effiziente Überwachung der Beiträge der KI ermöglichen? Wie stellen wir sicher, dass Änderungen nachvollziehbar und umkehrbar sind? Welche Gestaltungsprinzipien fördern das Vertrauen der Nutzer in KI?

Diese Arbeit beleuchtet kurz die historische Entwicklung künstlicher Intelligenz und bewertet einige der heute für Designer verfügbaren Werkzeuge. Im Fokus stehen dabei die Möglichkeiten zukünftiger Entwicklungen und die Herausforderungen, denen Designwerkzeuge gegenüberstehen, wenn KI zunehmend kompetenter und autonomer wird.