Prototyp

https://shorturl.at/w1qRN

Abstract English

This master's thesis was developed in cooperation with the XAI group at Fraunhofer Heinrich Hertz Institute and examines the user-centered design of control methods for generative AI systems in the context of AI-based children's stories. While classical prompting is already widely used, this work focuses on the experimental method of steering, the targeted modulation of neural activations in language models. The aim is to explore how steering can be made accessible and controllable for parents through interface elements such as sliders and checkboxes.

The thesis develops a high-fidelity prototype that combines steering and prompting: parameter-based control via sliders for tonality, language level, and values, as well as content-based adjustments through clicking on words and word groups. Methodologically, the study follows an explorative, qualitative approach with ten parents, combining think-aloud method, participant observation, and semi-structured interviews.

The results show that steering can be presented in a user-centered way when parameters are clearly labeled and immediate feedback is provided. Key findings concern the distinction between static and dynamic parameters, the preference for suggestions over free text, and the necessity of context-sensitive design. Particularly relevant is the identified duality of usage scenarios: in the evening, uninterrupted reading is preferred, while during the day, explorative co-creation between parents and children is favored. Trust in AI systems emerges primarily through experience in the usage process, not through technical explanations: through predictable system behavior and the certainty of being able to intervene correctively at any time.

As a contribution, the thesis provides design principles for user-centered AI control: a toggle system between reading and interaction mode, suggestions for cognitive relief, and the separation between initial configuration and dynamic adjustment. For XAI research, it becomes evident that interactive controllability is more important than post-hoc explanations: users learn through trial and error, not through technical documentation.

Abstract Deutsch

Die vorliegende Masterarbeit wurde in Kooperation mit der XAI-Gruppe am Fraunhofer Heinrich-Hertz-Institut entwickelt und untersucht die nutzerzentrierte Gestaltung von Steuerungsmethoden für generative KI-Systeme im Kontext KI-basierter Kindergeschichten. Während klassisches Prompting bereits weit verbreitet ist, steht die experimentelle Methode des Steering , die gezielte Modulation neuronaler Aktivierungen in Sprachmodellen, im Fokus dieser Arbeit. Ziel ist es, zu erforschen, wie Steering durch Interface-Elemente, wie Slider und Checkboxen, für Eltern zugänglich und kontrollierbar gemacht werden kann.

Die Arbeit entwickelt einen High-Fidelity-Prototyp, der Steering und Prompting kombiniert: parameterbasierte Steuerung über Slider für Tonalität, Sprachniveau und Werte sowie inhaltsbasierte Anpassungen durch das Anklicken von Wörtern und Wortgruppen. Methodisch folgt die Studie einem explorativen, qualitativen Ansatz mit zehn Elternteilen, bei dem Think-Aloud-Methode, teilnehmende Beobachtung und teilstrukturierte Interviews kombiniert wurden.

Die Ergebnisse zeigen, dass Steering nutzerzentriert darstellbar ist, wenn Parameter klar beschriftet sind und unmittelbares Feedback gegeben wird. Wesentliche Erkenntnisse betreffen die Unterscheidung zwischen statischen und dynamischen Parametern, die Präferenz für Vorschläge statt Freitext sowie die Notwendigkeit kontextsensitiver Gestaltung. Besonders relevant ist die identifizierte Dualität der Nutzungsszenarien: Abends wird störungsfreies Vorlesen bevorzugt, tagsüber explorative Ko-Kreation zwischen Eltern und Kindern. Vertrauen in KI-Systeme entsteht primär durch Erfahrung im Nutzungsprozess, nicht durch technische Erklärungen: durch vorhersehbares Systemverhalten und die Gewissheit, jederzeit korrigierend eingreifen zu können.

Als Beitrag liefert die Arbeit Designprinzipien für nutzerzentrierte KI-Steuerung: ein Toggle-System zwischen Lese- und Interaktionsmodus, Vorschläge zur kognitiven Entlastung sowie die Trennung zwischen initialer Konfiguration und dynamischer Anpassung. Für die XAI-Forschung zeigt sich, dass interaktive Steuerbarkeit wichtiger ist als post-hoc Erklärungen: Nutzer:innen lernen durch Ausprobieren, nicht durch technische Dokumentation.

Reflexion

Diese Arbeit hat mich gelehrt: Menschen artikulieren Bedürfnisse auf der Ebene bekannter Lösungen, nicht auf der Ebene grundlegender Anforderungen. Sie beschreiben, was sie kennen – nicht, was sie wirklich brauchen. Ein Vater fühlte 90% Kontrolle über die Geschichte und nannte sie im selben Atemzug „alles vom System„. Dieses Paradox zeigt: Kontrolle ist nicht nur eine technische Frage, sondern eine gefühlte. Vertrauen entsteht durch Ausprobieren und die Gewissheit, jederzeit eingreifen zu können und zu gestalten, nicht durch Erklärungen.

Aber wenn Eltern selbst nicht wissen, wie viel Kontrolle sie brauchen, wer bestimmt dann, welche Werte in den Geschichten ihrer Kinder stecken?

Kate Crawfords Zitat eröffnet diese Arbeit mit einer Provokation und schließt sie mit einer Antwort: Wenn KI weder künstlich noch intelligent ist, dann ist sie vor allem gestaltbar. Die Eltern in dieser Studie wollen keine Black Box, aber auch keine Bedienungsanleitung. Sie wollen einen Dialog mit der Technologie, mit ihren Kindern, mit den Geschichten selbst. Steering und Prompting machen diesen Dialog möglich, wenn sie nicht nur als Kontrolle, sondern als Gestaltungswerkzeuge verstanden werden.

Vielleicht ist die entscheidende Frage also nicht mehr, wie intelligent unsere Systeme sind, sondern wie sehr wir bereit sind, sie als Werkzeuge zu begreifen, die uns nicht ersetzen, sondern erweitern. Wenn Kinder heute mit KI-generierten Geschichten aufwachsen: Welche Erzählungen über Technologie geben wir ihnen dann mit auf den Weg?