In seiner Funktionalität auf die Lehre in gestalterischen Studiengängen zugeschnitten... Schnittstelle für die moderne Lehre
In seiner Funktionalität auf die Lehre in gestalterischen Studiengängen zugeschnitten... Schnittstelle für die moderne Lehre
Time Torch ist eine interaktive Videoinstallation für physische Stadtmodelle. Durch Computer Vision können Nutzer:innen mithilfe eines Lasers in Echtzeit mit dem Modell interagieren.
Der Kurs Stadtmodelle & Storytelling von Prof. Dr. Sebastian Meier fand in Kooperation mit dem Stadtmuseum Berlin statt. Aufgabe war es, Konzepte zu entwickeln, die Stadtmodelle erfahrbarer machen und zu überlegen, wie diese zu mehr Partizipation einladen können. Die Art der Umsetzung war den Studierenden freigestellt.
Als Ausgangspunkt diente das rund 20 Quadratmeter große Modell der Stadt Berlin um 1750, welches zum 700-jährigen Stadtjubiläum 1937 angefertigt wurde. Das aus Holz gefertigte Exponat steht im Märkischen Museum im Köllnischen Park. Das Museum wird über mehrere Jahre modernisiert und ist für die Öffentlichkeit momentan geschlossen. Im Zuge des Umbaus wird das Modell in den großen Hoffmannsaal verlegt. Dieser soll mit moderner Technik ausgestattet werden und multimedial zum Thema „Stadtbild im Wandel“ bespielt werden.
Time Torch soll in erster Linie durch spielerisches Lernen die Wissensvermittlung steigern. Im Bezug auf das Stadtmodell im Museum wollte ich vor allem das Interesse für Stadtgeschichte und Stadtentwicklung wecken.
Da das Exponat nicht berührt werden darf, habe ich mir überlegt, wie ich Besucher:innen trotzdem eine hohe Interaktion bieten kann. Die Idee ist, um das Modell herum Controller zu platzieren, welche in die Hand genommen werden können. Diese werden dann wie Taschenlampen auf das Stadtmodell gerichtet. Decken-Projektoren überlagern die anvisierte Stelle mit zusätzlichen Inhalten und Informationen. So könnte man beispielsweise Kartenmaterial aus verschiedenen Epochen auf das Modell projizieren, um die Veränderungen der Stadt zu veranschaulichen. Bedienelemente am Controller ermöglichen die Eingabe eines gewünschten Jahres.
Ausgerichtet ist das Konzept auf zwei grobe Zielgruppen: die Explorers und die Facilitators. Zu den Explorers gehören vor allem Menschen, die gerne neue Sachen entdecken und ausprobieren. Facilitators hingegen sind Personen der Wissensvermittlung, das können Historiker:innen, Stadtführer:innen, Lehrer:innen aber auch Eltern sein.
Bei der Suche nach einer technischen Lösung für mein Vorhaben bin ich auf ein interessantes Paper des Tokyo Institute of Technology gestoßen. Es beschreibt eine Möglichkeit, mehrere Infrarotlichtquellen unabhängig voneinander durch eine IR-Kamera zu verfolgen, woraufhin ein Projektor gezielt die Oberfläche beleuchten kann (Video). Abgeleitet von diesem Paper skizzierte ich einen Testaufbau, vorerst ohne mir Gedanken über die nötige Software zu machen.
Es stellte sich relativ schnell heraus, dass starke IR-Lampen und eine brauchbare IR-Kamera zu teuer und komplex für meinen Prototypen geworden wären. Weshalb ich einen Weg suchte, das Projekt mit einer herkömmlichen Webcam umzusetzen. Dafür brauchte ich eine geeignete Lichtquelle mit hohem Kontrast. Laser schienen dafür optimal geeignet zu sein, da selbst auf Distanz die Leuchtstärke und die Größe des Lichtpunktes gleichbleibend sind. Ich entschied mich für einen Presenter mit grünem Laserpointer. Die Tasten des Presenters konnte ich direkt für die Steuerung des Prototypen nutzen.
Leider konnte ich die Webcam nicht verwenden, da sich die Verschlusszeit nicht einstellen ließ. Dies war jedoch notwendig, da ich einen DLP Projektor nutzte, bei dem das Bild durch ein sich drehendes Farbrad erzeugt wird. Dieses Farbrad ist in die drei Grundfarben Blau, Rot und Grün unterteilt. Auf der Kamera kann man die einzelnen Farben abwechselnd vollflächig sehen, ein roter oder grüner Laserpunkt ist damit also immer kurz verdeckt. Deshalb musste ich stattdessen meine GoPro nutzen, bei der sich die Verschlusszeit auf die Frequenz des Farbrades anpassen ließ. Die GoPro habe ich über eine Capture Card am Computer angeschlossen.
Um zu sehen, wie sich die Projektion auf dem echten Modell verhalten könnte, habe ich eine 3D gedruckte Miniaturversion des Stadtzentrums angefertigt.
Zum Tracken des Laserpointers habe ich OpenCV in Pyhton genutzt, eine bekannte Computervision Library. Zuerst wird die Farbe des Lasers herausgefiltert, anschließend wird die Kontur verfolgt. Die Positionskoordinaten werden dann über das User Datagram Protocol (UDP) an Unity übertragen.
In Unity selbst befindet sich die 3D gescannte Version des Stadtmodells, welches durch Beleuchtungseffekte und animierte Texturen erweitert wurde. Eine virtuelle Kamera befindet sich über der Szene und sendet das Bild an den Projektor.
In Unity wird die gesamte Logik des Prototypen durch diverse C# Skripte gemanagt. Bei der Programmierung habe ich darauf geachtet, alles so modular wie möglich anzulegen, damit weitere Modi problemlos implementiert werden können. Aktuell bietet Time Torch zwei Modi, ein Explainer Mode und ein Suchspiel. Der Explainer Mode ist für die Facilitators Zielgruppe gedacht und soll den Fokus Zuschauender lenken. Neben einem Kreis zum Markieren von wichtigen Orten können in diesem Modus auch die Beleuchtungseffekte angepasst werden. Bei dem Suchspiel wird eine Frage zu einem Ort gestellt, um ihn zu finden, muss das Stadtmodell wie mit einer Taschenlampe abgesucht werden. Wird der Ort gefunden, erleuchtet dieser und es werden relevante Informationen sowie Bilder eingeblendet. Gesteuert wird Time Torch über zwei Tasten, die sich am Controller befinden.
Für eine Museumsinstallation müssen mehrere Besucher:innen gleichzeitig die Experience nutzen können. Ein Lösungsansatz wäre, die Kontur des Laserpunktes durch Aufsätze zu verändern, um diese mittels OpenCV unabhängig voneinander erkennen zu können.
Um eine hohe Inklusion zu gewährleisten, sollten starke Projektoren mit hohem Farbkontrast verwendet werden. Denkbar wäre auch akustisches Feedback sowie eine Rollstuhlrampe für eine bessere Sicht auf das Modell.
Inhaltlich könnte Time Torch noch um unzählige Funktionen erweitert werden. Beispielsweise könnten historische Handelswege, Kriegsschäden oder das U-Bahnnetz simuliert werden. Auch wären Teamspiele und die Verknüpfung weiterer Exponate im Museum denkbar.
Besonders gefallen hat es mir, eine Lösung für eine konkrete Aufgabe zu entwickeln. Die Balance zwischen Exkursionen, Vorlesungen und selbstständigen Arbeiten fühlte sich sehr ausgewogen an. Toll war es auch, dass ich mich bei der Umsetzung durch keine Vorgaben eingeschränkt gefühlt habe. Trotz anfänglicher Bedenken und einiger langer Nächte konnte ich meine im Kurs festgelegten Milestones alle erreichen.