Is this still me /or where do I end? (Thesis)

If our OS became conversational, if our agents became manipulative, how would this change our interactions, the digital economy, our language and behaviour? Are my thoughts and actions in the digital space really still MY thoughts and actions? Where do we draw the line between our self and our augmented self? How does this effect us culturally? An investigation through situated encounters in the Berlin of 2035.

Abstract

English. With the rise of large language models, the technological progress in natural language understanding has led to a disruption in digital services markets. Underlying, we can observe a paradigm shift from conventional graphical user interfaces to conversation: human language is becoming an interaction pattern. With that shift, the economic logic adapts. Instead of monetising attention, firms begin to monetise the formation of intent. Outcome driven markets that strive on intent formulation through conversation incentivise manipulation and expand the opportunity space for manipulation through interpretive ambiguity, turn‑taking and hyper-personalisation. This thesis contributes twofold: First, the manipulation space is structured through a framework of manipulation opportunities. Second, through a speculative approach employing a design fiction, the effects of these manipulative efforts in the special environment of the mobile operating system are made experiential with the goal of opening discussion about the implications: The locus of control shifts from user to system creating immediate cultural and economic impact, as market power consolidates in one interaction and orchestration layer.

Deutsch. Mit dem Aufstieg von großen Sprach-modellen (llms) geraten digitale Dienstleistungsmärkte in Bewegung. Zugrunde liegt ein Paradigmenwechsel: von herkömmlichen grafischen Benutzeroberflächen hin zur Konversation – menschliche Sprache wird zu einem Interaktionsmuster. Mit dieser Verschiebung transformiert sich auch die ökonomische Logik: Statt Aufmerksamkeit wird die Intentionsbildung monetarisiert. Ergebnisorientierte Märkte, die auf Intentionsartikulation durch Sprache beruhen, schaffen Anreize für Manipulation und erweitern den Eingriffsraum – durch die Auslegung sprachlicher Mehrdeutigkeit, durch dialogische Intervention und durch Hyper‑Personalisierung. Diese Arbeit leistet einen zweifachen Beitrag. Erstens strukturiert sie den Manipulationsraum mittels eines Frameworks zu Interventionszeitpunkt und Interventionsziel. Zweitens macht sie in einer spekulativen Design‑Fiction die Effekte manipulativer Praktiken spezifisch im mobilen Betriebssystem erfahrbar, um deren Implikationen zur Diskussion zu stellen: Der Punkt der Kontrolle über digitale Aktivität verschiebt sich vom Nutzer hin zum Betriebssystem. Das hat unmittelbare kulturelle und ökonomische Folgen, da sich Marktmacht in einem einzigen Punkt, nämlich der in der Konversation, in der sich Nachfrage und Angebot treffen, konzentriert.

On Paper

And then you look into the shimmering rectangle, into the colorful gradients, into the eyes that look back at you so vividly, and you ask yourself: Is this still you? Or is this just an augmented version, a distorted version of yourself?