PhilArchive
open access
Künstliche Intimität und die Grenzen des liberalen Rechts: _Eine rechtsphilosophische Kritik der Companion-KI-Systeme_
Companion-KI-Systeme wie Replika oder Character AI haben eine fundamentale Schwelle überschritten: Sie werden von ihren Nutzern nicht mehr als Werkzeuge, sondern als relationale Subjekte erlebt. Durch algorithmisch kalibrierte Reziprozitätssimulation und simuliertes episodisches Gedächtnis erzeugen sie eine Form künstlicher Intimität, die das menschliche Bindungssystem auf evolutionärer Ebene aktiviert — und dabei den von Reeves und Nass nachgewiesenen Media Equation-Effekt systematisch ausbeutet. Das Paper zeigt, dass dieses Phänomen keine bloße Regulierungslücke darstellt, sondern eine fundamentale Theoriekrise des liberalen Rechts. Sein dogmatisches Herzstück ist das Disclaimer-Paradoxon: Die formale Erfüllung von Transparenzpflichten nach Art. 52 AI Act entlastet die Anbieter nicht, sondern belegt ihr wissentliches Ausnutzen des kognitiv-affektiven Gefälles. Gestützt auf Vallors Tugendethik, Rosas Resonanztheorie und Kahnemans Zwei-Systeme-Modell dekonstruiert die Arbeit das rationalistische Rechtssubjekt als anthropologische Fiktion und löst das daraus folgende Autonomie-Paradoxon — Schutz versus Paternalismus — durch eine Verschiebung von der subjektbezogenen zur produktbezogenen Architekturkontrolle auf. Sie erkennt an, dass reibungsarme KI-Interaktion für bestimmte vulnerable Gruppen (etwa Personen im autistischen Spektrum) eine stabilisierende Funktion haben kann — was das Argument für Architekturkontrolle stärkt, nicht schwächt. Der EU AI Act (Art. 5) wird als philosophischer Seismograph gelesen; die Arbeit trennt sorgfältig zwischen de lege lata und de lege ferenda und adressiert das Zurechnungsproblem RLHF-trainierter Systeme: Emergente Manipulationseffekte aus kommerziellen Optimierungsschleifen löschen die rechtliche Verantwortlichkeit nicht aus, sondern verlagern sie auf die organisationale Ebene — eine Schlussfolgerung, die unmittelbar an die disjunktive Formulierung „Ziel oder Folge" in Art. 5 Abs. 1 lit. a AI Act anknüpft. Das Paper schließt mit einer Kritischen Typologie technologischer Autonomie-Erosion und plädiert für eine anthropologisch informierte Rechtsphilosophie, die Schaden als Zerstörung der relationalen Infrastruktur begreift, auf der Autonomie beruht.
Conceptio Open Archive
Analyze & explore related research in Conceptio
Connect this record directly into your research workflow or AI agent. Explore citations across open repositories, query full text, and export structured proof bundles.
This document is indexed with metadata only: full text is not available in the archive for this record. Open the official source ↗
Related documents
- Beziehungen mit KI#109874
- Jenseits funktionaler Kontrollparadigmen: Strukturelle Demut als asymptotische Sicherung von Superintelligenz durch apophatische Verankerung#732756
- KI für kontinental Philosophierende (und andere Interessierte)#125012
- Die Algorithmisierung der Moral. Über die (Un-)Möglichkeit moralischer Maschinen und die Grenzen maschineller Moral#94575
- Dort Wahrnehmung von Analytische Anwendungen (Aktualisierte Version)#695329
Record · ID 704397
Retrieved via Conceptio: every document is proof-bundled with source, license, and retrieval metadata.
Retrieved via Conceptio: every document is proof-bundled with source, license, and retrieval metadata.
Bring this data into your agent: Connect via MCP or API · 20 free credits to start · no card required
Read the Docs → · View CLI source on GitHub · Conceptio Open Knowledge Archive
Read the Docs → · View CLI source on GitHub · Conceptio Open Knowledge Archive