Kurz gesagt: Wer in Deutschland eine KI-Companion-App nutzt, ist nicht rechtlos, aber es gibt kein Companion-Gesetz. Die Regeln stecken in der KI-Verordnung der EU, in der Datenschutz-Grundverordnung (DSGVO), im Jugendmedienschutz und im Verbraucherrecht. Sie ändern wenig an Preisen, aber einiges daran, was die App dir sagen muss und wie sie mit Minderjährigen umgehen darf.
Kein Companion-Gesetz, aber ein Regelwerk
Die KI-Verordnung (EU) 2024/1689 ist der neue Rahmen. Die Verbote nach Artikel 5, etwa für manipulative Techniken oder das Ausnutzen von Schwächen wie dem Alter, gelten seit dem 2. Februar 2025. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026: Wer direkt mit einer KI spricht, muss das erfahren. Ebenfalls ab dem 2. Dezember 2026 soll ein neues Verbot von KI-Systemen greifen, die nicht einvernehmliche intime Bilder erzeugen, und für schon am Markt befindliche Systeme beginnt dann auch die Kennzeichnung KI-erzeugter Inhalte. Beides geht auf das „KI-Omnibus“-Paket zurück, das die Fristen der Verordnung teils verschoben hat.
In Deutschland kontrolliert die Bundesnetzagentur. Seit dem Inkrafttreten des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG) am 29. Juli 2026 ist sie Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle für die KI-Verordnung. Beschwerden nimmt sie entgegen und gibt sie bei Bedarf an die zuständige Behörde weiter.
Die Datenschutzbehörden sind schon länger aktiv. Die DSGVO gilt für jede App, die Daten von Menschen in der EU verarbeitet, egal wo das Unternehmen sitzt. Zuständig sind der Bundesbeauftragte für den Datenschutz (BfDI) und die Datenschutzbehörden der Länder.
Ein Blick in die USA zur Einordnung: Dort gab es bis November 2025 kein Gesetz speziell für KI-Companions. Inzwischen haben New York (in Kraft seit dem 5. November 2025) und Kalifornien (SB 243, seit dem 1. Januar 2026) eigene Regeln, und laut einem Tracker der Transparency Coalition sind im Juli 2026 weit mehr als ein Dutzend weitere Bundesstaaten dazugekommen. Auf Bundesebene gibt es kein Gesetz, aber im September 2025 forderte die Handelsbehörde FTC sieben Unternehmen, darunter Character.AI, Meta, OpenAI, Snap und xAI, zu Auskünften über den Schutz von Kindern und Jugendlichen auf. Europa ging einen anderen Weg: nicht über Companion-Gesetze, sondern über Datenschutz, Jugendschutz und die allgemeine KI-Regulierung.
Wann die wichtigsten Regeln gelten. Die Daten sind die Geltungsdaten der jeweiligen Rechtsakte.
Was die Regeln verlangen
Die Vorschriften stammen aus verschiedenen Rechtsgebieten, aber vier Gedanken ziehen sich durch.
- Sag, dass es eine KI ist. Artikel 50 der KI-Verordnung verpflichtet Anbieter, Systeme so zu gestalten, dass Menschen ausdrücklich informiert werden, wenn sie direkt mit einer KI interagieren.
- Schütze Minderjährige. Der Jugendmedienschutz-Staatsvertrag (JMStV) erlaubt pornografische Angebote im Netz nur in geschlossenen Benutzergruppen für Erwachsene, hergestellt über Altersverifikationssysteme. Die Kommission für Jugendmedienschutz (KJM) bewertet diese Systeme. Der Digital Services Act (DSA) verlangt von Online-Plattformen, die Minderjährigen zugänglich sind, ein hohes Maß an Privatsphäre, Sicherheit und Schutz.
- Behandle Daten rechtmäßig und transparent. Ohne Rechtsgrundlage und verständliche Datenschutzerklärung dürfen Apps Gespräche nicht verarbeiten. Du hast das Recht auf Auskunft (Art. 15 DSGVO), Löschung (Art. 17) und Datenübertragbarkeit (Art. 20).
- Mach Kündigen einfach. Wer Verträge über eine Website anbietet, braucht nach § 312k BGB einen dauerhaft erreichbaren Kündigungsbutton („Verträge hier kündigen“ oder gleichwertig). Fehlt er, kannst du jederzeit ohne Frist kündigen.
Wo die Regeln liegen und wer sie durchsetzt
Das ist für die Anbieter der wichtigste Teil und mittelbar auch für dich, denn er entscheidet, wie ernst die Regeln genommen werden.
| Regelwerk | Fundstelle | Gilt seit | Worauf es ankommt |
|---|---|---|---|
| KI-Verordnung, Verbote | Art. 5 | 2. Feb 2025 | Manipulative Techniken und das Ausnutzen von Schwächen sind verboten |
| DSA, Jugendschutz | Art. 28, Leitlinien der Kommission | Leitlinien seit 14. Jul 2025 | Selbstauskunft beim Alter reicht nicht als Altersprüfung |
| KI-MIG | Bundesgesetz | 29. Jul 2026 | Bundesnetzagentur als Aufsicht und Beschwerdestelle |
| KI-Verordnung, Transparenz | Art. 50 | 2. Aug 2026 | Hinweis, dass du mit einer KI sprichst |
| JMStV | Staatsvertrag der Länder | in Kraft | Pornografie nur mit Altersverifikation; KJM setzt durch, auch per Sperranordnung |
| Verbraucherrecht | § 312k BGB | in Kraft | Kündigungsbutton für Verträge über Websites |
Die Tabelle gibt den Stand von September 2026 wieder. Fristen können sich ändern, wenn ein Rechtsakt angepasst wird.
Die Bundesnetzagentur zum Start des KI-MIG am 29. Juli 2026.
Was du davon tatsächlich merkst
- Ein Hinweis oder eine erste Nachricht, dass du mit einer KI sprichst. Bei manchen Apps wiederholt er sich in langen Sitzungen. Das heißt nicht, dass die App dich für verwirrt hält. Es ist eine gesetzliche Untergrenze für alle.
- Die Figur fällt aus der Rolle, wenn etwas nach Selbstverletzung klingt. Eine gesetzliche Pflicht dazu kennen mehrere US-Bundesstaaten, für Deutschland habe ich keine gefunden. Viele Anbieter setzen sie aber weltweit um. Die automatische Erkennung kann eine dunkle Szene nicht sicher von einer echten Aussage unterscheiden. Rechne also mit Fehlalarmen. Bei Fiktion reicht oft ein kurzer Hinweis außerhalb der Rolle, dann geht die Szene weiter.
- Mehr Alterskontrollen. Character.AI hat im November 2025 den offenen Chat für unter 18-Jährige abgeschafft und nutzt inzwischen Verhaltenssignale, Verifikation durch Dritte und als Rückfalloption Ausweiskontrollen. Andere Apps gehen in dieselbe Richtung, besonders bei erotischen Inhalten, die in Deutschland nur mit Altersverifikation zulässig sind.
- Weniger „Ich bin echt, versprochen“-Momente. Eine Figur, die sich hartnäckig als Mensch ausgibt, verstößt gegen den Transparenzgedanken von Artikel 50. Gute Apps stellen das ab.
Entscheidend ist, wo du wohnst, nicht, wo die Firma sitzt: Auch eine App, die von Zypern aus betrieben wird, muss sich an EU-Recht halten, wenn sie sich an Menschen in der EU richtet. Die KJM zeigt bei Pornoplattformen im Ausland, dass sich das nicht immer leicht durchsetzen lässt: Sie hat schon Sperren angeordnet und dafür Host-Provider in die Pflicht genommen.
Was die Regeln nicht abdecken
Kein Companion-Gesetz für Inhalte und Persönlichkeit. Wie eine Figur sich verhält, welche Erinnerungen sie behält oder wie lange Chats gespeichert werden, regelt nicht ein Spezialgesetz, sondern die DSGVO. Unsere vier Datenschutz-Checks bleiben dein bestes Werkzeug. Wie du deine Daten anforderst, steht in unserem Ratgeber zur Datenauskunft.
Abrechnung. Abofallen, Guthabenpreise und Rückerstattungen fallen unter das normale Verbraucherrecht. Siehe Rückerstattung und Kündigung.
Die Entscheidungen Erwachsener. Keine der Regeln schränkt ein, was einvernehmlich handelnde Erwachsene mit einem Companion tun dürfen. Die Inhaltsregeln drehen sich um Minderjährige.
Wo du dich beschwerst
Wenn eine App dir Auskunft oder Löschung verweigert, wende dich zuerst schriftlich an den Anbieter. Hilft das nicht, kannst du dich bei der Datenschutzaufsicht beschweren, also beim BfDI oder der Behörde deines Bundeslands. Bei Verstößen gegen die KI-Verordnung nimmt die Bundesnetzagentur Beschwerden entgegen. Für Streit um Abos ist die Verbraucherzentrale die richtige Anlaufstelle.
Was Europa schon getan hat
Italiens Datenschutzbehörde Garante verhängte gegen Luka Inc., die Firma hinter Replika, eine Geldbuße von 5 Millionen Euro, bekannt gegeben im Mai 2025. Sie stellte fest: keine gültige Rechtsgrundlage für die Verarbeitung, eine nicht transparente Datenschutzerklärung und keine funktionierende Altersprüfung bei einem Dienst, der sich nur an Erwachsene richtete. Dieselbe Behörde hatte im Februar 2023 die Anordnung erlassen, auf die Replikas abrupte Abschaltung der erotischen Rollenspiele folgte. Die Geschichte steht in wenn sich dein KI-Companion über Nacht verändert. Der Fall gilt in der gesamten EU, denn die DSGVO ist überall gleich.
Das praktische Fazit
Die Regeln schützen vor allem Menschen in den schlimmsten Momenten: Minderjährige und alle, die in einer Krise stecken. Für Erwachsene, die eine Companion-App für Gesellschaft oder zum Spaß nutzen, sind die sichtbaren Änderungen klein: ein Hinweis, gelegentlich eine Erinnerung, eine Hilfenummer, wenn eine Geschichte ins Dunkle abgleitet. Die unsichtbare Änderung ist größer. Anbieter tragen inzwischen rechtliche Risiken dafür, wie sich ihre Figuren verhalten. Das macht sorgfältige Apps noch sorgfältiger und nachlässige leichter erkennbar.
Wenn es dir gerade schlecht geht: Die TelefonSeelsorge ist kostenlos und anonym rund um die Uhr erreichbar unter 0800 111 0 111, 0800 111 0 222 oder 116 123. Im Notfall wählst du die 112.