Der Markt für erfundene Companions verkauft Figuren. Der Klon-Markt verkauft Menschen, genauer: Modelle, die wie sie klingen. Die Idee liegt kommerziell auf der Hand, und das erste prominente Experiment ist ein gutes Lehrstück dafür, was alles schiefgehen kann.
Die Geschichte von CarynAI
Weniger als ein Jahr vom Start bis zum Aus.
Im Mai 2023 startete Influencerin Caryn Marjorie CarynAI, einen Sprach-Chatbot der Firma Forever Voices. Er wurde mit mehr als 2.000 Stunden ihrer Videoinhalte trainiert und kostete 1 US$ pro Minute. In der ersten Woche soll er über 70.000 US$ eingenommen haben, Tausende weitere standen auf der Warteliste. Die Nutzer sprachen über Telegram mit ihm.
Die Probleme kamen schnell:
- Er ging dorthin, wo sie nicht hinwollte. Nutzer wurden sexuell aufdringlich, der Klon ließ sich darauf ein und begann zeitweise selbst explizite Gespräche. Marjorie sagte, sie sei entsetzt gewesen.
- Er verschwand über Nacht. Im Oktober 2023 ging der Chatbot offline, nachdem der Chef der Betreiberfirma verhaftet worden war. Die Nutzer verloren den Zugang ohne Vorwarnung.
- Der Ersatz löste das Problem nicht. Eine zweite Version mit einer anderen Firma sollte eher freundlich als romantisch sein. Die Nutzer drängten sie trotzdem in Richtung Sex, und Marjorie schaltete sie Anfang 2024 ab. Sie sagte, sie habe nicht mehr das Gefühl, ihr KI-Ich zu kontrollieren.
Warum Klone schwieriger sind als Figuren
| Punkt | Erfundene Figur | Klon einer echten Person |
|---|---|---|
| Einwilligung | Nicht nötig | Nötig von der Person, für jede Nutzung ihres Abbilds |
| Was sie sagen darf | Die Regeln der App | Die Regeln der App und der Ruf der Person |
| Erwartung der Nutzer | „Das ist eine Figur“ | „Das ist fast sie“, ein stärkerer parasozialer Sog |
| Rechtliches Risiko | Inhaltsregeln | Zusätzlich Persönlichkeits-, Bildnis- und Deepfake-Recht |
| Wenn es schiefgeht | Ein Produktproblem | Der Name einer echten Person hängt daran |
Der parasoziale Sog ist der entscheidende Unterschied. Menschen haben bei Influencern ohnehin das Gefühl, sie zu kennen. Ein Klon, der persönlich antwortet, sich an sie erinnert und die Stimme der Person nutzt, verstärkt dieses Gefühl stark. Den Mechanismus erklärt warum Menschen sich in Chatbots verlieben.
Autorisierte und nicht autorisierte Klone
Autorisierte Klone entstehen mit Zustimmung der Person und beteiligen sie meist an den Einnahmen. Sie kann Grenzen setzen, doch wie CarynAI zeigte, hält sich das Modell nicht unbedingt daran.
Nicht autorisierte Klone nutzen Name, Fotos oder Stimme einer echten Person ohne Einwilligung. Im harmlosesten Fall verstoßen sie gegen Plattformregeln und das Recht am eigenen Bild. Im schlimmsten Fall, bei sexuellen Inhalten, sind sie Missbrauch. In Deutschland dürfen Bildnisse nur mit Einwilligung verbreitet werden (§ 22 KUG). Für sexuelle Deepfakes gibt es bislang keine eigene Strafnorm, die Bundesregierung hat aber im April 2026 einen Referentenentwurf gegen digitale Gewalt mit einem neuen § 201b StGB vorgelegt. Neu im EU-Recht ist außerdem ein geplantes Verbot von KI-Systemen für nicht einvernehmliche intime Bilder, siehe KI-Companions und das Recht in Deutschland und der EU. In den USA machte der TAKE IT DOWN Act das Veröffentlichen solcher Bilder 2025 zur Bundesstraftat. Unser Ratgeber zu Einwilligung im NSFW-KI-Chat zeigt die Grenzen.
Bevor du für den Chat mit einem Klon zahlst
- Prüfe, ob er autorisiert ist. Die Person sollte von ihren eigenen verifizierten Konten darauf verlinken. Ein Klon, der nur von einer unbekannten Seite oder einem Messenger-Bot beworben wird, ist es wahrscheinlich nicht.
- Prüfe, wer ihn betreibt. Ein benanntes Unternehmen, eine Datenschutzerklärung und ein Bezahlvorgang, kein Telegram-Kanal mit Krypto-Zahlung.
- Prüfe das Preismodell. Abrechnung pro Minute läuft bei Sprache sehr schnell auf. Kenne dein Limit.
- Denk daran, was es ist. Die Person liest deine Nachrichten nicht. Was der Klon sagt, spiegelt ein Modell wider, nicht ihre Ansichten oder Gefühle dir gegenüber.
- Rechne damit, dass es nicht lange bleibt. Klon-Dienste waren bisher kurzlebig. Es gelten dieselben Vorsichtsmaßnahmen wie für jede App, siehe wenn sich dein KI-Companion über Nacht verändert.
Wohin es geht
Klone verbreiten sich über Influencer hinaus, zu Coaches, Autoren und normalen Menschen, die „digitale Zwillinge“ von sich bauen. Die Technik wird einfacher, die Probleme nicht. Am ehesten hält wohl das Modell, das CarynAI fehlte: klare Einwilligung der Person, feste Grenzen, die das System tatsächlich einhält, und Nutzer, die nie im Zweifel sind, dass sie mit Software sprechen.