Was passiert, wenn ein Chatbot eine Traurede verfasst – und damit mehr als nur Emotionen auslöst? Ein kürzlich aufsehenerregender Fall aus den Niederlanden wirft weitreichende Fragen über die Rolle Künstlicher Intelligenz im Alltag auf. Als eine Eheschließung wegen eines von ChatGPT generierten Textes annulliert wurde, war das nicht nur ein juristischer Präzedenzfall, sondern auch ein Weckruf für Gesetzgeber, Technologiekonzerne und die Gesellschaft insgesamt.
Ein Trauversprechen aus dem Textgenerator
Im März 2025 gaben sich zwei niederländische Staatsbürger in Amsterdam das Ja-Wort. Die Traurede – feierlich, persönlich, poetisch – wurde von ChatGPT 5.0 erstellt, basierend auf Eingaben des Brautpaars zu ihrer Kennenlerngeschichte. Was zunächst als charmante Spielerei galt, wurde später zum Brennpunkt juristischer Debatten. Denn die Eheurkunde wurde wenige Monate später für ungültig erklärt. Der Grund: Die Eheschließung sei „nicht rechtsgültig zustande gekommen“, da ein „externer, nichtmenschlicher Autor wesentliche Inhalte der verpflichtenden Zeremonie“ verfasst habe. So lautet die Begründung des Bezirksgerichts Amsterdam.
Dieser Einzelfall wirft grundlegende Fragen auf: Beeinflusst ein von einer KI verfasster Text die Rechtsgültigkeit menschlicher Entscheidungen? Wer trägt in solchen Fällen Verantwortung? Und wie treffen bestehende Gesetze auf Technologien, die sich rasant weiterentwickeln und zunehmend in unseren Alltag eindringen?
Juristische Grauzonen: Zwischen Technik und Rechtssprechung
Die niederländische Justiz betonte in ihrem Urteil, dass die Ehe zwar freiwillig geschlossen wurde, die Traurede aber als formalrechtliches Element der Zeremonie gelten könne – insbesondere, wenn sie wesentliche Aussagen über das Eheversprechen enthält. Damit wurde analog auf das Ehegesetz zurückgegriffen, dem zufolge ein rechtsgültiges Versprechen „bewusst, eigenständig und ohne äußeren Einfluss“ erfolgen muss. Genau das sah das Gericht bei einer KI-generierten Rede nicht gegeben.
Professorin Dr. Janneke Koelman, Expertin für IT-Recht an der Universität Utrecht, erklärt: „Das Problem liegt nicht nur in der Verwendung von KI, sondern darin, dass sich Menschen auf diese Inhalte emotional und rechtlich verlassen. Damit entsteht ein neuer Verantwortungsbereich, den das Gesetz bislang nicht eindeutig adressiert.“
In Deutschland wäre ein solcher Fall möglicherweise anders ausgegangen, da das BGB (Bürgerliche Gesetzbuch) keine konkrete Form für die Trauung vorsieht – wohl aber für das Eheversprechen. Die Frage, ob ein von KI formulierter Text diesen Anforderungen genügt, bleibt jedoch offen und wäre rechtlich umstritten.
Ethik und Vertrauen in Maschinen
Der Fall zeigt auch eine zunehmende gesellschaftliche Abhängigkeit von KI-Tools. Studien der Europäischen Kommission zeigen, dass 67 % der Bürgerinnen und Bürger KI-Anwendungen im Alltag nutzen, häufig ohne deren Ursprung zu hinterfragen (European Commission AI Use Survey 2024). In emotionalen oder strategischen Kontexten, etwa bei Bewerbungen, Rechtsberatungen oder sogar Eheschließungen, kann dies fatale Auswirkungen haben.
Was passiert, wenn sich Menschen auf KI-Inhalte verlassen und diesen menschliche Intention zuschreiben? Der Philosoph Prof. Luca van Dam (TU Delft) sieht darin ein „post-anthropozentrisches Vertrauensproblem“: „Wenn Maschinen Texte liefern, die uns emotional bewegen, übernehmen sie implizit eine Rolle im Entscheidungsprozess des Menschen – ohne moralisch oder rechtlich haftbar zu sein.“
Gesetzgeber unter Druck: Regulierungsbedarf steigt
Aktuelle Gesetzesinitiativen der EU-Kommission, allen voran der AI Act (verabschiedet im Dezember 2024, in Umsetzung seit Mai 2025), versuchen genau solche Fälle zu adressieren. Doch laut einer Studie des Centre for AI and Law (Universität Heidelberg, 2025) bestehen weiterhin erhebliche Lücken beim rechtlichen Umgang mit generativen KI-Inhalten – insbesondere im zivilrechtlichen Bereich.
Der AI Act unterteilt KI-Systeme nach Risikokategorien. Generative Modelle wie GPT-5 fallen bislang unter sogenannte „begrenzte Risiken“. Das heißt: Anbieter müssen Transparenz über den KI-Ursprung gewährleisten, haftbar sind sie jedoch nicht für spezifische Nutzungen – wie im Falle einer Traurede.
Ein internationales Problem: Auch in den USA, Kanada und Japan fehlen klare juristische Leitlinien. Während sich Kalifornien mit dem „AI Disclosure and Accountability Act“ bemüht, Transparenzpflichten für KI-Ausgaben zu etablieren, bleibt eine globale Harmonisierung aus. In Ländern wie den Niederlanden, die über stark verankerte Rechtstraditionen im Familienrecht verfügen, geraten Richter daher verstärkt unter Entscheidungsdruck.
Wenn KI emotionale Entscheidungen beeinflusst
Der niederländische Fall ist kein Einzelfall. Laut einer Bitkom-Erhebung aus dem Jahr 2025 geben 31 % der Befragten an, dass sie bereits KI-generierte Texte bei persönlichen Anlässen eingesetzt haben – etwa für Reden, Einladungen oder sogar Liebesbriefe (Bitkom-Studie „KI im Alltag“, Oktober 2025).
Während dies zunächst harmlos scheint, verdeutlicht es ein wachsendes gesellschaftliches Phänomen: die Automatisierung emotionaler Ausdrucksformen. Und diese, so warnen Psycholog:innen, kann nicht nur Entfremdung fördern, sondern auch juristische Handlungen beeinflussen – wie der Fall aus Amsterdam zeigt.
Empfehlungen für Nutzerinnen und Nutzer von KI-Textgeneratoren
Was können Einzelpersonen, Unternehmen und Behörden aus diesem Fall lernen? Die folgenden Maßnahmen helfen, rechtliche Risiken und ethische Fallstricke zu minimieren:
- Transparenz wahren: Wer KI-Texte nutzt, sollte offenlegen, dass es sich um maschinell erstellte Inhalte handelt – insbesondere bei rechtlich relevanten oder öffentlichen Anlässen.
- Menschliche Prüfung sicherstellen: Wichtige Inhalte, etwa Eheversprechen oder juristische Erklärungen, sollten stets von einer juristisch geschulten Person geprüft werden – unabhängig von der KI-Quelle.
- Kontextgerecht einsetzen: Vermeiden Sie den Einsatz von KI in emotional sensiblen oder formgebundenen Verfahren, bei denen Empathie, Individualität und rechtliche Präzision zählen.
Technologische Verantwortung und zukünftige Entwicklungen
Auch die Tech-Branche steht in der Verantwortung: OpenAI, Google DeepMind und Anthropic haben im Rahmen des AI Governance Forum 2025 zugesichert, bei generativen Modellen künftig standardisierte Meta-Tags einzubauen, die auf maschinelle Urheberschaft hinweisen. Ob dies Nutzer:innen im Alltag helfen wird, bleibt fraglich – denn schon heute umgehen viele Applikationen solche Tags.
In der Entwickler-Community wächst die Diskussion um eine Art „KI-Treueerklärung“: ein optionales, durch Audit zertifiziertes Label, das menschenrechtliche und juristische Standards für Anwendungen dokumentiert. Der European AI Pact (in Entwicklung seit Mitte 2025) will solche Maßnahmen bis 2027 verpflichtend machen – besonders für Systeme, die auf Sprache und Text angewiesen sind.
Fazit: Zwischen Fortschritt und Verantwortung
Die annulierte Ehe in Amsterdam ist mehr als eine mediale Kuriosität. Sie markiert einen historischen Moment, in dem das Recht an die Grenzen der maschinengenerierten Wirklichkeit stößt. In einer Welt, in der sich Menschen bei persönlichen Entscheidungen zunehmend von KI-Inhalten beeinflussen lassen, braucht es klare ethische Richtlinien, technische Sicherungsmechanismen und verbindliche rechtliche Standards.
Innovationen wie ChatGPT bieten enorme Potenziale – doch Innovation ohne Regulation bleibt risikobehaftet. Es liegt nun an Gesetzgebern, Technologiekonzernen und jedem Einzelnen von uns, mit Verantwortung und Weitblick zu handeln.
Welche Erfahrungen habt ihr mit KI-generierten Texten bei wichtigen Entscheidungen gemacht? Diskutiert mit unserer Community in den Kommentaren!
