Sie sind das ungelöste Problem moderner Sprachmodelle: Halluzinationen. Wenn KI-Systeme scheinbar überzeugend, aber faktisch falsch antworten, sinkt das Vertrauen. Das Karlsruher Unternehmen Embraceable AI möchte genau das ändern – mit einem innovativen Ansatz zur Minimierung von Fehlinformationen in Chatbots und Assistenzsystemen.
Halluzinationen in KI-Systemen: Eine unterschätzte Gefahr
Der Begriff „KI-Halluzinationen“ beschreibt das Phänomen, wenn große Sprachmodelle (Large Language Models, LLMs) Informationen generieren, die zwar stilistisch und logisch erscheinen, deren Inhalte jedoch falsch oder erfunden sind. Betroffen sind nicht nur Chatbots wie ChatGPT, sondern auch kommerzielle Anwendungen wie virtuelle Assistenten, Recommender-Systeme oder Support-Bots in Unternehmen.
Besonders problematisch wird das in Kontexten mit erhöhtem Compliance- oder Informationsanspruch – etwa in der Medizin, im Finanzsektor oder im juristischen Bereich. So zeigte eine Untersuchung von Science aus dem Jahr 2023, dass ChatGPT in 25 Prozent der getesteten medizinischen Anfragen fehlerhafte oder halluzinierte Informationen lieferte (Quelle).
Laut einer Studie von Gartner aus dem Jahr 2024 schätzen 72 Prozent der befragten Unternehmen das Risiko von KI-Halluzinationen als „hoch“ oder „kritisch“ ein – insbesondere in Abteilungen mit direktem Kundenkontakt. Daraus ergibt sich ein deutlicher Bedarf an technologischen Lösungen zur Absicherung von Antworten KI-basierter Systeme.
Embraceable AI: Karlsruher Innovationsmotor gegen KI-Halluzinationen
Das 2021 gegründete Startup Embraceable AI mit Sitz in Karlsruhe hat sich auf die Entwicklung skalierbarer Vertrauensarchitekturen für KI-Anwendungen spezialisiert. Ihr Kernprodukt, die sogenannte Context-Aware Trust Engine (CATE), adressiert gezielt die Problematik halluzinierender Sprachmodelle. Durch Kombination von Retrieval-Augmented Generation (RAG), faktisch validierenden Submodellen und dynamischem Kontext-Management soll das Risiko für falsche Antworten drastisch gesenkt werden.
„Unser Ziel ist es, eine semantische Firewall zwischen LLMs und der Realität aufzubauen“, erklärt Mitgründerin und CTO Dr. Selin Aslan in einem Interview mit dem Magazin Künstliche Intelligenz im Mittelstand. Dabei steht nicht nur die Verbesserung der Modellantworten im Fokus, sondern auch deren Nachvollziehbarkeit. Jede Antwort wird durch die CATE-Engine mit confidence metadata versehen und – soweit möglich – mit Quellen verlinkt.
Der technologische Stack basiert auf einer dualen Architektur: Einerseits wird ein externer Vektorindex eingebunden, der aus domänenspezifischen Textkorpora gefüttert wird. Andererseits agiert eine LLM-Monitorschicht als semantische Kontrollinstanz, die mögliche Halluzinationen in Echtzeit erkennt und blockt.
Praxiserprobung und Erfolge
Bereits seit Mitte 2024 testet Embraceable AI seine Technologie unter realen Bedingungen – unter anderem mit einem großen deutschen Versicherer sowie einer Landesbehörde in Baden-Württemberg. Bei einem Pilotprojekt im Kundenservicebereich konnte die Halluzinationsrate um 76 Prozent reduziert werden, bei gleichzeitiger Erhöhung der Antwortzuverlässigkeit laut interner NPS-Erhebung um 41 Prozentpunkte.
„Unsere Chatbots liefern heute nicht nur informativere, sondern vor allem vertrauenswürdigere Antworten“, bilanziert Projektleiter Thomas Hegemann. Die Rückmeldungen deuten darauf hin, dass besonders die Kombination aus Quellenverweisen und Transparenz über die Herkunft einer Antwort positiv aufgenommen wird.
Diese Erfolgswerte sind bemerkenswert – zumal aktuelle KI-Plattformanbieter wie OpenAI oder Anthropic zwar ebenfalls an Halluzinationsproblemen arbeiten, jedoch (noch) primär auf Modelloptimierungen setzen und seltener in Echtzeit validieren.
Bedeutung für die gesamte KI-Landschaft
Die Entwicklung von Embraceable AI ist nicht nur ein technologischer, sondern ein ethischer Beitrag zur Weiterentwicklung vertrauenswürdiger KI. Mit dem wachsenden gesellschaftlichen und regulatorischen Druck – etwa durch den AI Act der EU – steigt der Bedarf an transparenten Systemen, die den Nachweis der Richtigkeit ihrer Aussagen führen können.
Das Karlsruher Unternehmen bezieht diese Anforderungen explizit in seinen Entwicklungsprozess ein. So ist CATE neben realitätsbasierten Checks auch in der Lage, ethische No-Go’s durch ein eingebautes Policy-Modul zu identifizieren und präventiv zu blockieren.
In der Praxis bedeutet das: Wenn ein Benutzer in einem juristischen KI-Chatbot eine Frage stellt, validiert CATE nicht nur strukturell und semantisch, sondern priorisiert nach verlässlichen Quellen, wie ausländischen Gerichtsurteilen oder verifizierten Rechtsdatenbanken. Die KI lernt also nicht nur, was formal korrekt klingt – sondern auch, was faktisch belastbar ist.
Tipps für die Reduzierung von KI-Halluzinationen in Unternehmensanwendungen
- Retrieval-Augmented Generation (RAG) implementieren: Integrieren Sie externe Wissensdatenbanken, um Antworten mit validen Fakten zu hinterlegen.
- Monitoring-Instanzen aufsetzen: Nutzen Sie semantische Kontrollmodelle, die Ausgaben bewerten und kritische Passagen analysieren können.
- Transparenz schaffen: Geben Sie Nutzer:innen maximale Nachvollziehbarkeit über Antwortquellen, Unsicherheitsmetadaten und verwendete Modelle.
Forschung und Ausblick
Die Forschung zur Vermeidung von KI-Halluzinationen ist ein dynamisches Feld. Während Technologiefirmen wie Meta AI, Google DeepMind oder OpenAI vermehrt auf hybride Systeme mit Retrieval-Komponenten setzen, schieben Startups wie Embraceable AI den Trend in Richtung auditierbarer KI voran. Studien wie die der Stanford University (2024) zeigen, dass RAG-basierte Systeme die Halluzinationsrate um bis zu 60 % senken können – vorausgesetzt, die eingebundenen Quellen sind hochwertig und regelmäßig aktualisiert (Quelle).
Gleichzeitig arbeiten internationale Gremien – allen voran die EU-Kommission – an Standards für explainable und trustworthy AI, die mittelfristig auch rechtliche Anforderungen an KI-Systeme definieren werden. Embraceable AIs technologieorientierter Ansatz ist damit nicht nur marktreif, sondern auch zukunftsorientiert.
Fazit: Vertrauen beginnt bei der Architektur
Halluzinationen sind mehr als ein technisches Problem – sie sind der ultimative Test für die Integrität künstlicher Intelligenzen. Die Arbeit von Embraceable AI zeigt eindrucksvoll, wie intelligente Systemarchitekturen Vertrauen zurückgewinnen können. Die Kombination aus Transparenz, Validierung und semantischer Kontrolle könnte zukünftig Standard für alle verantwortungsvollen KI-Lösungen werden.
Wir wollen wissen: Wie gehen Sie in Ihrem Unternehmen mit Halluzinationen in KI-Systemen um? Welche Tools, Modelle oder Methoden haben sich in Ihrer Praxis bewährt? Teilen Sie Ihre Erfahrungen in den Kommentaren oder schreiben Sie uns direkt – gemeinsam gestalten wir den Wandel zu einer glaubwürdigen KI-Zukunft.
