Der Kontext, der Bedarf 📍

Sosh, die zu 100 % digitale Marke von Orange, zählt heute 6,5 Millionen Verträge und bearbeitet monatlich etwa 1 Million Anfragen. Ein junger und vernetztes Kundenstamm, der an eine Kundenbetreuung ohne klassisches Callcenter gewöhnt ist, die seit jeher über die MySosh-App, die Website oder die Selbsthilfeforen erfolgt.

Doch die Erwartungen dieser Kunden haben sich geändert. Interne Studien von Orange sprechen eine deutliche Sprache: Nur 16 % der Kunden sind bereit, so lange zu warten, bis sie einen menschlichen Berater erreichen, während 58 % vor allem Wert auf eine schnelle Lösung ihres Problems legen – ganz gleich, ob diese von einem Menschen oder einer KI bereitgestellt wird.

Angesichts dieser Feststellung hat sich Sosh ein klares Ziel gesetzt: der Vorreiter bei Kundeninnovationen zu werden, indem es den Anforderungen seiner Kunden nach Unmittelbarkeit und Selbstständigkeit gerecht wird und ihnen gleichzeitig die Wahl ihres bevorzugten Kommunikationskanals lässt – sei es schriftlich oder mündlich.

Die technische Herausforderung für Orange und ILLUIN Technology lautete daher wie folgt: die Einführung eines völlig neuen sprachbasierten Kundenerlebnisses auf der Ebene einer Marke mit mehreren Millionen Kunden, das auf agentenbasierter KI und Speech-to-Speech-Modellen (S2S) basiert, um mehr Einfachheit, Kundennähe und Effizienz zu bieten, ohne dabei jemals die erwartete Zuverlässigkeit bei sensiblen Themen wie Rechnungsstellung oder Kündigung zu beeinträchtigen.

 

Der umgesetzte Ansatz, die Lösung und die wichtigsten Erfolgsfaktoren 🛠

Das Ergebnis dieser Zusammenarbeit heißt Sharlie, ein Chatbot, der direkt über die MySosh-App verfügbar ist

Sharlie basiert nicht auf einem einfachen Chatbot, sondern auf einer echten Multi-Agenten-Architektur, die mit ILLUIN Dialogue koordiniert:

• Ein freundlicher Empfangsmitarbeiter, der die Anfrage des Kunden erfasst und an den zuständigen Experten weiterleitet – ähnlich wie in einem Geschäft, wo ein erster Ansprechpartner den Kunden je nach Bedarf an einen Fachberater weiterleitet.
• Spezialisierte Fachmitarbeiter (Rechnungsstellung, Vertragsabschluss, Reklamationen …), die mit dem Informationssystem von Orange vernetzt sind und in der Lage sind, ein ausführliches Gespräch zu einem bestimmten Thema zu führen.

Konkret umfasst diese Orchestrierung mehr als 60 KI-Agenten, die sich in Orchestrierungs- und Fachagenten unterteilen und über 15 Bereiche von Kundenanliegen abdecken können. Das Projekt stellt die erste groß angelegte Einführung eines Sprachassistenten in Echtzeit und mit Speech-to-Speech-Technologie bei einem europäischen Telekommunikationsanbieter dar: Sharlie versteht die Stimme des Kunden direkt und antwortet ihm mündlich, ohne einen Zwischenschritt der Textumwandlung, was zu einem wesentlich natürlicheren und flüssigeren Gespräch führt.

 

Zu den wichtigsten Erfolgsfaktoren des Projekts zählen:

• Eine ILLUIN-Dialog plattform, die speziell für komplexe Abläufe entwickelt wurde: ein zentraler Motor zur Erstellung ausgefeilter Szenarien, zur Koordination zahlreicher Akteure und zur nativen Gewährleistung einer durchgängigen Speech-to-Speech-Erfahrung
• Eine plattformunabhängige Plattform, die vollständig in die Hyperscaler integriert ist: Dank einer engen technischen Zusammenarbeit „Hand in Hand“ mit den Teams von Microsoft können OpenAI-Modelle direkt innerhalb der Microsoft Azure-Infrastruktur genutzt werden.
• Ein Einblick in die Praxis direkt an der Seite der Callcenter-Mitarbeiter: Ingenieure von ILLUIN und Orange haben sich in Callcentern niedergelassen, um die KI-Agenten wöchentlich von den Mitarbeitern selbst bewerten zu lassen. So wird sichergestellt, dass die fachliche Logik und der Tonfall perfekt auf die Exzellenzstandards von Sosh
• Industrielles Testen mit Agent Analyzer: Im Gegensatz zu herkömmlichen Bots mit vorgefertigten Antworten erzeugt die generative KI eine unendliche Vielfalt an Antworten. Agent Analyzer ermöglichte es, Tausende von Gesprächen zu simulieren und mithilfe der KI die Nicht-Regression, die Klarheit der Antworten sowie die effektive Lösung der Anfragen zu bewerten
• Ein Team von „Prompt-Hackern“ bei Orange: Es wurde mobilisiert, um die Robustheit der LLM gegenüber Einbruchs- oder Missbrauchsversuchen (Prompt-Injection) zu testen, um die Sicherheitsvorkehrungen der KI-Agenten mit sehr hohen Anforderungen zu verfeinern.
• Eine von Grund auf verantwortungsbewusste KI: Über die strikte Einhaltung gesetzlicher Vorschriften (DSGVO, KI-Gesetz) hinaus wurde die Multi-Agenten-Architektur darauf ausgelegt, die Effizienz bei der Konzeption zu maximieren, wodurch das Projekt in den Gesamtansatz von Orange für verantwortungsbewusste und ethische KI eingebettet wird.

 

Der technische Stack 🤖

Lösung für dialogorientierte KI + Analytik:

 

 

 

 

Frameworks & Tools:

 

 

 

 

Infrastruktur:

     

 

 

 

 

Die Ergebnisse, die Vorteile ✨

Die ersten Ergebnisse des Pilotprojekts (Mitte März bis Mitte Juni 2026) bestätigen die Richtigkeit des Ansatzes:

• +20 % der Kundenbedürfnisse können bereits von Sharlie abgedeckt werden
• 24/7: Die Erreichbarkeit entspricht nun den Standards der digitalen Welt
• Jeder zweite Kunde, der Sharlie genutzt hat, gibt an, zufrieden oder sehr zufrieden zu sein
• 30.000 Kundenanfragen wurden bereits in der Pilotphase bearbeitet

Abgesehen von den Zahlen verlief die Einführung zügig, und das Kundenfeedback war sehr positiv: Das Verständnis, die Höflichkeit und vor allem die Effizienz des Assistenten wurden gelobt. Sosh strebt nun bis Ende 2026 die Industrialisierung der Erstellung und Wartung der Chatbots an, eine Abdeckung von über 80 % der Kontaktgründe sowie ein wirklich multimodales und nahtloses Kundenerlebnis auf allen Kanälen, mit langfristig mehr als 3 Millionen bearbeiteten Gesprächen pro Jahr und der Einführung mehrsprachiger Funktionen.

 

Fazit

Dieses Projekt verdeutlicht die Überzeugung von ILLUIN Technology: Agentenbasierte KI und Echtzeit-Sprachmodelle sind längst keine Laborforschung mehr, sondern industrielle Realität – großflächig implementiert bei einem der größten Telekommunikationsanbieter Europas, um eine schnellere, autonomere Kundenbetreuung zu ermöglichen, bei der stets ein ausgewogenes Verhältnis zwischen Mensch und Technologie gewahrt bleibt.

 

Nützliche Links 🔗

⚙️ Entdecken Sie die Plattform ILLUIN Dialogue
⚙️ Erfahren Sie mehr über Agent Analyzer
💡 Unsere maßgeschneiderten Lösungen in den Bereichen KI, GenAI und Data Science