Der Anruf ist längst beendet. Trotzdem passiert im Hintergrund noch etwas: ein Termin wird ins System eingetragen, eine Rechnung storniert, ein Datensatz aktualisiert — ohne dass noch einmal ein Mensch draufschaut. Für Unternehmen, die ihre Telefonate ernst nehmen, ist das gerade die interessantere Frage als „Klingt die KI wie ein Mensch?“ Die Frage lautet: Was darf sie danach eigenständig tun?
Vom Antworten zum Handeln
Die großen Anbieter der Branche schwenken gerade genau dorthin um. ServiceNow, Salesforce und das Voice-AI-Unternehmen Synthflow haben in den vergangenen Wochen fast zeitgleich Systeme vorgestellt, die nicht mehr nur ein Gespräch führen, sondern direkt in Unternehmensprozesse eingreifen: Fälle abschließen, Außendiensttermine planen, Kundendaten aktualisieren. ServiceNow nennt sein Produkt „Autonomous Workforce“ und lässt es laut eigenen Angaben unter anderem bei Support-Fällen, Bestellungen und Vertragsverlängerungen selbst triagieren, lösen und eskalieren. Amit Zavery, Chief Product Officer bei ServiceNow, bringt die Ansage auf den Punkt: „Advisory AI has run its course; enterprises need AI that senses, decides, and securely acts in accordance with organizational guardrails.“
Das ist ein anderer Anspruch als der, den ein Chatbot bisher hatte. Ein Chatbot beantwortet eine Frage. Ein System, das „handelt“, verändert etwas — einen Kalendereintrag, eine Rechnung, einen Kundendatensatz —, bevor ein Mensch es noch einmal gesehen hat. Synthflow-CEO Hakob Astabatsyan beschreibt den wirtschaftlichen Reiz dahinter so: „This has shifted for many CX leaders from single-digit to double-digit ROI, because this is very measurable. It’s in dollars and conversion rates.“ Nachvollziehbar aus Anbietersicht. Für den Betrieb, der die Software einsetzt, verschiebt sich damit aber auch die Verantwortung — und die lässt sich nicht so leicht in eine Kennzahl packen.
Wer schaut noch drauf, wenn die KI selbst schreibt?
Genau hier beginnt die Frage, die für ein Unternehmen mit deutschen Kunden anders aussieht als für einen US-Konzern mit eigener Rechtsabteilung für jedes Detail. Wenn ein System nach einem Anruf selbstständig einen Termin verschiebt, eine Rückerstattung anstößt oder einen Datensatz ändert, ist das eine automatisierte Verarbeitung personenbezogener Daten — mit allem, was die DSGVO an Rechenschaftspflicht dafür vorsieht. Wer haftet, wenn die Änderung falsch war? Wer merkt es überhaupt, wenn niemand mehr manuell gegenprüft?
Wir würden ein System, das nach einem Telefonat direkt und ohne Rückfrage in Kalender, Rechnung oder Kundenakte schreibt, für die meisten Praxen, Kanzleien und Handwerksbetriebe nicht empfehlen — jedenfalls nicht ohne eine Stelle, an der ein Mensch die Aktion noch sieht, bevor sie wirkt. Bei einem Rückruftermin mag ein automatischer Eintrag unkritisch sein. Bei einer stornierten Rechnung, einer geänderten Diagnoseakte oder einem abgesagten Beratungstermin nicht. Genau deshalb ist bei Agent Assist die Übergabe an einen Menschen fester Bestandteil des Ablaufs — nicht als Rückfallebene für den Notfall, sondern als reguläre Station im Prozess, an der jemand die Aktion sieht, bevor sie verbucht wird. Ein System, das handelt, braucht eine Stelle, an der jemand widersprechen kann, solange die Handlung noch nicht endgültig ist.
Das deckt sich mit einer Warnung, die Analystinnen der Branche derzeit öfter aussprechen: KI-Agenten wie Personal zu behandeln — also ihnen Verantwortung zu übertragen, ohne die Aufsicht klar zuzuordnen — schafft eher neue Unklarheiten in der Organisation, als dass es welche löst. Für ein Unternehmen mit 18 oder 30 Mitarbeitenden bedeutet das etwas sehr Konkretes: Bevor eine Software „im Namen“ des Betriebs etwas verändert, muss feststehen, wer diese Änderung wöchentlich stichprobenartig prüft — nicht theoretisch, sondern mit Namen auf einer Liste.
Was Sie diese Woche prüfen können
Sie müssen kein Software-System mit „Autonomous Workforce“ im Namen betreiben, um von dieser Entwicklung betroffen zu sein. Viele kleinere Systeme tun heute schon etwas Ähnliches im Kleinen: eine automatische Terminbestätigung, ein automatisch verschickter Rückruf, eine Buchhaltungssoftware, die Mahnungen selbst auslöst. Der praktische Test: Gehen Sie diese Woche einmal durch, welche Ihrer Systeme nach einem Anruf oder einer Anfrage tatsächlich selbst etwas verändern — einen Termin, eine Rechnung, einen Datensatz — statt nur einen Vorschlag zu machen. Und fragen Sie sich für jedes davon: Wer sieht die Änderung, bevor sie wirkt? Wenn die Antwort „niemand“ lautet, ist das kein Grund für Panik, aber ein guter Grund, diese eine Stelle einzurichten, bevor die nächste Software noch mehr davon selbständig übernimmt.
Die Technik wird nicht langsamer. Aber die Frage, wer am Ende hinschaut, wird dadurch nicht kleiner — sie wird größer.
Quellen: CX Today — „ServiceNow, Salesforce, and Synthflow expose the operational issues behind agentic CX“ (https://www.cxtoday.com/ai-automation-in-cx/servicenow-salesforce-and-synthflow-expose-the-operational-issues-behind-agentic-cx/)