Klara: Was ich beim Versuch gelernt habe, KI ans Telefon von Pflegeeinrichtungen zu bringen
Zwischen Frühjahr und Oktober 2026 habe ich Klara entwickelt, eine KI-Assistentin, die Anfragen an Pflegeeinrichtungen per Chat und Telefon entgegennimmt. Technisch lief sie stabil. Im Oktober 2026 habe ich das Projekt pausiert.
Zwei Gründe waren ausschlaggebend: Anrufende reagierten auf den Telefonassistenten oft irritiert. Und der Datenschutz macht es schwer, genau die Angaben automatisiert aufzunehmen, die eine Einrichtung für eine Aufnahme braucht, nämlich Gesundheitsdaten. Beides sind keine Kinderkrankheiten der Technik, sondern Eigenschaften des Einsatzfeldes.
Die Ausgangslage
Die Idee kam aus meiner eigenen Leitungserfahrung. In Pflegeeinrichtungen gehen täglich Anfragen ein: Angehörige suchen einen Platz, Interessenten fragen nach Leistungen und Kosten, Bewerberinnen nach Stellen. Viele Anrufe kommen abends, am Wochenende oder dann, wenn niemand frei ist.
Am Telefon sitzen dabei meist nicht die Pflegefachkräfte. In kleineren Häusern und Diensten nehmen Empfang, Verwaltung, Pflegedienstleitung oder Einrichtungsleitung diese Anrufe an. Die Zeit fehlt dann bei Dienstplanung, Qualitätsmanagement oder Verhandlungen.
Klara sollte genau dort entlasten: Anfragen jederzeit annehmen, Standardfragen beantworten, Rückrufwünsche strukturiert erfassen und an die Leitung übergeben.
Was gebaut wurde
Klara nahm Anfragen per Website-Chat und Telefon entgegen, WhatsApp war als optionaler Kanal vorgesehen. Zu jedem Kontakt entstand ein Dossier, das die Leitung in einem Dashboard sah.
- Infrastruktur: Die Automationen liefen selbst gehostet auf einem Server in Deutschland, das Sprachmodell über einen Cloud-Dienst mit Verarbeitung in der EU. WhatsApp war die Ausnahme, weil der Dienst über die Infrastruktur von Meta läuft. Deshalb war er nie Teil des Datenschutzversprechens.
- Schutzschicht: Ein vorgeschalteter Klassifikator fing unangemessene Nachrichten ab, bevor das Sprachmodell antwortete. Fragen nach Systemdetails beantwortete Klara mit festen Texten.
- Rückruferfassung: Klara fragte gezielt nach fehlenden Pflichtangaben, etwa dem Namen der pflegebedürftigen Person und dem Pflegegrad, und vermied doppelte Fragen.
- Kennzeichnung: Klara gab sich von Anfang an als KI zu erkennen.
Für Gespräche mit Einrichtungen gab es zwei Demo-Umgebungen, eine stationäre und eine ambulante. Vorgestellt habe ich Klara unter anderem Einrichtungen, Verbänden und Kontakten von der Fachmesse ALTENPFLEGE. Für die Pilotphase habe ich den Umfang später bewusst auf Chat und Terminbuchung reduziert, das Telefon sollte erst danach folgen.
Grund 1: Am Telefon wollen Menschen einen Menschen
Die deutlichste Erfahrung: Anrufende nahmen den Telefonassistenten oft nicht an und reagierten irritiert. Wer für Mutter oder Vater einen Pflegeplatz sucht, ist meist in einer belastenden Lage. In diesem Moment eine KI-Stimme zu hören, wirkt eher abweisend als hilfreich, auch wenn sie freundlich und kompetent antwortet.
Das passt zur Studienlage. Im Ipsos AI Monitor 2026 sagen nur 37 Prozent der Deutschen, dass KI mehr Vorteile als Nachteile bietet; im Schnitt der 32 befragten Länder sind es 55 Prozent. In Europa überwiegt die Nervosität (56 Prozent) die Begeisterung (39 Prozent). Eine Bitkom-Befragung von 2025 zeigt außerdem, dass Menschen ab 65 Jahren am wenigsten bereit sind, sich von einem KI-Sprachassistenten beraten zu lassen. Genau diese Generation und ihre Angehörigen rufen in Pflegeeinrichtungen an.
Verstecken lässt sich die KI auch nicht, und das ist richtig so. Seit dem 2. August 2026 verpflichtet Artikel 50 des EU AI Act Chatbots und Sprachassistenten, sich als KI zu erkennen zu geben. 80 Prozent der Befragten im Ipsos-Monitor fordern genau diese Kennzeichnung. Die Irritation lässt sich also nicht wegdesignen. Sie gehört zum Telefonkanal in diesem Einsatzfeld dazu.
Im Chat ist die Erwartung eine andere: Wer auf einer Website schreibt, rechnet eher mit einem automatisierten Gegenüber. Das Telefon ist dagegen der Kanal, über den Angehörige bewusst einen Menschen erreichen wollen.
Grund 2: Die wichtigsten Angaben sind Gesundheitsdaten
Damit eine Anfrage für die Leitung wirklich wertvoll ist, braucht sie Angaben wie Pflegegrad, Diagnosen oder Versorgungsbedarf. Genau diese Angaben hatte ich in Klara als Pflichtfelder der Rückruferfassung vorgesehen. Rechtlich sind sie das schwierigste Terrain.
Gesundheitsdaten gehören nach Artikel 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich verboten und nur mit einer der dort genannten Ausnahmen erlaubt. Für einen Erstkontakt kommt praktisch nur die ausdrückliche Einwilligung infrage, und die muss sich gezielt auf diese sensiblen Daten beziehen. Eine stillschweigende oder aus dem Verhalten abgeleitete Einwilligung reicht nicht.
Die Ausnahme für die Gesundheitsversorgung hilft hier kaum: Sie setzt voraus, dass Personal mit Berufsgeheimnis die Daten verarbeitet, und greift eher im laufenden Versorgungsverhältnis als bei einem anonymen Anruf.
In der Praxis heißt das: Eine KI müsste am Telefon zuerst eine rechtssichere, ausdrückliche Einwilligung einholen, bevor sie nach dem Pflegegrad fragt. Das ist umständlich, verstärkt die Irritation aus Grund 1 und bleibt rechtlich angreifbar. Lässt man die Gesundheitsangaben weg, bleibt vom Mehrwert wenig übrig: Dann erfasst die KI kaum mehr als Name und Telefonnummer.
Was außerdem eine Rolle spielte
Betriebsaufwand. Ein KI-Assistent ist kein einmaliges Projekt. Server, Sprachmodell, Workflows, Prompts und Schutzschicht müssen laufend gepflegt und überwacht werden. Für ein kleines Unternehmen stand dieser Aufwand am Ende nicht im Verhältnis zur Resonanz.
Interesse ist nicht Einführung. Gespräche mit Einrichtungen und Verbänden waren offen und oft interessiert. Bis zur Entscheidung für einen produktiven Einsatz war der Weg trotzdem weit, besonders bei einem Kanal, über den die Einrichtung ihre Angehörigen und künftigen Bewohner erreicht.
Datenschutz als branchenübergreifende Hürde. Die Zurückhaltung ist kein Pflege-Phänomen. In einer Bitkom-Befragung aus dem Frühjahr 2026 nannten 77 Prozent der Unternehmen hohe Datenschutzanforderungen als größte Bremse der Digitalisierung. In der Pflege kommt hinzu, dass fast jede relevante Information eine Gesundheitsinformation ist.
Was ich daraus mitnehme
- Der Kanal entscheidet über die Akzeptanz. Dieselbe KI kann im Chat hilfreich und am Telefon störend sein. Vor jeder Einführung lohnt die Frage, wo Menschen bewusst einen Menschen erreichen wollen.
- Die Datenfrage gehört an den Anfang. Welche Daten braucht der Prozess wirklich, und dürfen sie an dieser Stelle automatisiert erhoben werden? In der Pflege entscheidet diese Frage oft schon über Sinn oder Unsinn eines Projekts.
- Nach innen beginnen. KI, die Mitarbeitende bei Dokumentation, Qualitätsmanagement oder Beratung unterstützt, berührt weder die Erwartung der Angehörigen noch die Einwilligungsfrage im Erstkontakt. Dort ist der Nutzen schneller erreichbar.
- Betrieb mitrechnen. Die Entwicklung ist der kleinere Teil. Wartung, Überwachung und Anpassung an neue Regeln wie den AI Act laufen dauerhaft weiter.
Fazit
Klara war technisch machbar, in der bisherigen Form aber nicht tragfähig. Gebremst haben sie nicht die Technik, sondern zwei Eigenschaften der Pflege: dem berechtigten Wunsch nach menschlichem Kontakt in schwierigen Momenten und dem hohen Schutz von Gesundheitsdaten. Ob Klara in anderer Form zurückkommt, etwa als Chat-Assistent ohne Gesundheitsdaten, lasse ich bewusst offen.
Diese Erfahrung prägt meine heutige Arbeit. Meine aktuellen Werkzeuge, das Pflege-Cockpit und der QPR-Kompass, unterstützen Fachkräfte bei Beratung und Qualitätsmanagement, statt sie im Kontakt mit Angehörigen zu ersetzen.
Quellen
- Ipsos AI Monitor 2026, Pressemitteilung vom 19.08.2026
- Bitkom: Knapp ein Fünftel kann sich Freundschaft zu KI-Sprachassistent vorstellen, 10.10.2025
- t3n: Datenschutz bremst Digitalisierung – 77 Prozent der Firmen klagen über zu hohe Anforderungen (Bitkom 2026)
- nordflux: EU AI Act Artikel 50 – Kennzeichnungspflicht für Chatbots und Voice-Agenten ab 2. August 2026
- GÖRG: Gesundheitsdatenschutz unter der DSGVO
- Dr. Datenschutz: Datenschutz in der Pflege