Callcenters hebben de receptionisten van veel artsen vervangen. Nu komt AI ook naar callcenters.

Bij een callcenter op de Filipijnen helpen medewerkers Amerikanen met diabetes of neurologische aandoeningen met het oplossen van problemen met apparaten die hun gezondheid monitoren. Soms krijgen ze dringende telefoontjes: oudere patiënten die alleen zijn en een medisch noodgeval hebben.

"Dat hoort niet bij de taak van onze medewerkers of onze technische ondersteuning", zei Ruth Elio, een bedrijfsverpleegkundige die de medewerkers van het centrum begeleidde, toen ze vorig jaar met KFF Health News sprak. "Toch doen ze het omdat het belangrijk is."

Elio hielp ook werknemers met hun eigen gezondheidsproblemen, meestal hoofdpijn of rugpijn, veroorzaakt door het urenlang stilzitten.

In een ander callcenter transcribeerde Kevin Asuncion medische consulten van een andere kant van de wereld, in de Verenigde Staten. Je kunt wel wennen aan de uren, zei hij vorig jaar in een interview: van 20.00 tot 5.00 uur. Zijn pauzes bracht hij meestal slapend door; dan is er weinig open.

Los van de gezondheidsrisico's en nachtdiensten hebben callcentermedewerkers een nieuw probleem: kunstmatige intelligentie.

Startups brengen AI-producten met levensechte stemmen op de markt om doktersbezoeken in te plannen of te annuleren, herhaalrecepten te bestellen en patiënten te helpen bij de triage. Veel patiënten zullen binnenkort mogelijk niet langer contact opnemen met de zorginstelling via een callcentermedewerker of receptionist, maar via AI. Zocdoc, het bedrijf dat afspraken inboekt, heeft een geautomatiseerde assistent geïntroduceerd die naar eigen zeggen in 70% van de gevallen zonder menselijke tussenkomst afspraken kan inplannen.

Het aantal medisch gerichte callcentermedewerkers in de Filipijnen is enorm: 200.000 eind 2024, schat Jack Madrid, leider van de branchegroepering. Dat aantal is meer dan het aantal paramedici in de Verenigde Staten eind 2023, volgens het Bureau of Labor Statistics. Sommige werkgevers openen vestigingen in andere landen, zoals India, en gebruiken AI om hun personeelsbestand te hervormen of te vervangen.

Toch is het onduidelijk of de digitale manipulaties van AI de spreekwoordelijke menselijke aanpak kunnen evenaren. Zo bleek uit een recent onderzoek in Nature Medicine dat sommige modellen weliswaar ziekten kunnen diagnosticeren door ze te confronteren met een ingeblikt verhaal, zoals aankomende artsen in opleiding doen, maar dat AI moeite heeft om informatie te ontlokken aan gesimuleerde patiënten.

"De band, het vertrouwen dat we geven, of de emoties die we als mensen hebben, kunnen niet worden vervangen", aldus Elio.

Sachin Jain, president en CEO van Scan Health Plan, een verzekeraar, zei dat mensen context hebben die AI nog niet heeft – althans voorlopig niet. Een receptioniste in een kleine praktijk kent de patiënten misschien goed genoeg om subtiele signalen op te pikken en de arts te vertellen dat een bepaalde beller "iemand is die u die dag, die minuut of die week moet zien of spreken".

De overstap naar callcenters zorgde weliswaar voor meer afstand tussen de beller en de zorgverlener, maar de menselijke maat bleef behouden. Toch zeggen sommige callcentermedewerkers en hun belangenbehartigers dat de manier waarop ze tijdens hun werk worden gemonitord, de zorg ondermijnt. Op een locatie van Kaiser Permanente is het een "omgeving met veel micromanagement", aldus een verpleegkundige die haar naam niet wilde noemen uit angst voor represailles.

"Vanaf het begin van de dienst tot het einde wordt van je verwacht dat je telefoontje na telefoontje na telefoontje uit een open wachtrij beantwoordt", zei ze. Zelfs bij het geven van advies voor complexe gevallen "is er een ongeschreven regel over hoe lang een verpleegkundige per telefoontje mag doen: 12 minuten."

Ondertussen wordt het werk steeds zwaarder, zei ze. "Wij vormen de back-up van de gezondheidszorg. We zijn 24/7 bereikbaar", zei ze. "Ze bellen over hun incisies, die bloeden. Hun kind heeft astma en de instructies voor de medicijnen zijn niet duidelijk."

Eén vakbond voor verpleegkundigen protesteert tegen een mogelijke AI-managementtool in de callcenters.

"AI-tools nemen geen medische beslissingen", vertelde Vincent Staupe, woordvoerder van Kaiser Permanente, aan KFF Health News. "Onze artsen en zorgteams staan ​​altijd centraal in de besluitvorming met onze patiënten en in al onze zorgomgevingen, inclusief callcenters."

Kaiser Permanente is niet verbonden aan KFF, een non-profitorganisatie die zich bezighoudt met gezondheidsinformatie, waartoe ook KFF Health News behoort.

Sommige bedrijven noemen een personeelsverloop van 30 tot 50%. Volgens sommigen zijn dit cijfers die pleiten voor het overdragen van de taak aan AI.

Callcenters "kunnen mensen niet vasthouden, omdat het gewoon een enorm uitdagende baan is", aldus Adnan Iqbal, medeoprichter en CEO van Luma Health, dat AI-producten ontwikkelt om callcenterwerk te automatiseren. Geen wonder, "als je elke 90 seconden wordt uitgescholden door een patiënt, een verzekeringsmaatschappij, een medewerker, noem maar op."

Volgens leiders uit het bedrijfsleven zijn hun klanten gefrustreerd: in plaats van menselijk contact krijgen patiënten helemaal niets. Ze worden geplaagd door lange wachttijden en gehaaste, machteloze medewerkers.

Marissa Moore – investeerder bij OMERS Ventures – kreeg ooit een voorproefje van de frustraties van patiënten toen ze probeerden een afspraak te maken bij vijf dokterspraktijken. "Bij elke praktijk kreeg ik een derde partij aan de lijn die geen informatie had over de zorgverleners in de praktijk, hun beschikbaarheid, of wat dan ook."

Dit soort klachten komen steeds vaker voor en trekken de aandacht van investeerders en bedrijven.

Klachten van klanten hebben gevolgen voor de winstgevendheid van bedrijven, zoals zorgverzekeraars, die via het Medicare Advantage-beleid van de federale overheid een beloning kunnen krijgen voor betere klantenservice.

Toen Scan een daling in patiëntbeoordelingen constateerde bij sommige zorgaanbieders in haar verzekeringsnetwerk, ontdekte het dat deze aanbieders waren overgestapt op centrale callcenters. De klantenservice leed eronder en de lagere beoordelingen vertaalden zich in lagere betalingen van de federale overheid, aldus Jain.

"Er is een zekere mate van ontevredenheid die onder onze patiënten leeft", zei hij.

Voor sommige bedrijven lijkt het idee van een computerreceptioniste een welkome oplossing voor het probleem van ineffectieve callcenters. AI-stemmen, die menselijke stemmen overtuigend kunnen nabootsen, zijn "buiten de gebaande paden", aldus Richie Cartwright, oprichter van Fella, een startup voor gewichtsverlies die één AI-product gebruikte om apotheken te bellen met de vraag of ze GLP-1's op voorraad hadden.

Ook de prijzen zijn gedaald. De prijs per gebruik van Google AI is met 97% gedaald, zo beweerde CEO Sundar Pichai van het bedrijf in een toespraak in 2024 .

Sommige voorstanders staan ​​te popelen om de visie van AI-assistenten in de praktijk te brengen. Sinds het aantreden van de tweede regering van Trump hebben beleidsinitiatieven van het quasi-agentschap Department of Government Efficiency, onder leiding van Elon Musk, naar verluidt de inzet van kunstmatige intelligentiebots voor klantenservice bij het ministerie van Onderwijs onderzocht .

De meeste leidinggevenden die door KFF Health News werden geïnterviewd – in de ziekenhuis-, verzekerings-, technologie- en consultancysector – benadrukten nadrukkelijk dat AI de mens zou aanvullen, niet vervangen. Sommigen vervielen in jargon en beweerden dat de technologie verpleegkundigen en medewerkers in callcenters efficiënter en effectiever zou kunnen maken.

Maar sommige bedrijven geven aan dat hun AI-modellen menselijke werknemers zouden kunnen vervangen. Hun websites suggereren dat ze de afhankelijkheid van personeel zouden kunnen verminderen. En ze ontwikkelen prijsstrategieën die gebaseerd zijn op het verminderen van de vraag naar arbeidskrachten, aldus Michael Yang, durfkapitalist bij OMERS.

Yang beschreef het vooruitzicht voor bedrijven als een 'we-delen-in-de-winst-soort-ding', waarbij startups hun klanten proberen te overtuigen om hen te betalen voor de kosten van anderhalve aanstelling en hun AI het werk van twee keer zoveel mensen laat doen.

Maar zorgaanbieders zijn momenteel bezig met het ontwikkelen van beperkte diensten. Zo begon de University of Arkansas for Medical Sciences met een beperkt idee. Het callcenter van de organisatie sluit om 17.00 uur. Dit betekent dat patiënten die na sluitingstijd een afspraak proberen te annuleren, een bericht achterlaten. Hierdoor ontstond er een achterstand die medewerkers de volgende ochtend moesten aanpakken. Dit kostte tijd van andere planningstaken en zorgde ervoor dat geannuleerde afspraken niet werden ingevuld. Daarom begonnen ze met een AI-systeem van Luma Health om annuleringen na sluitingstijd mogelijk te maken. Sindsdien hebben ze dit systeem uitgebreid, zodat patiënten de hele dag afspraken kunnen annuleren.

Michelle Winfeld-Hanrahan, hoofd klinische toegang van het zorgsysteem en verantwoordelijk voor de implementatie, zei dat UAMS genoeg ideeën heeft voor verdere automatisering. Zo kunnen patiënten bijvoorbeeld zelf controleren of er eerdere toestemmingen zijn en kunnen ze worden begeleid bij de follow-up na ontslag.

Veel leidinggevenden beweren dat AI-tools mensen kunnen aanvullen in plaats van vervangen. Eén bedrijf zegt dat zijn product "vocale biomarkers" kan meten – subtiele veranderingen in toon of intonatie – die correleren met ziekten, en die informatie kan doorgeven aan menselijke medewerkers die met de patiënt omgaan. Sommige bedrijven gebruiken grote taalmodellen om complexe documenten samen te vatten: ze halen er obscure verzekeringspolissen of benodigde informatie uit voor medewerkers. Andere bedrijven zijn geïnteresseerd in AI die een mens door een gesprek begeleidt.

Zelfs als de technologie mensen niet vervangt, verandert ze ze wel. AI kan worden gebruikt om het gedrag en de presentatie van mensen te veranderen. Callcentermedewerkers gaven in interviews aan dat ze op de hoogte waren van, of alomtegenwoordige geruchten hadden gehoord over, of bang waren voor diverse AI-tools.

Bij sommige callcenters van Kaiser Permanente protesteerden vakbondsleden tegen de implementatie van een AI-tool die bedoeld was om ‘actief luisteren’ te meten, wat ze met succes vertraagden, zo beweerde een vakbondsflyer.

Medewerkers en leidinggevenden van callcenters in de Filipijnen gaven aan dat ze wel eens van andere softwaretools hadden gehoord, zoals technologie die Filipijnse accenten kon omzetten in Amerikaanse. "Daar is geen enorme behoefte aan, gezien onze relatief neutrale accenten, maar we hebben het wel gezien", aldus Madrid, de leider van de branchegroep.

"Alleen omdat iets geautomatiseerd kan worden, betekent nog niet dat het ook geautomatiseerd moet worden", zei hij.