We zullen dit vaker zien: een chatbot belooft ten onrechte korting, maar het bedrijf moet toch betalen

Chatbots die worden gebruikt om geld te besparen, kunnen soms onverwachte kosten met zich meebrengen. Dat overkwam luchtvaartmaatschappij Air Canada in ieder geval: hun chatbot beloofde het verkeerde, maar moet die belofte nu waarmaken.

Dankzij AI worden chatbots slimmer en moeilijker te onderscheiden van echt personeel. Daarom gebruiken veel bedrijven chatbots als eerste laag van hun klantenservice: elke vraag die een chatbot kan beantwoorden, bespaart werknemers. Maar er kan ook iets misgaan als de chatbot onjuiste antwoorden geeft.

Dat gebeurde in Canada, toen een chatbot van Air Canada een reiziger vertelde dat hij korting kon krijgen op een last-minute vlucht voor de begrafenis van zijn overleden grootmoeder, meldt The Washington Post. De reiziger kocht een vliegticket voor 600 dollar, maar zou volgens de chatbot binnen 90 dagen een deel van zijn geld terugkrijgen. Maar toen de man het eenmaal probeerde, stelde de menselijke staf hem teleur: de indeling was enigszins anders.

Air Canada: ‘de chatbot zelf is verantwoordelijk’

Hoewel het bedrijf voor deze rouwvluchten korting biedt, geldt dit alleen als dit vooraf wordt aangevraagd. Air Canada probeerde onder de korting uit te komen door te stellen dat zijn chatbot een ‘onafhankelijke rechtspersoon’ is, ‘verantwoordelijk voor zijn eigen daden’.

Het Civil Resolution Court was het hier echter niet mee eens. Deze Canadese overheidsinstantie behandelt klachten van individuen. Volgens de rechtbank is Air Canada verantwoordelijk voor alle informatie op haar website, “of deze nu afkomstig is van een webpagina of een chatbot.” Air Canada moet het volledige bedrag van het vliegticket van de man terugbetalen.

De korting werd in 2019 al beloofd door een chatbot, nog voordat de huidige generatie slimmere chatbots verscheen. Een zwakte van chatbots blijft echter de neiging om informatie te verzinnen of niet goed te interpreteren. Daarom kunnen dit soort incidenten in de nabije toekomst veel vaker voorkomen, omdat steeds meer bedrijven chatbots gebruiken.

Meer over chatbots en blijf op de hoogte met onze nieuwsbrief.