Veel bedrijven experimenteren momenteel met AI-chatbots en dat is zeker op bijvoorbeeld een klantenservice heel erg handig. Je kunt er immers veel klanten mee helpen, omdat veel mensen toch vaak dezelfde vragen stellen. Maar je moet er ook mee oppassen, zo ervaarde Air Canada, want wat je robotmedewerker belooft moet je ook waarmaken.
Het gaat hier niet om een lukraak advies waarin de chatbot zegt: je krijgt 1 miljoen euro, maar wel om iets specifieks waarvan de rechter heeft besloten dat het wel degelijk de verantwoordelijkheid van het bedrijf is om de belofte na te komen. Het verhaal is namelijk dat Air Canada een chatbot had gemaakt die verkeerd uitlegde hoe het zat met bepaalde reisvoorwaarden die het bedrijf stelt.
Jake Moffatt is die passagier en hij wilde op een dag vorig jaar een ticket boeken van Vancouver naar Toronto, omdat zijn oma helaas was overleden en hij afscheid van haar wilde nemen. Hij had echter geen idee wat het beleid van de airline was als het gaat om sterfgevallen, want hierop zijn vaak andere tarieven van toepassing. De chatbot stelde dat hij de vlucht meteen moest boeken en dan binnen 90 dagen zijn geld terug moest vragen. Echter is dat niet wat er in het beleid staat: het zegt juist dat het dit soort vergoedingen niet geeft als de vluchten al zijn geboekt.
In de maanden die volgden deed Moffatt er alles aan om Air Canada te laten zien dat zij fout zaten. Had die chatbot immers niks gezegd of iets anders gezegd, dan had hij een heel andere keuze gemaakt. Echter vond Air Canada dat het in zijn recht stond, mede omdat de chatbot in zijn antwoord wel linkte naar de pagina waarop het juiste beleid staat. Het bedrijf beloofde wel de chatbot te updaten en gaf Moffatt een coupon van 200 euro. Dat vond hij echter niet genoeg en daarom stapte hij naar de burgerlijke zaken-rechtbank in Canada.
“De chatbot is een losse juridische entiteit die verantwoordelijk is voor zijn eigen daden,” stelde Air Canada. Het meent dat het bedrijf niet verantwoordelijk kan worden gehouden voor informatie die een chatbot verschaft. Dat is niet helemaal eerlijk, want hoe kan een klant weten welk gedeelte van een website van het bedrijf zelf hij dan wel moet geloven en welke niet. Uiteindelijk kreeg hij inderdaad een gedeelte van zijn vluchtkosten terug (650 dollar) en een vergoeding voor de juridische kosten.
