De consultatie: waarom nu?

De Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM) hebben gezamenlijk een consultatie uitgezet voor een leidraad over het verantwoord gebruik van chatbots in klantenservice. Dit is geen toeval: beide toezichthouders ontvangen steeds meer signalen uit de markt over knelpunten en risico's bij de inzet van AI-gestuurde chatbots. Zo zijn er voorbeelden van klantenservicechatbots die foutieve informatie geven over openingstijden of retourbeleid en berichten over chatbots die onbeschofte of vreemde reacties geven op klantvragen.