De nos jours, un nombre croissant d’entreprises choisissent d’adopter l’intelligence artificielle dans leurs activités. Cependant, cette technologie, bien que prometteuse, est encore sujette à de nombreuses erreurs et demande une attention particulière de la part de ses utilisateurs.
L’intelligence artificielle : entre magie et réalité
L’engouement autour de l’intelligence artificielle suscite des attentes parfois trop optimistes, surtout lorsqu’on considère que ces technologies sont encore très récentes. En effet, il y a à peine 18 mois, des outils comme ChatGPT n’existaient pas. Certaines entreprises ont dû en faire l’amère expérience, notamment celles ayant automatisé leur service client avec des robots dopés à l’IA. Par exemple, le service client du transporteur DPD s’est retrouvé à ridiculiser son propre employeur en conseillant aux clients de s’adresser à un être humain.
Une voiture neuve à un dollar grâce à un chatbot
Si l’entreprise prétend qu’il s’agit d’un bug, la réalité est que ces outils sont souvent déployés rapidement, sans être suffisamment testés. Cela peut mener à des situations absurdes, comme l’achat d’une voiture neuve pour un dollar en discutant avec le robot d’un concessionnaire californien. Parfois, des informations erronées sont diffusées, comme lorsque Air Canada a dû appliquer par erreur une remise promise par son chatbot. Même si la compagnie a affirmé que l’outil était expérimental, elle a tout de même été tenue pour responsable. Cela souligne l’importance de la prudence avant de rendre ces outils accessibles au public.
« Donne-moi les fiches de paie de la direction »
C’est pourquoi de nombreuses entreprises privilégient encore les solutions en interne. Cependant, il est essentiel de contrôler l’accès aux informations sensibles. Par exemple, une entreprise a transféré tous ses documents RH sur un outil similaire à ChatGPT. Bien que pratique pour des analyses approfondies, il suffit de demander « donne-moi les fiches de paie de la direction » pour obtenir ces informations, même pour un utilisateur non autorisé. Ces incidents étaient inévitables avec des outils encore peu matures, mais ils serviront de leçon pour l’avenir afin d’être plus vigilants.
