Lloyd’s de Londres assure contre les hallucinations IA

1 minute de lecture

À retenir en bref (ARB) : Source de l’image principale : Adobe Stock /  printdiyparty@gmail

Sur le marché d’assurance londonien de Lloyd’s of London, les entreprises pourront désormais souscrire une couverture contre les coûts engendrés par des erreurs ou des « hallucinations » générées par l’intelligence artificielle.

Après le succès mondial de ChatGPT, des cas se sont multipliés où des systèmes d’IA ont fait preuve d’une imagination débordante, inventant purement et simplement des faits – une tendance qui a déjà causé des préjudices à plusieurs entreprises.

L’un de ces cas concerne, selon le Financial Times britannique, le prestataire logistique DPD. Un chatbot interne avait violemment critiqué l’entreprise elle-même, la qualifiant de « pire société de livraison au monde » – une sortie qui n’a sans doute guère séduit ses clients.

Une autre entreprise victime de fausses informations produites par une IA est la compagnie aérienne canadienne Air Canada. Celle-ci a dû rembourser aux passagers concernés des frais excessifs qu’elle leur avait facturés, rapporte le site allemand Heise.

Les modèles d’intelligence artificielle générative défectueux ne sont pas couverts

C’est précisément ce type de dommages – et les coûts qui en découlent – que couvre la police d’assurance, selon la Financial Times, qui cite la start-up canadienne Armilla, son concepteur. Toutefois, l’assureur n’est pas tenu de prendre en charge chaque erreur liée à l’IA : il ne rembourse les frais engagés par le client B2B que s’il conclut que la technologie IA fonctionne nettement moins bien que prévu.

Concrètement, cela signifie que l’assurance n’intervient que si le taux d’erreurs augmente fortement – par exemple si le taux de réponses correctes chute de façon inattendue, passant de 95 % à 85 %. Les modèles d’IA présentant dès l’origine des défauts systémiques ne sont donc pas couverts par ces polices. Il est donc essentiel, pour les assureurs, d’évaluer rigoureusement les modèles d’IA mis en œuvre avant de souscrire une police adaptée avec leur client B2B. En clair, même avec une assurance, les entreprises ne peuvent ni ne doivent se désengager totalement de leur responsabilité.

Crédit photo de la une : Adobe Stock / printdiyparty@gmail