Lloyd’s of London asegura contra alucinaciones de IA
1 minuto de lectura
Lo más importante en resumen (LIR): Fuente de la imagen principal: Adobe Stock / printdiyparty@gmail
En el mercado asegurador londinense Lloyd’s of London, las empresas podrán ahora contratar pólizas que cubran los costes derivados de errores o «alucinaciones» de la inteligencia artificial.
Tras el éxito mundial de ChatGPT, no tardaron en multiplicarse los casos en los que la IA demostraba una imaginación desbordada, inventando información de forma literal. Esto ya ha causado perjuicios a más de una empresa.
Una de ellas fue, según informó el Financial Times británico, la empresa de mensajería DPD. Un chatbot propio la había insultado gravemente, calificándola de «peor compañía de reparto del mundo», lo que, sin duda, no pasó inadvertido entre sus clientes.
Otra empresa afectada por falsa información generada por IA fue la aerolínea canadiense Air Canada, que sufrió daños económicos considerables. Como consecuencia, tuvo que reembolsar a los afectados los gastos indebidamente cobrados, según informó Heise.
La IA generativa defectuosa no está cubierta
Exactamente este tipo de daños y los costes derivados serían asumidos por la póliza de seguro, según cita la Financial Times al startup canadiense Armilla, que la ha desarrollado. No obstante, la compañía aseguradora no tendría que hacerse cargo de cada fallo de inteligencia artificial, sino que solo abonaría los costes ocasionados al cliente B2B tras concluir que la tecnología de IA funciona peor de lo previsto.
En la práctica, esto significa que el seguro solo entraría en acción si la tasa de errores aumenta de forma significativa o si el porcentaje de respuestas correctas cae de forma inesperada, por ejemplo, del 95 % al 85 %. Por tanto, los modelos de IA que ya presentan defectos desde su lanzamiento quedan excluidos de la cobertura de las compañías aseguradoras. Por ello, es fundamental que estas evalúen exhaustivamente los modelos de IA que vayan a emplearse antes de formalizar una póliza específica con el cliente B2B. En definitiva, las empresas no pueden ni deben evadir por completo su responsabilidad, incluso con un seguro contratado.
Recomendaciones de lectura de la redacción
- Calidad de los datos en las pymes: por qué la inteligencia artificial fracasa sin datos limpios
- Plataformas B2B: por qué los marketplaces están transformando la comercialización
- Seguro cibernético para pymes: qué cobertura real ofrece
Más del ecosistema mediático de MBF
Cloudmagazin | SecurityToday | Digital Chiefs
Fuente de la imagen principal: Adobe Stock / printdiyparty@gmail
