Lloyd’s of London versichert gegen Schäden durch KI-Halluzination

Am Versicherungsmarkt Lloyd’s of London sollen Unternehmen sich nun gegen entstehende Kosten durch KI-Fehler oder KI-Halluzination versichern lassen können.

Nach dem weltweiten Durchbruch von ChatGPT häuften sich bald darauf auch Meldungen, dass KI teilweise eine blühende Fantasie entwickelt und sich Dinge sprichwörtlich aus den Fingern saugt. Das hat schon manchem Unternehmen geschadet.

Eines davon war laut der britischen Financial Times der Paketzusteller DPD. Ein eigener Chatbot hatte ihn selbst aufs Übelste beschimpft und als „schlechtestes Lieferunternehmen der Welt“ bezeichnet, was bei den Kund:innen sicherlich nicht gut ankam.

Ein anderes Unternehmen, das durch KI-generierte Falschinformationen einen beträchtlichen Schaden erlitt, war die kanadische Fluggesellschaft Air Canada. Die Fluggesellschaft musste daraufhin sogar Betroffenen zu viel bezahlte Kosten erstatten, wie Heise berichtet.

Fehlerbehaftete GenAI nicht abgedeckt

Genau solche Schäden und daraus resultierende Kosten würden durch die Versicherungspolice übernommen, wie die Financial Times das kanadische Startup Armilla zitiert, das diese entwickelt hat. Die jeweilige Versicherungsgesellschaft müsse aber nicht für jeden KI-Fehler aufkommen, sondern die bei dem B2B-Kunden entstehenden Kosten erst bezahlen, wenn sie zu dem Schluss kommt, dass die KI-Technik schlechter funktioniert als erwartet.

Konkret heißt das, dass die Versicherung nur einspringt, wenn die Fehlerrate deutlich ansteigt beziehungsweise der Anteil richtiger Antworten etwa von 95 überraschend auf 85 Prozent abfällt. KI-Modelle, die von vornherein fehlerbehaftet sind, fallen somit aus der Deckung der Versicherungsgesellschaften. Daher ist es für sie wichtig, die eingesetzten KI-Modell vorher eingehend zu prüfen und erst dann mit dem B2B-Kunden eine entsprechende Police aufzusetzen. Komplett aus der Verantwortung ziehen können und sollten sich die Unternehmen also trotz der Versicherung nicht.

Quelle Titelbild: Adobe Stock /  printdiyparty@gmail