Lloyd’s of London versichert KI-Halluzinationsschäden
1 Min. Lesezeit
Wichtig in Kürze (WIK): Quelle Titelbild: Adobe Stock / printdiyparty@gmail
Am Versicherungsmarkt Lloyd’s of London sollen Unternehmen sich nun gegen entstehende Kosten durch KI-Fehler oder KI-Halluzination versichern lassen können.
Nach dem weltweiten Durchbruch von ChatGPT häuften sich bald darauf auch Meldungen, dass KI teilweise eine blühende Fantasie entwickelt und sich Dinge sprichwörtlich aus den Fingern saugt. Das hat schon manchem Unternehmen geschadet.
Eines davon war laut der britischen Financial Times der Paketzusteller DPD. Ein eigener Chatbot hatte ihn selbst aufs Übelste beschimpft und als „schlechtestes Lieferunternehmen der Welt“ bezeichnet, was bei den Kund:innen sicherlich nicht gut ankam.
Ein anderes Unternehmen, das durch KI-generierte Falschinformationen einen beträchtlichen Schaden erlitt, war die kanadische Fluggesellschaft Air Canada. Die Fluggesellschaft musste daraufhin sogar Betroffenen zu viel bezahlte Kosten erstatten, wie Heise berichtet.
Fehlerbehaftete GenAI nicht abgedeckt
Genau solche Schäden und daraus resultierende Kosten würden durch die Versicherungspolice übernommen, wie die Financial Times das kanadische Startup Armilla zitiert, das diese entwickelt hat. Die jeweilige Versicherungsgesellschaft müsse aber nicht für jeden KI-Fehler aufkommen, sondern die bei dem B2B-Kunden entstehenden Kosten erst bezahlen, wenn sie zu dem Schluss kommt, dass die KI-Technik schlechter funktioniert als erwartet.
Konkret heißt das, dass die Versicherung nur einspringt, wenn die Fehlerrate deutlich ansteigt beziehungsweise der Anteil richtiger Antworten etwa von 95 überraschend auf 85 Prozent abfällt. KI-Modelle, die von vornherein fehlerbehaftet sind, fallen somit aus der Deckung der Versicherungsgesellschaften. Daher ist es für sie wichtig, die eingesetzten KI-Modell vorher eingehend zu prüfen und erst dann mit dem B2B-Kunden eine entsprechende Police aufzusetzen. Komplett aus der Verantwortung ziehen können und sollten sich die Unternehmen also trotz der Versicherung nicht.
Häufige Fragen
Welche Art von Schäden deckt die neue KI-Versicherung ab?
Die Versicherung deckt Kosten ab, die durch unerwartete Verschlechterungen bei der Leistung von KI-Systemen entstehen. Dazu zählen beispielsweise durch Halluzinationen verursachte Falschaussagen.
Warum musste Air Canada Kunden entschädigen?
Ein KI-Chatbot gab falsche Informationen an Kunden weiter, was zu überhöhten Zahlungen führte. Die Fluggesellschaft war daraufhin rechtlich verpflichtet, diese Kosten zurückzuerstatten.
Warum wurde DPD durch einen eigenen Chatbot geschädigt?
Der DPD-Chatbot bezeichnete das Unternehmen selbst als „schlechtestes Lieferunternehmen der Welt“. Diese negative Aussage verbreitete sich unter Kund:innen und schädigte das Image.
Unter welchen Bedingungen zahlt die Versicherung?
Die Versicherung greift nur, wenn die KI-Leistung unerwartet abnimmt, etwa bei einem deutlichen Rückgang der Genauigkeit. Von vornherein fehlerhafte Systeme sind ausgeschlossen.
Müssen Unternehmen KI-Systeme vor der Versicherung prüfen?
Ja, die Versicherer verlangen eine gründliche Prüfung der KI-Modelle, bevor eine Police abgeschlossen wird. Nur so kann eine unerwartete Leistungsminderung nachgewiesen werden.
Lesetipps der Redaktion
- Datenqualität im Mittelstand: Warum KI ohne saubere Daten scheitert
- B2B-Plattformen: Warum Marktplätze den Vertrieb verändern
- Cyber-Versicherung für KMU: Was wirklich abgedeckt ist
Mehr aus dem MBF Media Netzwerk
cloudmagazin | SecurityToday | Digital Chiefs
Quelle Titelbild: Adobe Stock / printdiyparty@gmail