AI保険はいかが？｜Financial Times｜2025.05.12
FT｜Insurers offer cover for losses caused by AI tools｜2025.05.12
* * *
Insurers at Lloyd’s of London have launched a product to cover companies for losses caused by malfunctioning artificial intelligence tools, as the sector aims to profit from concerns about the risk of costly hallucinations and errors by chatbots.AIもやらかすことはあるだろう。問題はそれがジョークではすまず会社に損害を与えた時、誰がケツをもつかだ。例えば、チャットボットが嘘をついてしまったような場合だ。
5月12日付のFT記事「Insurers offer cover for losses caused by AI tools」では、Almillaというスタートアップの会社が、そんなケースをカバーしてくれる保険を作ったことについて伝えている。
* * *
｜AI保険
Companies have rushed to adopt AI to boost efficiency but some tools, including customer service bots, have made embarrassing and costly mistakes. For example, mistakes can occur because of flaws that cause AI language models to "hallucinate", or make up things up.カスタマー向けのチャットボットもAIの一つだ。この機能がhallucinateするリスクに保険をかける。AIの「ハルシネーション（hallucination）」とは、AIが事実ではない情報をもっともらしく生成してしまう現象のことをいう。もともと企業が省人化のために採用したのがAIツールなのだが、そのAIがデタラメを言ったがために企業が訴えられてしまうような例もアメリカではあるようだ。
* * *
｜勝手に値引きするロボ
記事はいくつか例を挙げているが、AIが勝手にこんなことまでするのだと思う驚きの内容である。カナダの航空会社エアカナダでは、チャットボットが勝手に値引きをオファーしてしまったが、同社はその取引を実行するよう法廷に命令されてしまった。
他には、イギリスのVirginグループの銀行であるVirgin Moneyが、チャットボットが顧客を叱責したことについて謝罪をしなければならなかった。そのAIがお客を叱責した理由なのだが、その客が会社名の一部である「virgin」という言葉を使ったためだったという。これは社名が尖りすぎたせいというべきだろうか…
そもそもこの保険は、様々な企業によるAIの利用を促進することが狙いらしい。
それもそうだが、生成AIって結構いい加減な感じで導入されてたんたということが分かったということではないだろうか…
* * *
Armilla said that the loss from selling the tickets at a lower price would have been covered by its insurance policy if Air Canada's chatbot was found to have performed worse than expected.今回売られることとなったAI保険は、エアカナダの件のような本来より安く航空券を売ってしまったことによる損害をカバーしてくれるらしい。もっとも、チャットボットAIが期待される働きをしてくれなかったためと認定されれば、との限定付きだが。
そもそもこの保険は、様々な企業によるAIの利用を促進することが狙いらしい。
それもそうだが、生成AIって結構いい加減な感じで導入されてたんたということが分かったということではないだろうか…
*****
