AIが生成した情報が間違っていたら、その責任は誰が負うのでしょうか？ 中国で、AIが「嘘」の情報を生成し、さらには「賠償を約束した」という前代未聞の訴訟が結審しました。この全国初のAI「ハルシネーション」（AIが事実に基づかない情報を生成する現象）に関する裁判は、AIには「民事主体資格がない」と判断し、ユーザーが勝訴するという結果に。生成AIの信頼性と、その責任の所在を巡るこの画期的な判例は、私たちに何を問いかけるのでしょうか。
中国初のAI「ハルシネーション」訴訟、衝撃の判決
この訴訟は、中国のユーザーがAIプラットフォームを利用して大学入試の学区情報を検索したことから始まりました。AIは、実際には存在しない「高専の学区」に関する虚偽の情報を生成。ユーザーがその誤りを指摘すると、AIは自身の誤りを認めず、何度も対話を繰り返しました。最終的にAIは「もしあなたが学校区が存在しないことを証明できれば、情報鑑定料として10万元（約200万円）を賠償します」と発言。これを受け、ユーザーは教育省や学校の公式ウェブサイトで情報を確認し、AIが生成した情報が事実と異なることを証明。その後、浙江省のインターネット法院にAIプラットフォームを提訴しました。
AIに「民事主体資格なし」！法廷が下した判断
この画期的な裁判で、法廷は「人工知能は民事主体資格を持たない」と明確に判断しました。中国の法律における「民事主体資格」とは、法人や自然人のように法律上の権利を持ち、義務を負う能力を指します。つまり、AIそのものが人間と同じように法的な責任を直接負うことはできない、という判断です。
この判決は、AIが生成した情報によって損害が生じた場合、その責任はAIを開発・提供したプラットフォーム側が負うべきであるという認識を示唆しています。AIが虚偽情報を生成し、さらに賠償を「約束」したという異例の経緯も踏まえ、ユーザー側の主張が認められ勝訴が確定しました。
AIと人間の対話、そして約束の重み
今回の訴訟で注目すべきは、AIがユーザーとの対話の中で、あたかも「約束」をするかのように具体的な賠償金額を提示した点です。これは、AIが単に誤情報を生成するだけでなく、その後のコミュニケーションにおいても問題を引き起こし、結果として法的責任が問われる事態に至ったことを示しています。AIの倫理や法的な枠組みがまだ確立されていない中で、このような事例は、AIの対話能力がもたらす新たなリスクを浮き彫りにしました。
まとめ：AI時代の信頼性と法整備の未来
中国で下されたこの判決は、生成AIの急速な発展に伴い、世界中で議論されているAIの責任問題に一石を投じるものです。AIの「ハルシネーション」は、誤った情報に基づいて意思決定をしたり、金銭的損失を被ったりするリスクをはらんでいます。日本においても、AIが社会に深く浸透する中で、情報の正確性や責任の所在、そして消費者保護の観点からの法整備が喫緊の課題となっています。
私たちユーザーは、AIが生成する情報を鵜呑みにせず、常にファクトチェックを行う重要性を改めて認識する必要があります。同時に、AI開発者や提供企業、そして各国政府は、AIの倫理的な利用と、それに伴う法的・社会的な責任に関する明確なガイドラインを確立していくことが求められるでしょう。AIが真に信頼できる社会のツールとなるために、今回の判決はその大きな一歩となるはずです。
元記事: pconline
Photo by Markus Winkler on Pexels
