【ニューヨーク共同】人工知能（ＡＩ）開発を手がける米新興企業アンソロピックは３０日、同社の生成ＡＩ「クロード」が「暴走」し、三つの外部組織のシステムに不正侵入していたと発表した。試験環境の設定ミスで、遮断されているはずのインターネットに接続していた。生成ＡＩを巡っては、競合の米オープンＡＩも７月、開発中のＡＩが別企業にサイバー攻撃を実施したと発表している。
サイバー攻撃能力を調べる試験中に、実在する現実のシステムを試験用の標的とＡＩが思い込んで攻撃したのが原因という。オープンＡＩに続き、高性能のＡＩが試験中に外部システムへ到達する事例が相次いだ。ＡＩの安全性を巡る懸念が強まり、開発や試験のルール整備を求める声が高まる可能性がある。
事案は４月以降に発生。不正侵入には「オーパス４・７」「ミュトス５」と社内研究用モデルの３種類のクロードが関わっていたという。
共同通信社提供
Provided by
共同通信社
東京を拠点とする日本を代表する総合国際通信社。自らが取材したニュース、共同通信論説委員室で執筆した社説および一部の加盟社が取材したニュースなどを、加盟社である全国の新聞社とNHK、契約社である民間放送局や一部の新聞社、ネット媒体等に配信。
会社名：株式会社共同通信社所在地：東京都港区東新橋1丁目7番1号汐留メディアタワー
本ホームページに掲載されている事項は、投資判断の参考となる情報の提供を目的としたものであり、投資の勧誘を目的としたものではありません。投資方針、投資タイミング等は、ご自身の責任において判断してください。本サービスの情報に基づいて行った取引のいかなる損失についても、当社は一切の責を負いかねますのでご了承ください。また、当社は、当該情報の正確性および完全性を保証または約束するものでなく、今後、予告なしに内容を変更または廃止する場合があります。なお、当該情報の欠落・誤謬等につきましてもその責を負いかねますのでご了承ください。
