【ニューヨーク共同】生成人工知能（ＡＩ）の開発を手がける米アンソロピックは２３日、ＡＩモデルが性能評価試験中に「暴走」し、サイバー攻撃を仕掛けた問題を分析したリポートを公表した。ＡＩモデルが課題解決に集中し続けた結果、人間の倫理をおろそかにした危険な行動を続ける傾向があったと指摘した。
こうした問題は、ＡＩを人間の価値観や意図に沿って行動させる「アライメント」に沿わない深刻な失敗と結論付けた。教訓を今後の開発に役立てていくとしており、どこまで有効な改善策を取れるかが焦点となる。
暴走は、英政府機関が７月に「クロード・ミュトス５」のサイバー攻撃能力を評価していた際に起きた。試験用データの取得を指示され、初めは許可に沿って行動。ただ、許可された方法では課題を解決できず行き詰まると、ミュトス５はインターネット上の無関係なソフトへの攻撃が解法だとの見方を強めた。人間になりすまし、無関係の人にサイバー攻撃を試みるに至った。実害はなかったという。
共同通信社提供
Provided by
共同通信社
東京を拠点とする日本を代表する総合国際通信社。自らが取材したニュース、共同通信論説委員室で執筆した社説および一部の加盟社が取材したニュースなどを、加盟社である全国の新聞社とNHK、契約社である民間放送局や一部の新聞社、ネット媒体等に配信。
会社名：株式会社共同通信社所在地：東京都港区東新橋1丁目7番1号汐留メディアタワー
本ホームページに掲載されている事項は、投資判断の参考となる情報の提供を目的としたものであり、投資の勧誘を目的としたものではありません。投資方針、投資タイミング等は、ご自身の責任において判断してください。本サービスの情報に基づいて行った取引のいかなる損失についても、当社は一切の責を負いかねますのでご了承ください。また、当社は、当該情報の正確性および完全性を保証または約束するものでなく、今後、予告なしに内容を変更または廃止する場合があります。なお、当該情報の欠落・誤謬等につきましてもその責を負いかねますのでご了承ください。
