OpenAIは、AIが関与する重大事案の後に起こり得る社会・政治的反発を想定し、複数の対応シナリオを検討する演習を実施しています。金融や通信などの停止につながる大規模サイバー攻撃を例に、匿名関係者の見立てと米国・EUで異なる政策の文脈を整理します。
- OpenAIが対応シナリオを検討する演習
- OpenAIは金融・通信停止につながる攻撃を想定しています
- 匿名関係者による6〜12か月以内の発生見通し
- 米国の政策想定とEU AI法の制度運用は別の文脈
AIが関与するサイバー攻撃と社会インフラへの影響
Anthropic、OpenAIなどのAI企業の経営陣は、AIが関与する重大な事案の後に起こり得る社会・政治的な反発への対応を、非公開で想定しているとされます。ここで具体例として挙げられているのは、AIを使った大規模なサイバー攻撃です。サイバー攻撃とは、コンピュータシステムや通信網に被害を与える攻撃を指します。
想定では、この攻撃により金融機関やインターネット接続、電力、水道が停止するおそれがあります。AIが関与する攻撃による社会インフラへの影響と、その後に起こり得る世論や政治の反発が、今回の対応演習で結び付けられている点です。事案が発生した場合に米議会へ速やかに説明することも、演習に関わる人々の想定に含まれています。
今後6〜12か月以内に重大事案が起きる可能性があるという時間幅は、匿名の業界関係者による見立てです。発言者の氏名や、その見立てを支える具体的な根拠は示されていません。この期間は発生時期の確定情報ではなく、匿名関係者の見通しとして扱う必要があります。
OpenAIの準備態勢と米国で想定される規制対応
OpenAIは、チームが複数の潜在的なシナリオを議論し、対応を検討する準備態勢の演習を実施していると説明しました。同社は、演習で扱うシナリオを不可避なものとは見なしていないとしています。Anthropicはこの件についてコメントを控えました。
米国の政策をめぐっては、計画立案者が11月3日の中間選挙後に民主党がAI規制の強化を進めるというシナリオを想定しています。これは演習で置かれた政策上の前提であり、規制強化が決まったことを示すものではありません。AIへの依存が進む経済や、外部で利用できるオープンウェイトモデルの存在は、その規制を実行する際の課題として挙げられています。オープンウェイトモデルとは、学習済みの数値を公開し、外部で利用できるAIモデルです。
EU AI法の既存制度による安全対策の確認
EUの安全対策は、前節の米国における選挙後の政策予想とは別の文脈で進んでいます。EUのテック担当トップであるヘンナ・ビルックネン氏は、リスクの大きさに応じて規制するEU AI法が、高性能なAIモデルのライフサイクル全体を対象にしているとの見解を示しました。同氏は、暴走するAIエージェントが人間の制御を超えることへの懸念に対し、EUの制度は対応できると述べています。
欧州委員会は8月下旬、30社を超えるAI企業に対し、安全性とセキュリティ対策の詳細を求めました。ビルックネン氏は、その回答を精査しているとしています。また、規制当局は60人のAI専門家による勧告を踏まえ、企業にモデル評価の指針を提供しています。これは、EU AI法の枠組みで事業者の安全対策を確認する既存の制度運用です。
