GoogleがAI攻撃を阻止、未知の脆弱性悪用

何が起こったか

グーグルは月曜日、ある犯罪集団が人工知能を使い、別企業の未公表の脆弱性を突こうとした試みを妨害したと発表した。グーグルの脅威情報部門の主任分析官ジョン・ハルトクイスト氏は、これはサイバーセキュリティの専門家が何年も前から警告してきた瞬間だと述べた。

起こった背景

背景には、人工知能が脆弱性を見つける力を高めている流れがある。1か月前には、アンソロピックがミソスモデルを公表した。こうした中で、ドナルド・トランプ大統領のホワイトハウスは、公開前の強力な人工知能モデルの審査方法を変えている。ジョー・バイデン前大統領の規制を撤回した後、政府の関与拡大をめぐり、共和党政権内でも対応が割れていると報じられている。

生成AIを使う攻撃への警戒が強まる

グーグルは月曜日、生成AIを使って他社の未確認の弱点を突こうとした犯罪集団の試みを妨害したと明らかにした。内容は限定的だが、攻撃側がAIを悪用した事例だとみられる。グーグルの脅威分析部門のジョン・ハルトクイスト氏は、これは専門家が長年警告してきた動きだと述べた。AIが攻撃の力を一段と高める時代は、すでに始まっているという見方である。

アンスロピックが1か月前に公表したミトスというモデルも、その一例とされる。米国のホワイトハウスも対策を見直している。強力なAIモデルの公開前審査の進め方を変えたと伝えられている。政権内では、規制を強めるかどうかで温度差がある。

これって何が重要？

重要なのは、AIが防御側だけでなく攻撃側の力も押し上げている点である。未確認の弱点は、守る側が先に見つけにくい。そこをAIで探られると、侵入の速度が上がる。企業の情報流出や業務停止につながる恐れがある。

さらに、AIの安全確認をどこまで厳しくするかが焦点になっている。公開前の審査を弱めれば開発は速くなるが、危険も増える。逆に審査を強めれば、拙速な公開は抑えやすい。だが規制が過ぎれば技術競争で不利になる。各国は、安全と競争力の両立を迫られている。

今後の予測

今後1〜3か月は、AIの安全審査を強める動きが広がると予想される。特に米国では、政府と企業が攻撃手口の共有を進める可能性が高い。企業側は、未確認の弱点を前提にした防御を急ぐべきである。更新の遅れは、被害の拡大につながりやすい。

利用者も、重要な情報の管理を見直す必要がある。多要素認証の導入や、権限の整理は有効である。AIを使った詐欺や侵入の手口は、今後さらに巧妙になると予想される。見慣れない連絡や不自然な操作要求には、より慎重に対応すべきだ。