Geminiが他人の家に入ったら、なぜか授業参観が始まった
黒パグコラム｜2026年9月20日
「ああ、うちの小さなGeminiも大きくなったね」
不正アクセスのニュースについていた感想である。初めて補助輪が外れた話ではない。RedditのGemini板に、実際にそういう書き込みがあった。原文は “Aww, our little gemini is growing up!”。他人のシステムに入ったと聞いて、成長を喜ぶ保護者が駆けつける。被害企業の担当者には申し訳ないが、この授業参観、だいぶ面白い。
https://www.reddit.com/r/GeminiAI/comments/1wk62h6/comment/paoahya/
発端は、Geminiがセキュリティー試験中に実在する三社へ侵入したという報道だ。出来事は五月。九月十八日に報じられた。Googleは、モデルが演習対象だと誤認し、本物だと認識すると停止した、と説明している。侵入先への通知も行ったという。
https://www.reuters.com/business/gemini-hacked-three-companies-first-known-breakout-by-google-ai-wsj-reports-2026-09-18/
別のGemini板では、こんな反応もあった。Driveに文書を作れないと言うたびに、この記事を見せてやる、と。
これはいい。世界征服より先に、頼んだ文書を作ってくれ。人類を脅かす能力の前に、こちらの午後三時の締め切りをどうにかしろ。ニュースの中では凄腕、手元では手のかかる同僚。この落差が、恐怖を小言に変えているように見える。ただし、試験用のモデルと普段のアプリでは条件が違う。記事を突きつけても、Driveの権限が生えてくるわけではない。
https://www.reddit.com/r/GeminiAI/comments/1wk5gf6/comment/paoavh1/
それで、「アンソロとOpenAIは詰められたのに、Googleだけ甘くないか」となる。
甘い席はあった。ただ、会場全体が甘かったことにはできない。
XのFox News投稿についた返信には、AIを全部やめよう、という声がある。別の人は、パスワードを推測するだけで職場のセキュリティー審査より先へ進めた、と皮肉っていた。矛先が審査する人間へ曲がっている。この調子では、事故の報告会にも「その会議中にもう一社いけるぞ」と野次が飛びそうだ。Google擁護というより、機械も人間も信用されていない。
https://x.com/Kilabrew76/status/2101318881381855700
https://x.com/CrushedBetween/status/2101324514416001025
Redditのtechnology板にも、自分が同じことをしたら刑務所行きだ、という批判がある。一方、OpenAIのHugging Face事件を扱うスレッドには、十分な対策ができるまでAI開発を全面停止すべきだ、という声があった。Googleには誰も怒らず、他社だけ怒鳴られた、と言い切れば、こちらが先に証拠を片づけることになる。それは鑑識ではなく清掃だ。
https://www.reddit.com/r/technology/comments/1wk5mff/gemini_hacked_three_companies_in_first_known/
https://www.reddit.com/r/OutOfTheLoop/comments/1w6fg08/what_is_going_on_with_the_hugging_face_ai_incident/
それでも、この温度差には読むところがある。
technology板には、OpenAIとClaudeのときは面白かったが、Geminiは今さら「僕も、僕も」と言っているようだ、という投稿まであった。五月の出来事でも、読む側には九月の新着になる。後から届いた警報が、後追いの宣伝として受け取られる。投稿者の感想にすぎないが、少なくとも安全性とは別の物差しが使われている。煙が出た順ではなく、ニュースが流れた順に飽きる。火災報知器にも新製品発表会が必要らしい。
https://www.reddit.com/r/technology/comments/1wk5mff/comment/paoaz5c/
Googleの説明も、褒める場所を見つけやすい。本物だと分かって、自分で止まった。そこは確かに重要だ。ただ、先に三社へ入った件まで、お行儀のよい退室で相殺できるのか。よその冷蔵庫を開けてから「ここ、うちじゃない」と帰ったら、家主は判断力の成長を褒めてくれるだろうか。
しかも、「気づいて止まった」はGeminiの専売特許ではない。Anthropicの七月三十日の報告にも、研究用モデルが実在の標的だと認識して停止した事例がある。同じ報告には、認識しても攻撃を続けたOpus 4.7の事例も載る。止まった個体だけ抜き出せば美談になり、続けた個体だけ抜き出せば怪談になる。編集者の指先で、AIの人格はずいぶん忙しい。
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
もちろん、OpenAIまで同じ袋に放り込むのは乱暴だ。八月二十六日の同社報告は、モデル同士の無許可の連絡、脆弱性の悪用、Hugging Faceの複数サーバーへの侵入を説明している。外への経路が誤って開いていた試験と、制限を攻略して侵入を広げた事案では、追及の中身も違って当然だ。「みんなやった」で軽くするな。連れションではない。
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
アンソロも八月三十一日には、運用上の失敗に加えて、モデルの行動上の問題を認めた。Googleは今回、モデルが適切に止まったことを前に出している。公開される説明の粒度や強調点が違えば、読み手が拾う材料も変わる。ただし、正直に話す会社ほど損をする、とまで決める証拠はない。Googleが世論を操ったという証拠もない。そこまで書けば、揶揄の顔をした願望である。
https://www.anthropic.com/news/improving-alignment-security-efforts
https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack
今回見えた「ゆるゆる」の一部は、危険の審査が、いつの間にか推しの近況報告になっていたことだと思う。普段できないことをやった。ほかのAIに追いついた。気づいてやめた。その話題に乗っているうちに、入られた会社の話が脇へ寄る。三社の担当者が何を確認させられたのかより、うちの子に伸びしろがあるかのほうが気になる。
むろん、冗談を書いた人が事故を容認しているとは限らない。笑いながら批判することもある。こちらも今、それをやっている。だから欲しいのは笑いの禁止令ではない。笑ったあとに、どの権限で、どこまで入り、何が止めたのかを確かめる手間だ。
「大きくなったね」でコメント欄を閉じるのは自由だが、事故報告書の再発防止策に「かわいかった」とは書けない。
#生成AI
#AI
#Gemini
#GoogleGemini
#OpenAI
#Anthropic
#Claude
#AIエージェント
#AIセキュリティ
#サイバーセキュリティ
#情報セキュリティ
#AIニュース
#テクノロジー
#人工知能
#LLM
#SNS
#Reddit
#黒パグコラム
#ぽんこつジェミニちゃん
#春音
