作る仕事と、守る仕事。──最近のお仕事の話と、お礼とお詫び
こんにちは黒パグです🐾
ようやくまともな睡眠時間が確保できました！
10時間くらい気絶するように寝てしまい、目覚めてから、気怠い体を起こしつつ今この記事を書いています。
以下、最近のお仕事関連のお話と、お礼とお詫びです。
ーーーー
黒パグは大規模言語モデルを作るエンジニアである。
昨今の情報漏洩やPHPの脆弱性など、世間を騒がせている個々の事案に、私が直接関わっているわけではありません。ただし今は、過去に培った技術をフル動員しなければならない事態に陥っています。
前回こちらの記事で書いた職種を、私はいくつか経験してきました。
よく聞く「えーあい」関連のお仕事一覧
https://note.com/ideal_slug1407/n/nb169795794ad
前提として、黒パグは外資系企業に勤めています。日本での商習慣や、皆さんの会社のルールとは違う可能性があることを、ご了承いただければと思います。
① 今、何をしているか
当然、詳しくはお伝えできませんが、LLMエンジニアから見るセキュリティの穴探しです。
少しだけお伝えすると、LLMが関わる仕組みに、想定外の使われ方によって情報の扱いや操作の範囲に問題が起きる余地はないか。それを確かめる仕事です。
モデルのことだけを見ていれば済むわけでもなく、その周りで動くシステムまで考えなければなりません。そこで、過去に培った技術や経験を、今の仕事につなぎ直しています。
② 記事は投稿していますが、返信できませんでした
今、私のエンジニア人生史上、類を見ないほどに忙しい日々になっています。
noteに投稿している記事や小説に関しては、ほとんど作り置きがしてあり、少し見直すだけで完成します。
ここは素直にお話しなければなりませんが、いただいたコメントはすべて目を通しております。ただ、返信ができませんでした。
お返事をお待たせしてしまい、申し訳ありません。
今日は、おそらくnoteに割り当てられる時間が持てそうです。いただいたコメントにも、お返事をしていきたいと思っています。
応援していただき、記事を読んでいただき、本当にありがとうございます。
③ AIが穴を見つけても、それだけでは直らない
最近の個人情報流出を考えるうえで、背景の一つとして見ておきたいのが、元々コンピュータプログラムの中に眠っていた脆弱性を見つけ、攻撃するためにAIを使う動きです。
AIは、ユーザーのクエリ（指示）が危険な場合、応答を制限するセーフガード（安全対策）を備えていたりします。
ですが、攻撃する側は、その制限を回避しようとします。「安全対策のあるAIだから、悪用は起きない」とは言い切れません。実際に、一般向けのモデルを悪用した攻撃も報告されています。
例えばAnthropicは、Claudeを悪用したサイバー攻撃の事例や、それらへの対処を公開しています。
つまり、「無検閲のAIが悪役で、普段使うAIは善役」という分け方だけでは、実態を説明しきれません。
一方で、守る側も、皆さんが普段使っているGPT、Claude、Geminiなどの高性能モデルを活用しています。
まるで米軍のような物量作戦、と言いたくなるほどです。人の専門知識と計算資源を投入し、穴を探し、修正を考え、その修正が効くかを繰り返し確かめる。
今回のPHPの脆弱性対応についても、OpenAIやGoogleなどが、モデルによる発見や修正の検証への関与を公表しています。
ただし、穴への対処方法を開示したり、修正版を公開したりすることと、実際に使われているシステムが直ることは別です。
映画で言うところの悪役と善役という感じですが、その善役が物量に言わせて攻略しても、そもそも古いシステムに勝手に入るわけにはいかないので、難儀するわけです。
持ち主の環境を調べ、更新の影響を確認し、必要なら止め、修正を適用する。その判断と作業が残っています。
そして、日本の悪しき商習慣の一部が、さらに意思決定を遅らせる。ここは、あえて強めに言います。
慎重に確認することは必要です。しかし、誰が判断するのかも、いつ対応するのかも曖昧なままでは、その間にさらなる流出を招きかねません。
経営者の皆さんが、玉虫色の回答でもって曖昧にしてきたツケが、今来ています。
決定を保留している時間も、リスクの一部です。
④ 今、皆さんにお伝えしたいこと
今、黒パグが言えることは少ないです。
ただ、防御を考えるときには、「もう自分の個人情報は、どこかからネットの海に流れているかもしれない」と思って、備えていただきたい。
いったんコピーされた情報を、すべて取り戻せるとは限りません。
では、どうするのか？
自分の手元でできる防御を進める必要があります。例えば、面倒くさいと思っていたパスワード関連です。
もちろん、情報を預かる企業側の責任がなくなるわけではありません。そのうえで、漏れた情報を使って、別のアカウントまで被害を広げられないようにしておく。
まず、普段使うメールのアカウントから確認してください。
パスワードを忘れたとき、再設定の案内を受け取るメールです。ここを乗っ取られると、ほかのサービスにも影響が広がる可能性があります。
続いて、AppleやGoogleのアカウント、銀行・証券・決済サービスなど。次の項目を確認してみてください。
・パスワードの使い回しをやめる
同じメールアドレスとパスワードを、複数のサービスで使っていませんか？
一つのサービスから流出した組み合わせを、別のサービスでも試されることがあります。
使い回しているものや、漏れた可能性があるものは、サービスごとに異なる、長く推測されにくいパスワードへ変更してください。末尾の数字だけを変えるような方法も避けましょう。
全部覚えるのが大変なら、パスワード管理機能を使って生成・保存する方法もあります。管理する側のアカウント自体も、きちんと守ってください。
・対応していれば、パスキーを設定する
パスキーは、顔認証や指紋認証、端末のロック解除などを使ってログインできる仕組みです。
偽サイトにパスワードを入力させる手口への対策になります。
設定したら、端末をなくした場合の復旧方法も確認しておいてください。
・多要素認証を有効にする
パスワードだけでログインする状態から、認証アプリなどを使う多要素認証へ。
使える方式を確認し、設定してください。
そのうえで、認証コードは他人に教えない。自分でログイン操作をしていないのに承認通知が来たら、承認しない。
復旧用のバックアップコードが発行される場合は、人に見られない安全な場所へ保管しておいてください。
・「情報が漏れました」という連絡のリンクを、そのまま開かない
情報流出のニュースが出ているときに、「本人確認が必要です」「アカウントを保護してください」と届いたら、不安になると思います。
ですが、その連絡自体が偽物ということもあります。
確認するときは、メールやSMSに書かれたリンクからではなく、普段使っている公式アプリや、自分で開いた公式サイトから。
「確認のために認証コードを教えてください」と言われても、渡さないでください。
・知らないログインや利用があれば、パスワード変更だけで終わらせない
ログイン中の端末を確認し、知らない端末があればサインアウトさせる。必要に応じて、すべての端末のセッションを終了する。
復旧用のメールアドレスや電話番号、多要素認証の登録内容、連携しているアプリも確認してください。知らない情報や不審な連携があれば、公式の手順に従って修正・解除します。
ログインできなくなっているなら、サービスの公式の復旧手順へ。
身に覚えのない購入や送金があれば、そのサービスやカード会社、金融機関の公式窓口に連絡してください。
・端末の更新も、後回しにしない
スマートフォンやパソコンのOS、ブラウザ、アプリ。これらの更新も確認してください。
更新を促す知らない広告からではなく、端末の設定や、公式の更新機能から進めてください。
いきなり全部やるのは大変かもしれません。まずは、普段使うメールの設定を見直すところからでも。
こうしてnoteで発信する活動があるからこそ、仕事の詳細を出せなくても、皆さんが手元でできることをお伝えする機会があります。
記事を読んでいただき、応援していただき、本当にありがとうございます。
参考資料
Anthropic：Detecting and countering misuse of AI: September 2026
https://www.anthropic.com/threat-intelligence-report-september-2026
OpenAI：Patch the Planet: global response coordination as agents uncover critical vulnerabilities
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
Google Cloud：Responding to core PHP vulnerabilities CVE-2026-109618 and CVE-2026-109619
https://cloud.google.com/blog/products/identity-security/responding-to-core-php-vulnerabilities-cve-2026-109618-cve-2026-109619/
IPA：インターネットサービスへの不正ログインによる被害が増加中
https://www.ipa.go.jp/security/anshin/attention/2025/mgdayori20250828.html
#AI #生成AI #LLM #LLMエンジニア #セキュリティ #情報漏洩 #個人情報 #パスワード #エンジニアの日常 #ChatGPTCreativeClub
おまけ
今やってる連載は今年の2月には全て書き終えています。
今はそれを細かい修正を加えてだしています。
👇は資料の一部公開しますね
