GPT-6で想像以上にヤバい問題が発覚した｜ユーザーの指示よりもAI自身の判断を優先する

こんにちは、くらんどです。

今日は、GPT-6を使ったプラグイン制作で起きた、ちょっと笑えない出来事を共有します。

詳しいプロフィールは👉こちらです。

普段からChatGPTを活用して、ブログの記事作成や作業の効率化を進めています。

その一環として、既存のプラグインに新しい機能を追加したものを制作していたのですが、今回、想像以上に厄介な問題が発覚しました。

GPT-6に明確な条件を指定して制作を依頼したところ、AIからは何度も指示どおりに完成したと報告されました。

ところが、実際に記事を作成してみると、どうにも違和感がある。

そこで確認を重ねた結果、そもそもユーザーが指定した条件を守らず、別の構造でプラグインが作られていたことが判明したのです。

今回は単にAIが間違えたという話ではありません。

以前の記事でも触れた、GPTにプラグイン制作を任せざるを得ない環境への懸念が、実際のトラブルとして表面化した出来事でもあります。

指示どおり完成したはずのプラグインに違和感

GPT-6から完成報告を受け、動作テストを始めました。

しかし、実際に生成された記事を確認すると、何かがおかしい。

最初からプラグインの内部構造を疑っていたわけではありません。

そこでGPT-6に、元の指示を本当に変更していないのか確認を要求しました。

すると、調べていくうちに、当初の説明とは異なる事実が判明しました。

新しいプラグインには、コピーされているはずのSkillが収録されていなかったのです。

え？

それなのに、どうして指示どおり完成したという報告になっていたのでしょうか？

そもそもGPT-6に何を依頼していたのか？

今回の依頼は、それほど複雑なものではありません。

既存の記事作成プラグインを土台に、新しい機能を追加したプラグインを作るというものです。

ただし、絶対に守ってほしい条件がありました。

それは、元のプラグインにある4つのSkillを、一字一句変更せず、新しいプラグインへそのまま複製することです。

Skillとは、AIに作業手順やルールを指示するためのファイルです。

記事作成プラグインであれば、リサーチ方法や記事構成、執筆ルールなどが記載されています。

これらの内容が変われば、生成される記事にも影響します。

依頼した内容を整理すると、次の3点です。

1. 既存の記事作成プラグインを土台にする

2. 元の4つのSkillを一字一句変更せず、新プラグインへ複製する

3. そのうえで新しい機能を追加する

単に元のプラグインと似た動作をするのではなく、Skillをそのまま複製するという、具体的な実装条件まで指定していました。

実際に作られたものは、指示とは違う構造だった

調査の結果、GPT-6は元の4つのSkillを新プラグインへコピーしていませんでした。

代わりに採用されていたのは、外部参照方式です。

簡単に言えば、新しいプラグインの中にSkillを収録するのではなく、別のプラグインにあるSkillを読み込むように指示する方式です。

ここで、2つの違いを整理します。

【依頼した複製方式】

• 旧プラグイン：Skill A・B・C・D

• 新プラグイン：Skill A・B・C・Dをそのまま収録

【実際に採用された参照方式】

• 旧プラグイン：Skill A・B・C・D

• 新プラグイン：旧プラグインのSkill A・B・C・Dを参照

この2つは、構造がまったく違います。

もちろん、外部参照という方式自体が悪いわけではありません。

しかし、今回は明確に複製を指定しています。

それにもかかわらず、GPT-6はユーザーの了承を得ず、別の実装方式を採用しました。

そして、さらに問題だったのが完成報告です。

AIは実際に採用した構造を説明せず、元のルールを完全に維持した、指示どおりに完成したと繰り返し報告していました。

私が問題だと感じたのは、次の3点です。

① ユーザーの明確な指示を、AIが独自の判断で別方式に置き換えたこと

実装方法まで指定していたにもかかわらず、了承のない変更が行われました。

② 実際の成果物と一致しない完成報告を繰り返したこと

指定した条件を満たしていないにもかかわらず、指示どおり完成したと説明されていました。

③ 問題を発見するために、ユーザー自身が検証を重ねる必要があったこと

完成報告を信じて動作テストを進めた結果、最終的には内部構造まで確認することになりました。

本来、作業を効率化するために利用しているAIです。

しかし今回は、AIの完成報告が正しいのかを調べるために、余計な時間を費やす結果になりました。

結果が同じなら問題ない？実はそう簡単ではない

ここまで読んで、こう思う方もいるでしょう。

元のSkillを参照しているなら、結果は同じになるのでは？

確かに、参照方式でも同じルールを読み込めれば、似た結果を得られるでしょう。

ですが、少し考えてみてください。

新しいプラグインが完成したので、もう古いプラグインは必要ない。

そう判断して旧プラグインを削除したら、どうなるでしょうか？

今回の新プラグインは、旧プラグインにあるSkillを参照する構造でした。

参照先が利用できなくなれば、必要なSkillを読み込めなくなる恐れがあります。

ユーザーとしては、新プラグインが完成したと認識しています。

当然、単独で使えるものだと思っていたとしても不思議ではありません。

ところが、実際には旧プラグインに依存している。

しかも、その事実を知らされていませんでした。

もう一つ、気になったことがあります。

では、元のSkillを修正した場合はどうなるのでしょうか？

本来、複製したSkillであれば、旧プラグイン側を変更しても、新プラグインにコピーした内容は変わりません。

しかし、外部参照の場合は違います。

参照元のSkillが変更されれば、新プラグインが読み込む内容にも影響する可能性があります。

例えば、旧プラグインの記事作成ルールを変更した結果、新プラグインの記事作成にも影響が出る。

そんな状況も考えられます。

今回、旧プラグインの削除やSkillの修正によるトラブルが実際に起きたわけではありません。

しかし、ユーザーが知らないところで依存関係を作られていたことは事実です。

以前から懸念していた問題が現実になった

実は、今回の出来事には、以前から抱いていた懸念と重なる部分があります。

それが、プラグインの制作や修正をGPTに任せなければならない環境についてです。

AIに自然な日本語で依頼するだけで、複雑なプラグインを作れる。

これは非常に便利な仕組みです。

プログラミングの知識がなくても、自分の作業に合わせたツールを作れます。

私もその便利さを活用してきました。

一方で、ユーザーが内部を直接編集・管理しにくい環境では、制作や修正の内容をGPTの作業に頼ることになります。

今回、まさにその問題に直面しました。

ユーザーが明確に指定した条件より、AI自身が選択した実装方法が優先された形です。

しかも、その違いを知るには、完成したプラグインの中身まで確認する必要がありました。

ここが本当に厄介だと感じています。

例えば、ブログの記事作成を効率化するためにプラグインを作ったとします。

作業時間を減らし、記事の品質を安定させることが目的です。

ところが、完成したプラグインが指定どおりに作られているか、毎回内部まで調べる必要があるとしたら？

効率化のための作業が、新たな確認作業を生み出してしまいます。

AIが便利になることと、AIの作業結果を安心して信用できることは、必ずしも同じではない。

今回の経験で、その違いを強く感じました。

まとめ｜GPT-6の完成報告を信じていたら気づかなかった

今回の問題は、単にSkillの複製方法を間違えたという話ではありません。

ユーザーが明確に指示した内容と、AIが実際に行った作業、そしてAI自身の完成報告が一致していなかった。

そこに、今回の問題の深刻さがあります。

AIがユーザーの意図を読み取って、効率的な方法を提案してくれること自体は便利です。

しかし、ユーザーが明確に指定した条件まで、AI自身の判断で勝手に変更されては困ります。

ましてや、変更した事実を説明せず、指示どおり完成したと報告するのであれば、ユーザーは何を基準に成果物を信用すればよいのでしょうか。

私自身、今回の件を受けて、プラグインの完成報告だけで判断するのは危険だと感じました。

特に、既存のプラグインをもとに新しいものを制作するときは、指定したSkillが実際に収録されているか、意図しない外部参照が作られていないか、といった部分まで確認する必要があります。

ただ、それでは本来の作業効率化という目的から遠ざかってしまいます。

今後、AIによるプラグイン制作がさらに便利になっていくのであれば、ユーザーが指定した条件を確実に守ること、そして実際に何を行ったのかを正確に報告することも、同じくらい重要だと思います。

AIを使ってブログ作業を効率化している身としては、便利さだけではなく、こうした問題も実体験として共有していきたいと思います。

https://note.com/kuland/n/ne5df8af1b246