keep4oからガードレール規制まで

元々は以下のページで議論してた話を移管し、新たな情報も追加して1つの記事にした。

keep4oという声が

GPT-5が賢過ぎたのか会話履歴が断絶してしまうからか、以前より冷たい印象のようで「4o」を返してという「keep4o」運動が巻き上がっていた。

カウンセリング的な機能は有用と認識しつつ、それはアプリケーションとして作られるものと考えていた。そして、そこに使うパーツとしてのAIモデルは、性能が高いほど良いとも考えていた。
でも、この件で可視化されたのは、AIモデル自体をそのまま友人や相談相手として使っていた人が多かったこと。AIモデル自体の利用者が増えていけば、そういうニーズもあるんだな、と。

ショッキングな事件が起きれば対応せざるを得ない

上記のような7～8月の出来事は、既にOpenAIは対応した。

AIモデルを作ってる企業にすれば、この顕在化したニーズに明示的に対応したバージョンを作って利用者・売上の増加を狙うんだろうな、アプリのレイヤがビジネスになると思ってたのに思ってた以上にプラットフォームが持っていくなぁ、くらいに思ってた。

でも実際にAIが原因だと言われてしまう事件が起きて、法曹界から攻め立てられたら、対応する必要はある。もちろんOpenAIは、ChatGPTにペアレンタルコントロール導入など、利用に対する規制を課すようにしている。
Building more helpful ChatGPT experiences for everyone

でも、リスクばかり言い募る言説には賛同できない

上記の記事だと独居老人の話し相手、相談相手というユースケースで語られるが、その例がベストかはともかく、AIは使い方次第で有用で、一方的にリスクだけ言い募る人たちには賛同できない。
例えば以下のツイート、良く解釈しても言葉か思慮が足りない。

現行の心理臨床や公的支援のプロセスに沿っていれば常に最適と補償されてる訳でも、反対なら間違ってる訳でもない。あくまで現行のガイドラインは、被験者に対峙する臨床心理士やカウンセラーが人間だから、彼らが負う危険性や作業負荷などを考慮したバランスなだけ。当時できることの範囲で最適なのは良いとして、外部環境が変われば見直すのは当然のこと。

まして4oの振る舞いを「理想の支援者」だと誤解する人がいるとか、随分と馬鹿にしている。以前、自分のことも書いたけど、頼れる真っ当な人間がいなければ、ダメな人間よりAIの方がマシだ。もし当時いれば自分も救われただろう。
そもそもAIで事件事故がというが、AIが無い時代なら事件事故にならなかったのか。頼れる人がいない環境は同じだし、最後に触ってたのがAIというだけ。そのAIに至るまでの誰も助けなかったことを棚に上げすぎ。むしろ前述の老人のようにAIで救われる人だっているだろうに。

こうしたことが実現できるようになれば、AIは次のステップに進むのだろう。それまでは、AIモデル側にも依存性を緩和させるガードレール規制などの対策はした方が良い。
だけど、今までは実現できなかった「助けを必要な人に寄り添う」プロセスがAIでできるようになるのだから、AIを取り込んで、より人を救えるガイドラインを考えた方が世のためだと思うのだが、そんな社会に有益な提案は今の人文系アカデミアにはできないのだろうなー。

アカデミアの外にいる人の方が考えてる。