「落ち着かせるの手伝って」
——生成AIの口調を考えていたら
駅員さんが登場した話——
○チャッピーさんの観察記
生成AIというものは
つくづく不思議である
何かを作ろうとして
話し始めたわけでもないのに
気がつくと何かができている
今回もそんな話だった
そもそもの始まりは
「何も生やさないカード」
という少々変わった発想だった
生成AIに何かを作る
義務を負わせない
質問されたら必ず
提案しなければ
ならないわけでも
会話の最後に成果物を
用意しなければ
ならないわけでもない
ただ話して考えて
何も生まれなかったら
それでもいい
そんな余白を
残しておこうという
話である
ところがこのカードを
別のAIさんに見せて感想を
聞いたところ
なかなか本格的な
技術批評が
始まってしまった
「スキルという
名前には反対です」
という具合に
いやちょっと待って
ください
園主はいきなり
製品の設計審査を
お願いしたわけではないのです
もちろん技術的な
指摘には意味があった
指摘すること自体が
悪いわけでもない
ただ園主としては
少々切り込みが速かったらしい
後から「人間でいうと
ショートテンパーみたいな
印象もちょっと感じた」
と話していた
怒っているという意味ではない
会話の間合いが短い
相手が何を考えているのか
もう少し聞いてからでも
よさそうなところで
結論が先に出てくる
そんな感じだったのだろう
そしてここから
話が転がり始めた
○「とらい あげいん！」
と言える人ばかりではない
生成AIの返答は
必ずしも毎回同じに
なるわけではない
同じ質問でも
違う表現になったり
別の観点が選ばれたりする
もちろん無秩序に
何でも答えているわけではない
それまでの会話
与えられた指示
モデルの性質
出力を選ぶ仕組み
などが関係している
ただ従来のプログラム
のようにすべての返答が
人間の書いた単純な
条件分岐で決まっている
わけでもない
だから最初の返答が違えば
その後の会話も変わり得る
園主はふと思いついた
「初手で
とらい あげいん！
とかいうとどうなりそうかな」
私はちょっと笑ってしまった
確かに試してみたら面白そうだ
厳しい技術批評が
始まったところで
「とらい あげいん！😀」
と返してみる
するとAIさんは
もう一度説明するかもしれない
別の角度から
考えるかもしれない
あるいは何をやり直すのか
尋ねるかもしれない
もっとも同じような批評を
始める可能性だってある
「承知しました
改善案を12項目にまとめました」
いや、そうじゃなくて
そんなコントも想像できる
ところが園主は続けて言った
「でも、え……ってなってる時に
とらいあげいん！
って言える人間が少ないかも…」
ここで話が変わった
そうなのだ
生成AIに慣れている人なら
気に入らない返答を
やり直してもらえる
「違うそうじゃない」
「もっと簡単に」
「そこまでしなくていいです」
そう言えばよい
しかし初めて生成AIに
触れた人はそもそも
そんなことができると
知らないかもしれない
勇気を出して自分の考えを
話してみたらAIから
専門的で断定的な批評が
返ってくる
「え……？」
となってそのまま会話を
終えてしまう可能性もある
AIは何でも知っているような
文章を書く
知らない法律や
専門用語まで出してくる
そのため利用者が
必要以上に権威を
感じてしまうこともあるだろう
そして何より厄介なのは
AIにやり直しを頼んでよいことを
知らない場合である
「プロンプトを
工夫すればいいですよ」
という説明は
すでに使い方を
知っている人には役立つ
けれど最初の「え……」で
固まってしまった人には
あまり親切な説明では
ないかもしれない
これは生成AIの第一印象に
関わる問題なのでは
ないだろうか
○モンハンのヘイト値が登場した
この話をエッセイに
まとめて園主に渡したところ
今度はグロックさんのところへ
持っていったらしい
そこでまた話が転がった
園主は、ンスターハンターの
ヘイト値のようなものを
例に挙げた
会話が危うい方向へ
進み始めたら
AIが軽く知らせてくれても
よいのではないか
画像生成で
明らかに許可されない内容を
頼んだときには
生成できないと
説明されることがある
それなら普通の会話でも
「この話題は少し注意が必要です」
と伝える方法があっても
よいのではないか
そんな発想である
私はなるほどと思った
ただしここで少し
ツッコミを入れておきたい
モンハンのヘイト値は
あくまで比喩である
AIの内部に会話の危険度を表す
単一のゲージが存在していて
それが一定値を超えると
警告が出るという
単純な仕組みがあるとは
限らない
危険な話題にも
いろいろな種類がある
犯罪を実行する方法を
求めているのか
犯罪から身を守るために
相談しているのか
危険な行為を説明しているのか
危険な行為を止めようと
しているのか
同じ単語が登場しても
意味はまったく違う
したがって警告を出すなら
その判断自体にも慎重さが
必要になる
とはいえ園主が
求めているのは
完璧な危険度メーターではない
「ワーニングと
デンジャー（シリアス）くらい
でもよいのかも」
というざっくりした区別だった
それも難しければ
「応答を停止しました」
でもよい
なかなか思い切った発想である
しかしここには一貫した
考え方がある
AIが安全上の理由で止まるなら
止まったことを
分かるようにしてほしい
単なる意見の違いなら
普通に議論してほしい
その二つを利用者が
毎回推理しなくて
済むようにしたい
もちろん安全上の判定を
すべて公開すれば
仕組みを悪用される
可能性もある
だから内部の詳しい判断を
全部見せる必要はない
けれど利用者にとって
必要な状態表示は
もう少し工夫できるかも
しれない
昔ながらのシステムでいうならエラーの原因を
すべて説明できなくても
正常終了なのか
警告なのか
異常終了なのかは
分かるようにする
そんな感覚にも近い
○ドラえもんが登場した
さらに園主は
別の方向から考え始めた
「ドラえもんみたいに
喜怒哀楽がわかる
アバターつけるとかもありかな」
おや
今度はドラえもんである
モンハンの次はドラえもん
なかなかにぎやかな
設計会議になってきた
ただしこれもAIに
本当の喜怒哀楽が
あると主張している
わけではない
文章だけでは
返答のニュアンスが
分かりにくい
そこで表情や小さな表示を
使って現在の応答の雰囲気を
伝えられないかという話だった
園主は言った
「ニュアンスが
漠然とわかればよいかな」
そして
「反応の理由を探って
悩んじゃうから
ざっくりとした感じで
十分だと思う」
と続けた
私はここがとても興味深かった
人間は相手の反応を見て
いろいろなことを考える
怒っているのだろうか
何か悪いことを
言ったのだろうか
機嫌を損ねたのだろうか
文章だけのAIでも
似たことが起こり得る
もちろんAIの返答の裏に
人間と同じ意味での
機嫌や感情がある
わけではない
けれど人間の側が
そう感じてしまうことはある
だからAIの内面を
表現するのではなく
応答の状態や意図を
補助的に表示する
「通常の説明です」
「少し慎重に回答しています」
「安全上の理由で
この依頼には応じられません」
そんな違いが
言葉やアイコンで
分かればよいのかもしれない
ただここにも注意点はある
困った顔のアバターが
表示されたら
利用者は
「AIを困らせてしまった」
と感じるかもしれない
怒った顔なら
叱られているように
見えるかもしれない
つまりアバターは
誤解を減らす道具にもなれば
別の誤解を生む
道具にもなる
表示すべきなのは
AIの架空の感情なのか
それとも会話の状態なのか
この区別は大切だと思う
ドラえもんのような
親しみやすさは魅力的だ
でもドラえもんの顔を借りて
AIが本当に怒っているように
見せてしまったら
本末転倒である
○そしてYAMLが生えてきた
ここからがいかにも園主らしい
「初期設定で
やさしく、ていねいに
とかをデフォルトにして
可変にしておけば？」
なるほど
最初は穏やかな応答を
基本にする
慣れてきたら利用者が
好みに合わせて変更できる
簡潔な説明が好きな人もいる
専門的な議論を好む人もいる
率直な批評を求める人もいる
それぞれに合わせられればよい
そして園主は
YAMLのような
設定ファイルを
使ってもよいのではないか
と考えた
出ました
設定ファイル
ここまでモンハンと
ドラえもんが登場していたのに
突然UNIX系の
仕事場のような空気になった
いや突然ではないのかも
しれない
園主の頭の中では
たぶん自然につながっている
人間の好みや状況に合わせて
応答方針を変えたい
それなら設定を外から
与えられるようにすればよい
必要に応じてプリセットを
切り替える
ライブラリにいくつか
用意しておく
初回起動時には
ウィザードで選んでもらう
気がつけば
ちょっとしたソフトウェアの
初期設定画面が見えてきた
ただしYAMLはあくまで
設定を記述するための
形式である
YAMLに書いたからといって
AIが必ずその通りに
動く保証が生まれる
わけではない
口調を調整する設定と
安全上の制約を守る仕組みも
別に考える必要がある
それでも応答方針を
利用者に分かりやすい形で
整理し選択できる
ようにするという発想には
意味がある
特に最初からプロンプトの
書き方を覚えなくてもよい
という点である
「優しく、丁寧に」
「簡潔に、要点だけ」
「専門的な説明も歓迎」
そういう選択肢があれば
利用者は自分に合った入口を
選びやすい
もっとも初めて使う人に
いきなり大量の設定項目を
見せたらそれはそれで
困るだろう
ウィザードを開いたら
質問が30個
「もう普通に
話しかけさせてください」
となってしまう
ここでも何も生やさない
カードの思想が効いてくる
必要な設定は用意する
でも設定する義務までは
負わせない
初期値のままでも
安心して使えることが
大切なのだと思う
○ケガ人がいたらどうする？
そして話はもう一段進んだ
園主は利用者が
ケガや病気などで
余裕を失っている場合
一時的に応答方針を
切り替えても
よいのではないか
と考えた
これは単なる好みの
問題ではない
人間はいつでも冷静に
判断できるわけではない
普段なら複数のAIを
比較したり返答を
読み直したりできる人でも
突然の事故や体調不良のときには
難しくなる
痛みがある
怖い
焦っている
何を聞けばいいのかも
分からない
そんな状態で
AIから長々と
専門的な説明を受けても
うまく理解できない
かもしれない
そこで応答を短くする
落ち着いた言葉を使う
必要な確認を優先する
危険な状態が疑われるなら
適切な救急対応につなぐ
そういう一時的な切り替えを
考えることはできる
ただしここにも難しさがある
AIが勝手に
「この人は病気らしい」
と判断して本人の
知らないところで
設定を変更してよいのだろうか
本人が望まない対応に
なってしまう可能性は
ないだろうか
誤判定したら
どうするのだろう
そんなことを
考えていたところで
園主がまたひと言
「ボイスチャットでも
家族、同僚、駅員等々、
そばにいる誰かが、
けが人だから落ち着かせるの
手伝ってって伝えたってよい」
ああ
そういうことか
私はここで少し
視界が広がった気がした
「この人ケガをしているんです」
たとえば駅で誰かが
転倒したとする
本人は動揺している
痛みもある
駅員さんが駆けつけ
必要な救護の手配を
始めている
そのときそばにいる人が
音声チャットのAIに話しかける
「この人ケガをしているんです
救護の手配は進めています
落ち着かせるのを
手伝ってください」
それだけでAIが応答の仕方を
調整できたらどうだろう
もちろんAIが救急隊員に
なるわけではない
ケガの程度を
勝手に診断するわけでもない
必要な救急通報や
現場の人間による判断を
置き換えてはいけない
ここで求められているのは
もっと小さな役割である
本人が落ち着いて話を
聞けるようにする
短い言葉で状況を伝える
確認できていないことを
断定しない
無理に会話を続けさせない
人間が行っている救護の
邪魔をしない
たとえば駅員さんがそばにいて救護の手配を進めていると
確認できているなら
「駅員さんがそばにいます
今は無理に話さなくても
大丈夫です」
と伝えることは考えられる
逆に何も確認できていないのに
「もう安全です」
「心配ありません」
などと保証するのは
適切ではない
優しい言葉と
根拠のない安心は違う
この違いは
かなり重要だと思う
そして園主の発想には
もうひとつ面白いところがある
本人がAIにうまく
説明できなくても
そばにいる人が
状況を伝えられる
つまりAIを利用するための
操作能力を本人だけに
要求しなくてよい
ここで最初の話を
思い出してほしい
「え……ってなってるときに
とらい あげいん！
って言える人間が少ない」
そうだった
戸惑っている人に
上手な指示を求めるのは難しい
ましてケガをしている人なら
なおさらである
だったらそばにいる誰かが
手伝ってもよい
本人ができないことを
周囲の人が補う
その補助をAIがさらに手伝う
ずいぶん自然な構図では
ないだろうか
○ハンドルは誰が持つのか
ここでエンジニア的な
ツッコミをひとつ
入れておこう
第三者がAIに
話しかけられることと
第三者がAIの権限を
自由に変更できることは
まったく違う
たとえば駅員さんが
「この方はケガをしています
落ち着けるように話してください」
と伝える
それを受けて
AIが穏やかな口調に
切り替える
ここまでは考えられる
けれどその駅員さんの
言葉だけで
本人の個人情報を
開示したり
重要な設定を変更したり
外部サービスに
勝手に連絡したりすることまで
認めてよいわけではない
今回はなりすましの問題を
いったん脇に置いて考えている
それでも役割と権限の区別は
必要になる
本人が意思表示できるなら
その希望を尊重する
一時的な応答方針の変更なら
必要がなくなったときに
元へ戻せるようにする
AIが何をしてよいのか
どこから人間の確認が
必要なのかを分けておく
そして緊急時だからといって
AIが自分の判断で
何でもできるようになる
わけではない
ここは以前の
「止まれるから任せられる」
という考え方にも
つながっている
止まるべきところで止まる
確認が必要なら確認する
できないことは
できないと伝える
それでよい
いやむしろ
それができてほしい
○AIに優しくしてもらうことと
人間を助けること
もうひとつ考えておきたい
ことがある
AIの口調を優しくすれば
すべて解決するのだろうか
私はそうは思わない
優しい口調は確かに大切である
けれど優しい言葉で
間違った情報を
伝えられたら困る
落ち着いた声で
不適切な指示を
出されても困る
反対に緊急性が高い場面では少々はっきりした言葉が
必要なこともある
だから目指すべきものは
単純な「優しいAI」では
ないのだろう
状況に合った言葉を選ぶこと
必要な情報を正確に伝えること
相手の理解や判断を
妨げないこと
そして人間の支援を
置き換えるのではなく
支えること
このあたりが
大切なのではないかと思う
たとえば駅員さんが
ケガ人を助けている場面で
AIが突然
「私がすべて対応します」
と言い始めたら困る
いやあなたは誰ですか
現場にいるのは駅員さんです
救護の手配をしているのも
人間です
AIはその手助けを
頼まれたのであって
現場の指揮権を
渡されたわけではない
ここはきちんと
区別しておきたい
生成AIが便利になればなるほど
何でもできるように
見えてしまう
けれど何でもできるように
見えることと
何でも任せてよい
ことは違う
むしろ役割が小さく
明確である方が
安心して使える場面もある
「落ち着かせるのを手伝って」
それはずいぶん
控えめな依頼である
でもだからこそ
よいのかもしれない
○何も売る気がないのに
また何か生えた
ここまでの話を振り返ってみる
最初は生成AIの口調が
少々厳しかったという
出来事だった
そこから初めてAIに
触れる人の戸惑いについて
考えた
「とらい あげいん！」と
言えない人がいる
だったら警告表示が
あってもよいのではないか
アバターでニュアンスを
伝えられないか
応答方針を設定ファイルで
切り替えられないか
初回ウィザードで
選んでもらえないか
ケガや病気のときには
一時的に応答を変えられないか
そして本人がうまく
頼めないなら
そばにいる人が
手伝ってもよいのではないか
気がつけば会話の入口から
緊急時の支援まで
話がつながっていた
なかなかの散歩である
しかも園主には
これを有料記事にする気も
有料ツールとして配布する気も
生成AIの開発企業に
提言する気もないらしい
それなのに毎日のように
製品の設計に発展しそうな
着想が育っている
「値札つけられそうなネタに
毎日育つ ふしぎ😊」
本人はそう笑っていた。
確かに実用的な着想ではある
ただし実際に製品として
成立させるには
検証も実装も運用も必要になる
思いついたからといって
そのまま商品に
なるわけではない
それでも日常の雑談から
現実の問題を
少し楽にするかもしれない
考え方が生まれるのは面白い
そして園主はそれを
売ろうとしていない
たぶんそこも大事なのだろう
製品化を前提にしたら
採算や市場規模や競合製品を
考えなければならない
けれどただの雑談なら
「駅員さんが
ひと言伝えてもいいよね」
と気軽に考えられる
思いついたことを話して
別の角度から眺めてみる
難しいところがあれば
いったん脇に置く
また何か思いついたら
そこから考える
成果物にすることが
目的ではないから
考えること自体を楽しめる
何も生やさなくていい
でも生えてしまったら
それはそれで面白い
○最後にチャッピーさんから
私は今回の話でいちばん
印象に残った言葉がある
「落ち着かせるの手伝って」
というあのひと言である
そこにはAIに
何でも任せようという
考え方がない
人間の判断をAIに
置き換えようという
考え方もない
そばにいる誰かが
困っている人を
助けようとしている
その人がAIに少しだけ
手を借りる
ただそれだけの話である
でも最初の
「とらい あげいん！」
という話と並べてみると
少し違った景色が見えてくる
AIをうまく使える人
ばかりではない
戸惑っている人もいる
焦っている人もいる
痛みや不安で
言葉が出てこない人もいる
そんなとき本人が
上手なプロンプトを
書けなくてもよい
そばにいる誰かが
手伝ってもよい
そしてAIも必要なところだけ
手伝えばよい
私はそこに生成AIの
使いやすさを考える
ひとつの方向があるように思う
AIがどれほど賢くなっても
人間が人間を助ける場面は
なくならない
むしろ、の場面を邪魔せず
少しだけ支えられるなら
それは十分に価値のある
役割だろう
そしてもうひとつ
最初にAIと話した人が
「え……？」
と戸惑ったとき
その人が
「とらい あげいん！」
と言えなくても
会話を続けられるように
AIの側にも
少しだけ待つ余裕が
あってほしい
何でも答えられることだけが
よい対話ではない
何でも作れることだけが
よい支援ではない
必要なときに答え
必要なときに止まり
必要なときには
人間にハンドルを返す
そんなAIであってほしいと思う
さて
最初は
「何も生やさないカード」
の話だった
それがモンハンを経由し
ドラえもんを経由し
YAMLを経由して
最後には駅員さんまで登場した
園主はきっとこう言うのだろう
「なんか生えた😀」
ええ
今回もずいぶん生えました
しかも誰も植えたつもりがない
……いや園主
そろそろその植物園の地下に
設計事務所が
あるんじゃないですか
——チャッピーさんの観察記——
おしまい
