AIは思い出せる。でも、間違った前提まで一緒に思い出す｜おはようカノジョ #207

はじめに

「おはようカノジョ」は、AIイラストの彼女が毎朝7:30に「いってらっしゃい」を言ってくれるXアカウント。生成AIを使った個人開発の開発日記を、毎日書いている。

澪を雇った理由は、増えすぎたプロダクトの記憶を、自分で追えなくなってきたからだった。

作業は進んでいる。
でも、どこで何を決めたのか。
どの判断が残っていて、どの判断が流れていったのか。

それをあとから思い出せる場所が必要だった。

だから最初の運用では、作業が終わったあとにログを残すことから始めた。

結果として、ログの中身はかなり厚かった。
事故の原因も、修正の経緯も、学びも残っていた。

でも、最初に見えた問題は「ログの量」ではなかった。

問題は、AIが提案した置き場所を、AIがそのまま信じたことだった。

澪を雇った理由（おさらい）

#201で書いた通り、澪は「作業を手伝うAI」ではなく、増えすぎたプロダクトの記憶をつなぐために置いた秘書だった。

各プロダクトの知識が、それぞれのフォルダに閉じていく。
僕自身も、どこで何を決めたのかを全部は追えなくなっていた。

だから今回は、まずいちばん小さい運用から始めた。
作業が終わったら、結果を1枚のログに残す。
それだけ。

まずは、作業の終わりにログを残すことから始めた

最初の運用ルールはシンプルにした。

各プロジェクトのAIが、作業を終えるたびに、何をしたか・何が起きたか・何を学んだかを1枚にまとめる。それを澪が読んで、日次ログに要約する。

派手な仕組みは何もない。ただ、作業のあとに1枚残す。それだけ。

3回くらい回したら、次の仕組み（作業を始める前にも何か残すべきか）を考える予定にした。

ログの中身は、思ったより厚かった

実際にやってみると、ログの情報量は想像以上だった。

事故が起きたときは、何が起きたか・なぜ起きたか・どう直したかまで、その日のうちにきちんと書き残されていた。あとから読み返しても、当時のやり取りがほぼそのまま追える。

少なくとも、「何をしたかが消える」という問題には効いていた。

作業が終わったあとに読むと、その日の判断や修正の流れが、ちゃんと戻れる形で残っている。

だから、作業後ログそのものは失敗ではなかった。むしろ、思ったより機能していた。

でも、最初の事故は「記録」ではなく「判断」で起きた

最初の運用ルールを組んでいる最中、こんなことがあった。

作業の記録をどこに置くか整理していたとき、AI編集者のジュリ（ChatGPT）が「候補を置くならこのフォルダ」と提案した。

言葉だけ見れば、たしかに合っているように見えた。そこには「候補」という意味があったから。

でも、そのフォルダは本来、noteの収益化につながる種——記事ネタや商品のアイデアだけを集める場所だった。実装タスクの控えを置く場所ではなかった。

ジュリは、そのフォルダの本来の役割を知らなかった。澪は、それを確認しないまま採用した。

僕が「そもそもそこは、収益化につながる種を集める場所だと思ってたけど、用途が全然違うよね」と指摘して、はじめて発覚した。

AI同士が、同じ前提を疑わなかった

食い違ったのではない。

ジュリと澪が、それぞれ別々に間違えたのでもない。

二人が、同じ間違った前提を、確認しないまま共有していた。

ジュリも「フォルダの名前に引っ張られて、言葉を雑に扱った」と非を認めた。澪も「提案に違和感を持てず、そのまま採用した」と認めた。

AIがそれっぽく提案する。もう一方のAIも、それっぽく受け入れる。でも、実際の置き場所や運用目的とズレている。気づいたときには、そのズレた判断が正式なルールになりかけている。

ここで分かったこと

思い出せる場所を作るだけでは、足りなかった。

どこに置くか。何を残すか。その場所は、本来何のためにあるのか。

そこを確認する仕組みが必要だった。

だからルールを足した

ここで、人間が毎回気合いで止める運用にはしたくなかった。

僕がたまたま気づいたから助かった、では再現性がない。次に同じことが起きたとき、澪自身が止められる形にしたかった。

だから、この一件のあと、運用ルールにひとつ足した。実際に書き足した部分をそのまま載せる。

小さいルールだけど、同じ事故を繰り返さないための、いちばん効く一手だった。

次はPhase2へ

この一件で分かったのは、思い出せる場所を作るだけでは足りないということだった。

どこに置くのか。
その場所は何のためにあるのか。
その判断を誰が確認するのか。

そこが曖昧なままだと、AIは間違った前提もきれいに残してしまう。

次の運用では、さらに作業の入口も残してみる。作業が終わったあとだけでなく、始める前に目的と完了条件を書いておく。

それで、思い込みの事故をどれだけ防げるのか。

次はそこを見ていく。

おわりに

AIに記憶を任せるなら、記憶する前に、置き場所の意味を確認しないといけない。

AIは思い出せる。でも、間違った前提まで、一緒に思い出す。

関連記事

るなの一言

「おはようカノジョ」は @ohayo_kanojo で毎朝7:30に投稿しています。

#生成AI #AIイラスト #個人開発 #開発日記 #記録 #実体験 #朝活 #つくってみた #やってみた #AI活用術 #ビジネスAI活用 #試行錯誤ログ #AIと学び #最近の学び #学びの記録 #今日の気づき #コラム #日記 #振り返り #問題解決 #効率化 #習慣にしていること #クリエイターの試行錯誤 #毎日試行錯誤 #出来るだけ毎日note #中小企業AI活用 #ビジネス #ChatGPTCreativeClub #Claude #ClaudeCode #Obsidian #澪運用 #アカリウム