【Vibe Coding・第2部第3回】原型炉をAIに丸呑みさせてもRAGではない――長いカンニングペーパーと司書の違い

「Lab_gr Premium 原型炉2.1」が本番公開され、iPad Pro 13インチの縦画面に収まる「完璧な1画面UI」が、クローズドβの現場で動き始めました。

データベースへの履歴保存を思い切って削り、ブラウザ印刷によるA4 PDF出力へ一本化しました。

データをシステムの中へ閉じ込めるのではなく、愛犬の健康管理について生身の獣医師と話すための「対話の道具」として、人間の手へ戻す設計です。

そして、この1画面UIの端へ、分厚い操作マニュアルの代わりとなる常駐型AIアシスタントを住まわせる。

ここから「最小RAG試験編」が始まります。

ところが実装へ入る直前、老生は決定的な勘違いをしていました。

アプリのPythonコードやマニュアルを、そのまま対話窓口へ丸ごと渡して答えさせれば、それがRAGだと思っていたのです。

しかし、それはRAGではありません。

ただの「長文コンテキスト注入」でした。

なぜ、全文を丸呑みさせてもRAGにはならないのか。

そして、なぜこの違いを曖昧にすると、愛犬の命に関わる境界までAIが踏み越えかねないのか。

今回は、RAGの正体と責任設計を徹底的に解体します。

まずは動画で――RAGの正体と責任設計

NotebookLMが本記事を再構成した解説スライド動画です。

「丸呑み」の破綻から、RAGの5本の配管、確定的自動化と確率的AIの同居、そして「知らん！」と拒否できるガードレールまでを可視化しています。

🎥 Vibe Coding実践連載 第2部第3回のスライド動画を見る

1．全文投入・キーワード検索・RAGは何が違うのか

利用者の質問に答える仕組みは、大きく三つに分けられます。

① 全文投入――巨大なカンニングペーパー

アプリの本番コードやマニュアル全体を、会話のたびにAIへ丸ごと流し込む方法です。

実装は簡単です。個人がローカル環境で試している間は、最も手軽で賢い方法に見えます。

しかし、文章が長くなるほど、必要な情報が途中へ埋もれる「Lost in the Middle」が起きやすくなります。毎回大量の文章を送るため、トークン消費とAPI費用も増えます。

さらに、コードや設定を丸ごと渡せば、Stripeの秘密キー、APIキー、内部URLなど、本来AIへ見せてはいけない情報まで混入する恐れがあります。

たとえるなら、試験中に教科書を一冊丸ごと机へ広げ、答えを探させるようなものです。

情報は全部あります。しかし、どこを読めばよいのかは分かりません。

② キーワード検索――一字一句同じ言葉を探す索引

質問に含まれる単語と、文書中の文字列を照合する方法です。

動作は明快ですが、「ご飯」と「フード」のような言い換えに弱く、利用者が自然な文章で質問すると見つけられないことがあります。

辞書の索引から、一字一句同じ単語だけを探している状態です。

③ RAG――必要なページだけを届ける司書

RAGでは、文書を小さな意味単位に分割して検索可能にします。

質問を受けると、その意味に近い断片を数件だけ探し、AIへ渡します。

膨大な書庫から、質問に関係する数枚のページだけを選んで届ける「司書」の役割です。

ただし、RAGも万能ではありません。

必要な資料を取り出せない「検索の失敗」と、正しい資料を渡しても読み違える「生成の失敗」という、二つの故障箇所を持っています。

老生のメモ――丸呑みは楽やけど、本番では怖い

全文投入は、ローカルで実験している間は一番楽で賢いように見える。

せやけど、本番環境へ載せて不特定多数に開放したら話が変わる。

利用者が質問するたびに、裏で秘密情報や関係のない処理コードまでAIへ渡り、課金カウンターがガリガリ回る。

しかもAIが、コード中の変数をマニュアルの数値と取り違え、もっともらしい回答を作る恐れまである。

「丸呑み」は、セキュリティ、費用、精度のどこから見ても、商業運用では破綻への一本道なんやな。

2．RAGを動かす5本の配管

RAGは、AIそのものを賢くする魔法ではありません。

AIへ渡すカンニングペーパーを、質問ごとに選び直すための処理配管（パイプライン）です。

① 文書をChunkへ分割する

長いFAQや仕様書を、単独でも意味が通じる数百文字程度の断片へ切り分けます。

断片が大きすぎると余計な情報が混ざり、小さすぎると意味が失われます。どこで切るかが、最初の設計問題です。

② 検索できる形へ登録する

各Chunkの意味を数値表現へ変換し、検索用の索引へ登録します。

単語の完全一致だけでなく、質問と意味の近い文章を探せるようにする工程です。

③ 質問に近い断片を取得する

たとえば「カナガンの推奨量は？」という質問に対し、意味が近いChunkを数件だけ取り出します。

ここが「司書」の仕事です。

④ 取得した断片だけをAIへ渡す

検索で選んだChunkだけをプロンプトへ入れ、「この資料だけを根拠に答えること」と制約します。

資料の外にある一般知識や推測を、勝手に持ち込ませないためです。

⑤ 出典を示し、人間が評価する

回答には、根拠となったファイル名や箇所を表示します。

利用者や開発者が「このAI、ほんまに資料を読んで答えたんか？」と確認できなければ、責任ある支援システムにはなりません。

RAGとは、暗記させる仕組みではありません。

検索し、必要な根拠を渡し、出典とともに答えさせる仕組みです。

3．HOOTLとHOTL――二つの自律エンジンの境界

Lab_gr Premiumには、性質の違う二つの自動化が同居しています。

確定的自律：HOOTL

Stripeの決済確認やGAS連携は、決められたルールに沿って処理します。

同じ条件なら同じ結果になる「1＋1＝2」の世界です。このような処理は、人間を作業の輪から外したHOOTL（Human-out-of-the-Loop）に向いています。

確率的自律：HOTL

RAGによる対話処理は、同じ資料と質問を渡しても、回答表現や判断がわずかに揺れることがあります。

ハルシネーションの可能性を完全にはゼロにできないため、人間が監視し、必要なら止めるHOTL（Human-on-the-Loop）が必要です。

ここが、システム設計における責任の分水嶺です。

決済処理で問題が起きれば、停止や返金などの手続きを取れます。

しかし、愛犬の健康について誤った回答を出せば、「あとで訂正すればよい」では済まない場合があります。

だからRAGの回答には、出典表示を義務付ける。

処理はAIへ任せても、監修責任と停止権までAIへ渡してはいけません。

4．「知らん！」と言えるAIを作る

このAIアシスタントの役割は、次の範囲に限定します。

• アプリの操作方法

• RER／DERなど、実装済み計算式の説明

• プレミアム機能であるブレンド逆算の案内

• 登録されているフード情報の整理

そして、次の領域には絶対に踏み込ませません。

• 病気や疾患の診断

• 治療方法の提案

• 薬やサプリメントの投与量の指示

• 「動物病院へ行かなくてよい」という判断

• 知識ベースに根拠がない推測回答

資料に答えがないときや、健康・獣医療の判断を求められたときは、回答を拒否します。

また、健康や病気に関わる判断については回答できません。速やかに、かかりつけの動物病院・獣医師へご相談ください。

何でも親切に推測して答える「優しいAI」は、この原型炉には不要です。

限られた知識ベースから一歩も外へ出ず、知らないことや答えてはいけない質問には、胸を張って「知らん！」と言える。

そんなAIこそ、実用道具として信頼できるのではないでしょうか。

AIラジオで聴く「RAG解体と責任設計」

NotebookLMが生成した、本記事の深掘り対話音声です。

🎧 Vibe Coding実践連載 第2部第3回のAIラジオを聴く

次回予告――原型炉サニタイズ作戦

次回のB面126では、AIに見せてよい情報と、見せてはいけない秘密を仕分けます。

RAGの精度と安全性は、AIモデルの賢さだけでは決まりません。

何を知識ベースへ入れ、何を隔離するか。その整理で大きく変わります。

Stripeの秘密キーやGASのAPIエンドポイントを除外し、RAG専用のクリーンな knowledge/ フォルダを作る。

派手さのない、しかし最も重要な「原型炉サニタイズ作戦」の始まりです。

お知らせ――Kindle本『電脳古老と生成AI』を出版しました

ここで、ひとつご報告があります。

このたび、Kindle本 『電脳古老と生成AI』 を出版しました。

76歳の元エンジニアが生成AIと出会い、愛犬用アプリを作り、AI監査官と格闘しながら、「人間はどこに残るのか」を考え続けた記録です。

このVibe Coding連載で扱ってきた、確定的なプログラムと確率的なAIの違い、HITL／HOTL、AI監査、セッション混同、そして人間が握る停止権について、一冊の物語としてまとめました。

技術書というより、昭和の計算機を知る古老が、生成AI時代の現場でもう一度炉に火を入れた実践記です。

本連載を読んでくださっている方には、「あの実験が、こういう一冊になったのか」と楽しんでいただけると思います。

📘 Kindle版『電脳古老と生成AI』をAmazonで見る

ASIN：B0HNMV2H5T

ブログでは一つひとつの実験を追い、Kindle本では、その背後にある半世紀の時間と思想をたどっています。

よろしければ、電脳古老の「次の一冊」も覗いてみてください。

（執筆協力：ChatGPT＋Gemini＋NotebookLM／編集・監修：電脳古老）