マルチエージェント時代の非構造化データ基盤
本記事は IVRy Advent Calendar 2025 IVRy AIブログリレー Part2 5日目の記事です。昨日は torimizuno さんが「プロダクト中核にAIが組み込まれている現場での、デザイナーの向き合い方」を公開しました。こちらもぜひご覧ください！リレー全体は 「IVRy Advent Calendar」からご覧いただけます。
はじめに
こんにちは。IVRy の Head of Data の大曽根です。好きなギタリストはスティーヴ・クロッパーです。最近は 11/28 に Databricks World Tour 2025 に登壇しました。
本 note ではマルチエージェントの活用のために、登壇でお話しできなかった技術の詳細や動向についての考えを紹介できればと思います。
発表でも紹介していますが、IVRyでは11月に新プロダクト「IVRy Data Hub」をリリースしました。
IVRy Data Hub では現在、Supervisor 型（階層型）のマルチエージェントを採用しています。近年の LLM の発展により、「1つのモデルに質問する」だけでなく、
意図を理解するエージェント
データを検索するエージェント
まとめるエージェント
ワークフローを管理する 管理人エージェント
といった 複数エージェントの協調 が一般化しつつあります。図にも示されるように複雑なタスクは単一LLMでは足りず、複数の情報源やツールを組み合わせる必要があります。データAI エージェント自体が多様なデータソースやツールと連携しながら動作するため、データの扱い方が重要になります。
LLM の進化と非構造化データ処理の可能性
以前は、LLM に入力するトークン長が短く、長い議論や複数日の会話をそのまま読み込むことが困難でした。2024〜2025 年にかけて、LLM が 数十万〜数百万トークンの文脈を扱えるようになったことで、以下の点が改善されています。
長期文脈の保持
Slack の数週間のスレッドや長時間の文字起こしなどを、分割せずに処理できるようになりました。
大域的な構造の理解
議論の変遷、顧客の意図の変化、意思決定の根拠などを文脈全体から捉えることができるようになりました。
前処理工程の削減
従来必要だった細かな分割や複数段の RAG がシンプルになり、変換コストが下がりつつあります。LLM の進化により、「非構造化データの意味を AI が扱える」前提が整いつつあります。
IVRy の Principal AI Engineer のべいえりあさんも「ChatGPT以降の7大事件ランキング」の3位に ロングコンテクストの導入 を挙げています。
非構造化データの価値と難しさ
非構造化データとは、自然言語、画像、音声、動画などの定義済みのスキーマや形式を持たない情報を指し、昨今の AI の発達により扱いやすくなり、活用が進んでいます。
LLM に代表される AI 技術の発展は目まぐるしいものもありますが、インターネットから得られる良質な情報は限りがあります（下記参照）。さらには、LLM をはじめとするAIは、主にインターネットにある公開データが主な学習元です。そのため、AI をそのまま業務の用途に利用すると、その業務特有のデータや文脈をうまく解釈できません。この理由から、企業においてのAI活用では、内部の企業データをうまく活用することの重要性が増しています。
IVRy が扱う通話・メール・Slack などのコミュニケーションデータは、本音や文脈が自然に残る一次データであり、AI 時代における強力な資産となりつつあります。
一方で、IVRy 公式 note でも触れているとおり、AI を効果的に活用するためには AI-Ready なデータ基盤と、文脈を正しく渡すコンテキストエンジニアリング が欠かせません。
IVRy の顧客に蓄積される自然なデータ
IVRy が提供するサービスの特徴的なデータは、「Explicit（明示的）」と「Implicit（暗黙的）」の中間に位置する、自然に残るコミュニケーションデータ です。通話やメール・チャットには、
エンドユーザーの本音
そのときの状況
文脈・背景
意図や感情
といった豊かな情報が含まれており、アンケートや行動ログだけでは得られない示唆を与えます。
一方で「扱うのが難しいデータ」でもある
通信の秘密など 機密性が非常に高い
音声、文字起こし、スレッド、添付、メンションなど形式が多様
文脈依存性が高い
権限管理が複雑
このように、価値がある反面「そのままでは AI に渡しにくい」という構造的課題があります。
コンテキストエンジニアリングとは何か
そこで必要なのが コンテキストエンジニアリング です。LangChain のブログにあるようにAI エージェントは以下のような 複数ソースから“文脈”を取得する必要 があります。
ユーザーの入力
過去の会話
データベース
外部 API
そのタスクに特有の知識
業務固有のメタデータ
Complex agents likely get context from many sources. Context can come from the developer of the application, the user, previous interactions, tool calls, or other external data. Pulling these all together involves a complex system.
これらを整理し、AI が誤解なく推論できる形でまとめて渡す一連の設計思想 がコンテキストエンジニアリングと呼ばれるものです。
しかし、定義が曖昧なデータをそのまま AI に渡すと、誤った分析結果が返ってくることがあります。コンテキストエンジニアリングでは、
どのデータを
どの粒度で
どの順序で
どの表現で AI に渡すか
を精密に設計し、AI エージェントが安定的に振る舞うための「前提条件」を整えることが必要になります。そのためにはセマンティックレイヤーと権限の一元管理が重要になります。
コンテキストを整理するためのセマンティックレイヤー
IVRy ではセマンティックレイヤーの役割を Unity Catalog Metric View に持たせ、AI が理解しやすい形式にしています。
エージェントが扱うべき「業務上の意味」を他のデータベースと連携してオントロジー的に整理します。
権限の一元管理
AI エージェントにも 人間と同様の権限制御が必要です。最近の AI エージェントに関する議論では、「モデルが賢いかどうか」よりも 基盤が整っているかどうか が成功の分かれ目と指摘されています。実際、最近読んだ論文でもこう述べられています。（※論文自体は Agentic な Lakehouse の論文になります）
Most enterprises do not consider agents trustworthy enough to work on production data.
閲覧制御
個人情報の除外
LLM に渡せるレイヤーの制御
監査ログの収集
など、人間が業務するための要件は、AI エージェントにもそのまま適用されます。
おわりに
近年の LLM の発展により、 複数エージェントの協調が可能になったり、LLM のコンテキスト長の進化により、非構造化データを扱いやすくなりました。
しかし、企業での本格的な活用には、データの意味構造化と権限管理、そして安全な運用基盤が不可欠です。IVRyでは引き続き、非構造化データの価値を引き出すためのデータ基盤整備と、AI エージェントによる顧客への価値提供を進めていきます！
特に、IVRy Data Hub のようなマルチエージェント基盤においては参照できるデータ基盤や検索基盤を整備することでより提供価値が増していきます。
AI エージェントを作ったり、検索基盤を整えるなど一緒にIVRy Data Hub を作っていくメンバーを募集していますので興味ある方はぜひご応募ください。
また、IVRyでは、イベントや最新ニュース、募集ポジションなどの情報をお届けするカジュアルなつながり「キャリア登録」をご用意しています。IVRyに少しでもご興味をお持ちいただいた方は、以下のURLよりぜひご登録ください。
採用情報
