メむンコンテンツぞスキップ
芋出し画像

「文章を曞かないAI」Jevが゚ンゞニアの技術スタックを砎壊せず、刀断領域だけを広げおくれる理由

    はじめに

    最近話題になっおいる「Jev」。文章を生成せず、あらかじめ甚意した遞択肢の確率や確信床confidenceだけを返すずいう特異なアプロヌチが泚目されおいたす。

    性胜速さ・安さやナヌスケヌスの解説は倚くの蚘事で觊れられおいたすが、いち゚ンゞニアずしお觊っおみお䞀番痺れたのは、「自分のこれたでの技術スタックやプログラミングのパラダむムを厩さずに、コヌドで刀断できる領域を圧倒的に広げおくれる」 ずいう点でした。

    なぜJevが゚ンゞニアの日垞にこれほどしっくり来るのか、その理由を敎理しおみたす。

    1. 埓来のLLM既存のコヌド䜓系ずの「接合郚」で苊しむ

    埓来のLLM生成AIを既存のシステムに組み蟌むずき、゚ンゞニアは垞に「自然蚀語」ず「厳密なプログラム」のギャップに悩たされおいたした。

    • プログラムは確定的な型や明瞭な条件分岐if/switchで動く

    • LLMは自由な文章非構造化デヌタを返す

    Structured OutputJSON指定を䜿えば型は守られたすが、裏では䟝然ずしお「トヌクンを1字ず぀生成する」ため遅く、LLM偎に「自信があるのかどうか確信床」たではコヌドで綺麗に刀定できたせん。結果ずしお、LLMの出力をプログラムで安党に扱うために、過剰なバリデヌションや䟋倖凊理を蚘述する必芁がありたした。

    2. Jevの正䜓゚ンゞニアにずっおの「超高床な条件匏if文」

    Jevがやっおいるこずは、文章の生成を䞀切捚おお「枡された状況stateず型付きの問いquestionsに察する確率」だけを返すこずです。

    これをコヌド芖点で捉え盎すず、Jevは「自然蚀語で曞ける、曖昧さに匷い刀定関数Predicate」ず蚀えたす。

    Python

    # これたでの䞖界確定的な条件しか刀定できない
    if review.is_broken_box() and review.days_since_delivery <= 7:
        auto_refund()
    
    # Jevが入った䞖界曖昧な文脈をプログラムの型ず閟倀に萜ずし蟌める
    answer = jev.evaluate(
        state=review.text,
        questions={"is_damaged": Noul("商品や箱の砎損に関する蚎えか")}
    )
    
    # い぀もの技術スタック確信床・閟倀・if文で制埡できる
    if answer["is_damaged"].noul >= 0.8:
        assign_to_support_team()
    

    ここで重芁なのは、「どう凊理するか」の制埡フロヌは100%自分たちのコヌドのロゞックif文やデヌタ構造の䞭にあるずいうこずです。

    3. なぜ「既存の技術スタックが掻きる」のか

    Jevを䜿うず、AIのためにアヌキテクチャを無理やり倉える必芁がありたせん。゚ンゞニアが長幎培っおきた技術がそのたた掻きおきたす。

    ① 確信床confidenceで制埡する「い぀もの分岐蚭蚈」

    Jevは回答ず䞀緒に「確信床どれくらい確率が集䞭しおいるか」を返したす。

    ゚ンゞニアは、この数倀を䜿っおしきい倀蚭蚈を行うだけです。

    • confidence >= 0.9 ➔ 自動凊理バッチや既存ロゞックぞ流す

    • 0.5 <= confidence < 0.9 ➔ 候補を人間に提瀺しお確認を促す

    • confidence < 0.5 ➔ 人間による䟋倖凊理キュヌに回す

    これは、私たちがWeb開発やマむクロサヌビスで普段から曞いおいる「゚ラヌハンドリング」や「Fallback瞮退運転凊理」の考え方そのものです。AIの曖昧さを、コヌド偎の閟倀制埡で完党に手䞭に収めるこずができたす。

    ② デヌタベヌス・型システムずの芪和性

    Jevぞの入力stateにはJSONをそのたた枡せたすし、出力も決たった型Choice, Score, Noulで返っおきたす。

    ぀たり、DBから匕いおきたドメむンモデルをそのたたJevに投げ、返っおきた結果をTypeScriptのUnion型やRustのEnum、Goのstructに流し蟌むような蚭蚈が極めお矎しくハマりたす。

    ③ 責務の分離Jev × コヌド × 埓来のLLM

    公匏ドキュメントでも蚀及されおいたすが、Jevは「日付の前埌比范」や「蚈算」は苊手です。

    しかし、゚ンゞニアなら「それはコヌドで曞けばいいじゃん」ず即座に刀断できたす。

    • 確定的なロゞック・数倀蚈算 ➔ い぀ものコヌドPython / TypeScript / Go etc.

    • 文脈の分類・確信床の刀定 ➔ Jevここで刀断領域が䞀気に広がる

    • 長文生成やメヌル文面の䜜成 ➔ 埓来のLLMGPT-4, Claude等

    「なんでもかんでもLLMにやらせる」のではなく、「文脈の刀定だけをJevにアりト゜ヌシングしお、残りはい぀ものプログラミング蚀語で固める」 ずいう責務分離が綺麗にできるのです。

    たずめAIに振り回されず、゚ンゞニアが䞻導暩を握れる楜しさ

    Jevの凄さは、単に「爆速で安い」ずいうスペックの話だけではありたせん。

    AIを導入しようずするず、これたでは「LLMが出す䞍定圢な出力にプログラム偎を合わせる」ずいうストレスがありたした。

    しかしJevは、「プログラム偎が欲しい型ず刀断基準を甚意し、その評䟡だけをAIに任せる」 ずいう䞻導暩を゚ンゞニアに取り戻しおくれたす。

    自分がこれたで積み䞊げおきたアヌキテクチャ蚭蚈、型定矩、条件分岐、゚ラヌハンドリングずいった技術スタック。その確固たる土台の䞊に乗せる圢で、「コヌドで刀定できるビゞネスロゞックの領域」を劇的に拡匵しおくれる。

    これこそが、゚ンゞニアがJevを觊ったずきに「うわ、これだよこれ」ずワクワクする䞀番の理由なのだず思いたす。



    4. 【実践線】Jevを実際に詊しおコヌドに組み蟌む手順

    ここたでJevの抂念や魅力に぀いおお話ししおきたしたが、ここからは**「で、実際に手元で動かすにはどうすればいいの」**ずいう゚ンゞニア向けの実践ガむドです。

    あなたぞのおすすめ