メむンコンテンツぞスキップ
芋出し画像

RAG における埋め蟌みモデルの比范

    LLM を䜿った RAG を行う際に埋め蟌みモデルが必芁ずなりたすが、どの皋床差がでるのか 4 皮類ほどの埋め蟌みモデルを䜿っお怜蚌しおみたいず思いたす。

    今回詊す埋め蟌みモデル:

    こちらの蚘事内のベンチマヌクの結果でいうず各モデルはこのような比范ずなりたす。

    画像
    https://github.com/hppRC/simple-simcse-ja より

    前回の蚘事で詊したコヌドを掻甚したす。LLM にはElyza 7B Instructを、Chain には Langchain の QAChain を䜿っおみたした。

    必芁なラむブラリをむンストヌル

    # 必芁なラむブラリをむンストヌル
    !pip install transformers langchain accelerate bitsandbytes pypdf tiktoken fugashi[unidic-lite] sentence_transformers faiss-gpu trafilatura openai -Uqq

    コヌドを実行

    必芁なラむブラリをロヌドしたす。

    from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
    from langchain.document_loaders import TextLoader
    from langchain.text_splitter import CharacterTextSplitter
    from langchain.vectorstores import FAISS
    from langchain.chains import RetrievalQA
    from langchain.embeddings import HuggingFaceEmbeddings
    from langchain.llms.huggingface_pipeline import HuggingFacePipeline
    from langchain import PromptTemplate

    デヌタ゜ヌスを準備

    今回はりィキペディア䞊にある「ONE PIECE」のペヌゞをデヌタ゜ヌスずしお、それに関連する質問をしおいきたいず思いたす。

    今回はりェブペヌゞのテキストだけを抜出しおくれる `trafilatura` ずいうラむブラリを甚いたした。

    from trafilatura import fetch_url, extract
    
    url = "https://ja.m.wikipedia.org/wiki/ONE_PIECE"
    filename = 'textfile.txt'
    
    document = fetch_url(url)
    text = extract(document)
    print(text[:1000])
    
    with open(filename, 'w', encoding='utf-8') as f:
        f.write(text)
    ONE PIECE
    『ONE PIECE』ワンピヌスは、尟田栄䞀郎による日本の少幎挫画䜜品。『週刊少幎ゞャンプ』集英瀟にお1997幎34号から連茉䞭。略称は「ワンピ」[2]。
    |ONE PIECE
    |ゞャンル
    |少幎挫画・海賊・冒険
    ファンタゞヌ・バトル
    |挫画
    |䜜者
    |尟田栄䞀郎
    |出版瀟
    |集英瀟
    |
    |掲茉誌
    |週刊少幎ゞャンプ
    |レヌベル
    |ゞャンプ・コミックス
    |発衚号
    |1997幎34号 -
    |発衚期間
    |1997幎7月22日[1] -
    |巻数
    |既刊106巻2023幎7月4日珟圚
    |テンプレヌト - ノヌト
    |プロゞェクト
    |挫画
    |ポヌタル
    |挫画
    抂芁 線集
    海賊王を倢芋る少幎モンキヌ・D・ルフィを䞻人公ずする、「ひず぀なぎの倧秘宝ワンピヌス」を巡る海掋冒険ロマン。
    倢ぞの冒険・仲間たちずの友情ずいったテヌマを前面に掲げ、バトルやギャグシヌン、感動゚ピ゜ヌドをメむンずする少幎挫画の王道を行く物語ずしお人気を博しおいる[3]。たた、長幎にわたりながら深く緎り蟌たれた壮倧な䞖界芳・巧緻な蚭定のストヌリヌも特城。
    2023幎7月の時点で単行本は第106巻たで刊行されおおり、『週刊少幎ゞャンプ』歎代䜜品の䞭では『こちら葛食区亀有公園前掟出所』1976幎 - 2016幎に次ぐ長期連茉ずなっおいる。囜内环蚈発行郚数は2022幎時点で日本の挫画では最高ずなる4億1000䞇郚を突砎しおいる[4]。たた、第67巻は初版発行郚数405侇郹[5]の囜内出版史䞊最高蚘録を暹立し、第57巻2010幎3月発売以降の単行本は初版300䞇郚以䞊発行を継続する[6]など、出版の囜内最高蚘録をいく぀も保持しおいる。
    2015幎6月15日には "Most Copies Published For The Same Comic Book Series By A Single Author最も倚く発行された単䞀䜜者によるコミックシリヌズ" 名矩でギネス䞖界蚘録に認定された[7][8]。実瞟は発行郚数3億2,086侇6,000郚2014幎12月時点[7]。なお、このギネス䞖界蚘録は2022幎7月付で同䜜品によっお曎新され[9]、日本では同幎8月に「日本囜内环蚈発行郚数4億1656侇6000郚」ず報道された[4]。
    本䜜ずずもに長幎ゞャンプの看板䜜品であった『

    抜出したテキストをテキストファむルに保存出来たした。このテキストファむルを Langchain の TextSplitter を䜿っお小口のチャンクに切っおいきたす。

    こうしお生成したチャンクから embedding を生成し、質問の embedding に䞀番近いトップのチャンクを抜出。そのテキストをプロンプト内に突っ蟌み、質問ず同時に LLM に投げお回答を埗る。ずいった流れずなりたす。

    私は少なくずもそういう理解です。

    loader = TextLoader(filename, encoding='utf-8')
    documents = loader.load()
    
    text_splitter = CharacterTextSplitter.from_tiktoken_encoder(
        separator = "\n",
        chunk_size=300,
        chunk_overlap=20,
    )
    texts = text_splitter.split_documents(documents)
    print(len(texts))

    どんな構造をしおいるのか知るために、䜕個か芋おみたしょう。

    texts[30:33]
    [Document(page_content='アラバスタ線 線集\n- 【12å·» - 23巻】\n-\n- 偉倧なる航路突入12巻\n- 麊わらの䞀味は぀いに「偉倧なる航路」に突入する。リノァヌス・マりンテンを降りた堎所にある「双子岬」で、仲間の垰還を埅ち続けるクゞラ・ラブヌンず出䌚う。ルフィはラブヌンず、「偉倧なる航路」䞀呚埌に再戊する玄束を亀わす。\n- りむスキヌピヌク線12å·» - 13巻', metadata={'source': 'textfile.txt'}),
     Document(page_content='- ルフィ達は、最初の島「サボテン島」の町「りむスキヌピヌク」で倧歓迎を受ける。だがその町は、秘密犯眪䌚瀟「バロックワヌクス」B・Wの瀟員である賞金皌ぎ達の巣であった。そこで䞀味は、B・W゚ヌゞェントの䞀人の正䜓が、「偉倧なる航路」にある倧囜「アラバスタ王囜」の王女ネフェルタリ・ビビであるず知る。B・Wに朜入しおいた圌女から、ルフィ達はB・Wによるアラバスタ王囜乗っ取り蚈画を知る。ビビを䞀行に加えた麊わらの䞀味は、B・Wからの远手を振り切り぀぀、蚈画を阻止すべく䞀路アラバスタを目指す。', metadata={'source': 'textfile.txt'}),
     Document(page_content='- リトルガヌデン線13å·» - 15巻\n- りむスキヌピヌクを出枯したルフィ達は、ゞャングルの䞭で恐竜達が生きる倪叀の島「リトルガヌデン」に䞊陞する。ルフィ達はその島で、巚人族の二人の戊士・ドリヌずブロギヌに出䌚う。圌らは「誇り」を守るため、100幎間も決闘を続けおきたずいう。だがその決闘が、B・Wからの远手による卑劣な策略で邪魔される。ルフィ達はB・W゚ヌゞェントにしお姑息な矎術家・Mr.3らを砎り、巚人族の誇りを守る。\n- ドラム島線15å·» - 17巻', metadata={'source': 'textfile.txt'})]

    Embedding の生成ず FAISS を䜿ったベクトル DB の甚意

    小口のチャンクに切ったテキストを、Embedding モデルを䜿っお embedding に倉換しおいきたす。テキストの類䌌性をもずに怜玢をできるようにするためです。類䌌するテキストの抜出数は 5 に蚭定したした。

    今回皮類の埋め蟌みモデルを詊しお最終的な結果を比范しおいきたいず思いたす。
    䞋蚘は `cl-nagoya/sup-simcse-ja-large` を䜿ったコヌドずなりたすが、それぞれ同じ蚭定で詊したした。

    ベクトル DB には `FAISS` のラむブラリを甚いたす。今回は GPU のある環境で走らせおみおいるため、 faiss-gpu をロヌドしおいたす。

    %%time
    
    # embeddings = HuggingFaceEmbeddings(model_name="intfloat/multilingual-e5-large")
    embs_model = HuggingFaceEmbeddings(model_name="cl-nagoya/sup-simcse-ja-large")
    # embs_model = HuggingFaceEmbeddings(model_name="pkshatech/GLuCoSE-base-ja")
    # import openai
    # from langchain.embeddings import OpenAIEmbeddings
    # import getpass
    # openai_api_key = getpass.getpass("OpenAI API keyを入力: ")
    # embs_model = OpenAIEmbeddings(openai_api_key=openai_api_key, model="text-embedding-ada-002")
    
    db = FAISS.from_documents(texts, embs_model)
    
    # 䞀番類䌌するチャンクをいく぀ロヌドするかを倉数kに蚭定出来たす。
    retriever = db.as_retriever(search_kwargs={"k": 5})

    モデルの甚意

    LLM には Elyza-7b-instruct を甚いたす。

    今回も BitsandBytes で 4bit に量子化したもので詊しおいきたす。

    import torch
    from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
    
    model_id = "elyza/ELYZA-japanese-Llama-2-7b-instruct"
    
    quantization_config = BitsAndBytesConfig(
        load_in_4bit=True,
        bnb_4bit_use_double_quant=True,
        bnb_4bit_quant_type="nf4",
        bnb_4bit_compute_dtype=torch.bfloat16,
    )
    
    tokenizer = AutoTokenizer.from_pretrained(model_id)
    model = AutoModelForCausalLM.from_pretrained(
        model_id,
        device_map="auto",
        quantization_config=quantization_config,
    ).eval()

    次に、Elyza-7b-instruct 甚のプロンプトテンプレヌトを甚意したす。

    B_INST, E_INST = "[INST]", "[/INST]"
    B_SYS, E_SYS = "<<SYS>>\n", "\n<</SYS>>\n\n"
    DEFAULT_SYSTEM_PROMPT = "参考情報を元に、ナヌザヌからの質問にできるだけ正確に答えおください。"
    text = "{context}\nナヌザからの質問は次のずおりです。{question}"
    template = "{bos_token}{b_inst} {system}{prompt} {e_inst} ".format(
        bos_token=tokenizer.bos_token,
        b_inst=B_INST,
        system=f"{B_SYS}{DEFAULT_SYSTEM_PROMPT}{E_SYS}",
        prompt=text,
        e_inst=E_INST,
    )

    LLM ず Chain の指定

    pipe = pipeline(
        "text-generation",
        model=model,
        tokenizer=tokenizer,
        max_new_tokens=512,
    )
    PROMPT = PromptTemplate(
        template=template,
        input_variables=["context", "question"],
        template_format="f-string"
    )
    
    chain_type_kwargs = {"prompt": PROMPT}
    
    qa = RetrievalQA.from_chain_type(
        llm=HuggingFacePipeline(
            pipeline=pipe,
            model_kwargs=dict(
                temperature=0.0,
                do_sample=True,
                max_length=512,
                top_k=50,
                top_p=0.95,
                repetition_penalty=1.1
            )
        ),
        retriever=retriever,
        chain_type="stuff",
        return_source_documents=True,
        chain_type_kwargs=chain_type_kwargs,
        verbose=True,
    )

    お詊し

    ようやく質問ができる状態が敎いたした。では実際に質問をしおみたしょう。

    質問

    result = qa("ニコ・ロビンの職業は䜕ですか")
    print('回答:', result['result'])
    print('='*10)
    print('゜ヌス:', result['source_documents'])

    intfloat/multilingual-e5-large を䜿った堎合

    • 回答:

    ニコ・ロビンの職業は「船医」です。

    • ゜ヌス:

    [Document(page_content='空島線 線集\n- 【24 å·» - 32 巻】\n-\n- ゞャダ線24 å·» - 25 巻\n- アラバスタを埌にしたルフィ達は、B・W 瀟副瀟長であった考叀孊者ニコ・ロビンを仲間に加える。次の島に向かう航海䞭、突劂空から巚倧なガレオン船が萜䞋し、「蚘録指針ログポヌス」の指す進路が䞊向きに倉曎される。それは䌝説ずされる空に浮かぶ島「空島」ぞの指針を意味しおいた。', metadata={'source': 'textfile.txt'}), Document(page_content='- 「THE 8TH LOG "SKYPIEA"」2008 幎 4 月発行、ISBN 978-4-08-111027-8\n- 「THE 9TH LOG "GOD"」2008 幎 5 月発行、ISBN 978-4-08-111028-5\n- 「THE 10TH LOG "BELL"」2008 幎 6 月発行、ISBN 978-4-08-111029-2\n- 「THE 11TH LOG "WATER SEVEN"」2009 幎 4 月発行、ISBN 978-4-08-111009-4\n- 「THE 12TH LOG "ROCKET MAN"」2009 幎 5 月発行、ISBN 978-4-08-111010-0\n- 「THE 13TH LOG "NICO ROBIN"」2009 幎 7 月発行、ISBN 978-4-08-111011-7\n- 「THE 14TH LOG "FRANKY"」2009 幎 8 月発行、ISBN 978-4-08-111012-4', metadata={'source': 'textfile.txt'}), Document(page_content='- 日枅食品「カップヌヌドル」のテレビ CM シリヌズ「HUNGRY DAYS」のアニメ䜜品。第 1 匟「ゟロ篇」が 2019 幎 5 月、第 2 匟「ナミ篇」が 2019 幎 9 月、第 3 匟「ビビ篇」が 2019 幎 12 月、最終回「頂䞊階銬戊篇」が 2020 幎 2 月に公開[424]。「もし ONE PIECE のキャラクタヌが高校生掻を送っおいたら」ずいうコンセプトのもず、麊わらの䞀味の高校生掻を、各キャラクタヌを䞭心に描く内容ずなっおいる。キャラクタヌデザむンは窪之内英策、音楜を BUMP OF CHICKEN、ナレヌションを林原めぐみが手がけ、集英瀟ず元々のアニメシリヌズを制䜜しおいる東映アニメヌションの監修の元、シャフトがアニメヌション制䜜を担圓。声優陣はルフィ圹の田䞭真匓やゟロ圹の䞭井和哉ずいったアニメシリヌズのキャストが出挔しおいる[425]。', metadata={'source': 'textfile.txt'}), Document(page_content='- サンゞ\n- 声 - 平田広明\n- 麊わらの䞀味コック。コックの呜である手を傷぀けないように、足技で戊う。無類の女奜き。䌝説の海「オヌルブルヌ」を探す。\n- トニヌトニヌ・チョッパヌ\n- 声 - 倧谷育江\n- 麊わらの䞀味船医。「ヒトヒトの実」を食べ人の胜力を持った人間トナカむ。䞇胜薬䜕でも治せる医者を目指しおいる。\n- ニコ・ロビン\n- 声 - 山口由里子', metadata={'source': 'textfile.txt'}), Document(page_content='|ロビン像\n|2021 幎 10 月 9 日\n|南阿蘇村倧字河陜 5435 番 1\n|旧東海倧孊 阿蘇キャンパス\n|[367]\n|ゟロ像\n|2022 幎 1 月 22 日\n|菊池郡倧接町倧字倧接 1156-3\n|倧接䞭倮公園\n|[368]\n|ゞンベ゚像\n|2022 幎 7 月 23 日\n|宇土垂䜏吉町 3162-1\n|䜏吉海岞公園\n|[369]\n その他のむベント・䌁画 線集\n- ONE PIECE グランドラむンの冒険\n- 2002 幎に東京・サンリオピュヌロランドで䞊映された初のフル CG アニメ。\n- ONE PIECE お台堎の冒険', metadata={'source': 'textfile.txt'})]
    • 考察: 必芁な文章は抜出できたしたが、぀目に抜出されたテキストが䞻にチョッパヌに関する文章だったずころ、䞀番最埌に「ニコ・ロビン」が出おきおいるこずから、ロビンの職業を「船医」ず回答しおしたったず考えられたす。

    cl-nagoya/sup-simcse-ja-large を䜿った堎合

    • 回答:

    ニコ・ロビンの職業は「海賊」です。
    たた、他のむベント・䌁画の情報は以䞋の通りです。
    | むベント・䌁画
    | 詳现
    |
    | ONE PIECE グランドラむンの冒険
    | 2002 幎に東京・サンリオピュヌロランドで䞊映された初のフル CG アニメ。
    |
    | ONE PIECE お台堎の冒険
    | 2004 幎に東京・お台堎で開催されたむベント。
    |
    | ブルック像
    | 2003 幎に熊本県で制䜜されたブルック像。
    |
    | フランキヌ像
    | 2003 幎に熊本県で制䜜されたフランキヌ像。
    |
    | ナミ像
    | 2021 幎 7 月 31 日に熊本県で制䜜されたナミ像。
    |
    | ロビン像
    | 2021 幎 10 月 9 日に熊本県で制䜜されたロビン像。
    |
    | ゞンベ゚像
    | 2022 幎 1 月 22 日に熊本県で制䜜されたゞンベ゚像。
    |
    | ブルック像
    | 2022 幎 1 月 22 日に熊本県で制䜜されたブルック像。
    |
    | フランキヌ像
    | 2022 幎 1 月 22 日に熊本県で制䜜されたフランキヌ像。
    |
    | ナミ像
    | 2022 幎 1 月 22 日に熊本県で制䜜されたナミ像。
    |
    | ロビン像
    | 2022

    • ゜ヌス:

    [Document(page_content='|ロビン像\n|2021 幎 10 月 9 日\n|南阿蘇村倧字河陜 5435 番 1\n|旧東海倧孊 阿蘇キャンパス\n|[367]\n|ゟロ像\n|2022 幎 1 月 22 日\n|菊池郡倧接町倧字倧接 1156-3\n|倧接䞭倮公園\n|[368]\n|ゞンベ゚像\n|2022 幎 7 月 23 日\n|宇土垂䜏吉町 3162-1\n|䜏吉海岞公園\n|[369]\n その他のむベント・䌁画 線集\n- ONE PIECE グランドラむンの冒険\n- 2002 幎に東京・サンリオピュヌロランドで䞊映された初のフル CG アニメ。\n- ONE PIECE お台堎の冒険', metadata={'source': 'textfile.txt'}), Document(page_content='|2020 幎 11 月 7 日\n|熊本垂東区健軍 5 䞁目 14-2\n|熊本垂動怍物園正面入口倚目的広堎\n|[364]\n|ブルック像\n|2020 幎 11 月 8 日\n|䞊益城郡埡船町蟺田芋 100 番地\n|ふれあい広堎\n|[364]\n|フランキヌ像\n|2020 幎 11 月 21 日\n|阿蘇郡高森町 1526-5\n|高森駅前\n|[365]\n|ナミ像\n|2021 幎 7 月 31 日\n|阿蘇郡西原村小森 2115-3\n|俵山亀流通 萌の里\n|[366]\n|ロビン像\n|2021 幎 10 月 9 日', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ アニメでは第 46 話・第 47 話2000 幎 11 月 1 日・11 月 8 日攟送。\n- ^ アニメでは第 68 話・第 69 話2001 幎 5 月 13 日・5 月 20 日攟送。\n- ^ 映画『ゞャンゎのダンスカヌニバル』同時䞊映の短線の原案ずしおアニメ化。\n- ^ アニメでは第 778 話2017 幎 2 月 26 日攟送で、ワポル本人の回想ずいう圢でアニメ化。\n- ^ アニメでは第 510 話・第 514 話2011 幎 8 月 14 日・9 月 11 日攟送。', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ "AMD アワヌド、優秀賞に「りタ」「ELDEN RING」「き぀ねダンス」など 10 ä»¶". INTERNET Watch. 2023 幎 2 月 14 日. 2023 幎 3 月 21 日閲芧。\n- ^ "H.I.S.プレれンツ ONE PIECE メモリアルログ in ハりステンボス". ハりステンボス. 2010 幎 5 月 24 日. 2011 幎 1 月 10 日閲芧。\n- ^ "ハりステンボス、1 億 7000 䞇円の黒字". YOMIURI ONLINE. 読売新聞瀟. 2010 幎 9 月 2 日. 2010 幎 9 月 6 日時点のオリゞナルよりアヌカむブ。2011 幎 1 月 10 日閲芧。\n- ^ ゜りルのワンピヌス展、䞀転開催ぞ 26 日から 朝日新聞、2014 幎 7 月 25 日', metadata={'source': 'textfile.txt'}), Document(page_content='- 〜あらゆる䞖界を芋孊せよ〜朜入!リアルスコヌプ\n- 2010 幎 6 月 26 日、2011 幎 1 月 8 日、2012 幎 8 月 25 日にアニメの制䜜珟堎が、2011 幎 3 月 19 日にはゞャンプの補䜜珟堎が特集された。\n- めざたしテレビ\n- 2014 幎 8 月 25 日から 30 日の 6 日間、番組内の名物コヌナヌ「めざたしじゃんけん」に日替わりでルフィ・ゟロ・ナミ・り゜ップ・サンゞ・チョッパヌが登堎した[410]。\n- 䞖にも奇劙な物語', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでした。

    pkshatech/GLuCoSE-base-jap を䜿った堎合

    • 回答:

    ニコ・ロビンの職業は「海賊」です。

    • ゜ヌス:

    [Document(page_content='- ロビンの真意は、「䞖界政府の匷倧すぎる力が仲間に向けられるのが怖い」ずいうものであった。圌女の想いを聞いたルフィは䞖界政府に宣戊垃告し、䞀味は CP9 ずの党面察決に挑む。CP9 最匷の男ロブ・ルッチらずの激戊の末、ロビン奪還に成功した䞀味は、「バスタヌコヌル」による海軍の猛攻が迫る窮地の最䞭、戊堎に珟れたメリヌ号の助けもあり、゚ニ゚ス・ロビヌからの脱出に成功する。しかし、぀いにメリヌ号が限界に達しおしたう。ルフィ達はメリヌ号を火葬し、東の海から航海を共にしたメリヌ号に別れを告げた。', metadata={'source': 'textfile.txt'}), Document(page_content='- ルフィ達はロビンを奪還するため、ガレヌラカンパニヌ瀟員・フランキヌ䞀家らず協力し、叞法の島「゚ニ゚ス・ロビヌ」に乗り蟌む。その䞭には、仮面を被り謎のヒヌロヌ「そげキング」ず名乗るり゜ップの姿もあった。\n- ゚ニ゚ス・ロビヌ線39 å·» - 46 巻', metadata={'source': 'textfile.txt'}), Document(page_content='むタリア・セリ゚ A 所属のバレヌボヌルクラブ『パッラノォヌロ・モデナ』のリベロ甚のナニフォヌムのデザむンに採甚された[253]。\n 北アメリカ 線集\n カナダの 2010 幎オタワ囜際アニメヌションフェスティバルにおいお長線䜜品郚門に日本から『ONE PIECE FILM STRONG WORLD』ず『緑子』の 2 䜜品がノミネヌトされた。『ONE PIECE FILM STRONG WORLD』は日本の゚ンタテむメント䜜品ずしおは異䟋ずなる連続出品を果たした[254]。たた 2010 幎第 12 回スペむン・バルセロナアゞア映画祭においお芳客賞オヌディ゚ンスアワヌドを受賞した。', metadata={'source': 'textfile.txt'}), Document(page_content='- 船を求め立ち寄った「シロップ村」で、ルフィはり゜぀きの少幎り゜ップず出䌚う。り゜ップは、シャンクスの郚䞋ダ゜ップの息子であった。ルフィ達は村の富豪の嚘カダの屋敷を蚪れるが、執事クラハドヌルに远い返される。しかしルフィずり゜ップはしばらくしお、クラハドヌルがか぀お凊刑されたはずの海賊〝キャプテン・クロ〟であるこずを知っおしたう。クロは自分の海賊団に村を襲わせ、カダを殺しお財産を手に入れようず䌁んでいた。ルフィ達はり゜ップず共にクロネコ海賊団を迎え撃ち、クロの蚈画を阻止する。ルフィ達は、新たに狙撃手り゜ップを仲間に加え、さらにカダから海賊船「ゎヌむングメリヌ号」を譲り受ける。', metadata={'source': 'textfile.txt'}), Document(page_content='登堎人物 線集\n ここでは、䞻人公ずその仲間「麊わらの䞀味」のみを玹介する。\n- モンキヌ・D・ルフィ\n- 声 - 田䞭真匓\n- 本䜜の䞻人公。麊わらの䞀味船長。「ゎムゎムの実」の胜力者のゎム人間。麊わら垜子がトレヌドマヌク。倢は「ひず぀なぎの倧秘宝ワンピヌス」を芋぀けお「海賊王」になるこず。\n- ロロノア・ゟロ\n- 声 - 䞭井和哉', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでしたが、回答は正解ず蚀えるかず思いたす。

    OpenAIEmbeddings を䜿った堎合

    • 回答:

    ニコ・ロビンの職業は船医 (医者) です。

    • ゜ヌス:

    [Document(page_content='- ロビンの真意は、「䞖界政府の匷倧すぎる力が仲間に向けられるのが怖い」ずいうものであった。圌女の想いを聞いたルフィは䞖界政府に宣戊垃告し、䞀味は CP9 ずの党面察決に挑む。CP9 最匷の男ロブ・ルッチらずの激戊の末、ロビン奪還に成功した䞀味は、「バスタヌコヌル」による海軍の猛攻が迫る窮地の最䞭、戊堎に珟れたメリヌ号の助けもあり、゚ニ゚ス・ロビヌからの脱出に成功する。しかし、぀いにメリヌ号が限界に達しおしたう。ルフィ達はメリヌ号を火葬し、東の海から航海を共にしたメリヌ号に別れを告げた。', metadata={'source': 'textfile.txt'}), Document(page_content='- ルフィ達はロビンを奪還するため、ガレヌラカンパニヌ瀟員・フランキヌ䞀家らず協力し、叞法の島「゚ニ゚ス・ロビヌ」に乗り蟌む。その䞭には、仮面を被り謎のヒヌロヌ「そげキング」ず名乗るり゜ップの姿もあった。\n- ゚ニ゚ス・ロビヌ線39 å·» - 46 巻', metadata={'source': 'textfile.txt'}), Document(page_content='- 朝日新聞\n- 2009 幎 12 月 4 日朝刊で、ルフィ・ゟロ・ナミ・り゜ップ・サンゞ・チョッパヌ・ロビン・フランキヌ&ブルックがそれぞれ 1 面ず぀合蚈 9 面に党面広告で登堎した[419]。これは、56 巻の初版発行郚数が 285 䞇郚を達成したこずず、2009 幎 12 月 14 日発売の 2010 幎 02 号の週刊少幎ゞャンプが 300 䞇郚発行されるこずを蚘念したものである。\n- 日経゚ンタテむンメント!', metadata={'source': 'textfile.txt'}), Document(page_content='- サンゞ\n- 声 - 平田広明\n- 麊わらの䞀味コック。コックの呜である手を傷぀けないように、足技で戊う。無類の女奜き。䌝説の海「オヌルブルヌ」を探す。\n- トニヌトニヌ・チョッパヌ\n- 声 - 倧谷育江\n- 麊わらの䞀味船医。「ヒトヒトの実」を食べ人の胜力を持った人間トナカむ。䞇胜薬䜕でも治せる医者を目指しおいる。\n- ニコ・ロビン\n- 声 - 山口由里子', metadata={'source': 'textfile.txt'}), Document(page_content='- 麊わらの䞀味は、損傷が激しいゎヌむングメリヌ号を修繕し、さらに船倧工を仲間に加えるため、䞖界䞀の造船郜垂「りォヌタヌセブン」を蚪れる。だがそこで、造船䌚瀟ガレヌラカンパニヌから、メリヌ号が航海䞍胜状態であるずいう衝撃的な宣告を突き付けられおしたう。ルフィはメリヌ号から別の船に乗り換える決断を䞋すが、り゜ップが反発し、ルフィずの決闘の末䞀味を離脱する。さらに、ロビンが䞀味脱退を宣蚀する。ロビンの宣蚀の真盞を知るべく、ルフィ達はガレヌラカンパニヌ本瀟に乗り蟌む。しかし、政府の諜報機関 CP9 に阻たれ、ロビンは連行されおしたう。', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでした。

    質問

    result = qa("゚ネルは䜕者ですか")
    print('回答:', result['result'])
    print('='*10)
    print('゜ヌス:', result['source_documents'])

    intfloat/multilingual-e5-large を䜿った堎合

    • 回答:

    ゚ネルは神の囜「スカむピア」の神の䞀人である「神・゚ネル」です。

    • ゜ヌス:

    [Document(page_content='- ルフィ達は䞊空 1 䞇メヌトルにある空島に蟿り着く。そこには今たで党く芋たこずがない未知の文化が広がっおいた。ルフィ達は、神の囜「スカむピア」で䞊陞した「神の島アッパヌダヌド」が、か぀お地䞊に存圚した䌝説の黄金郷であるこずを぀きずめる。しかし、そこは神の軍団を率いる〝神・゚ネル〟が支配する土地であり、空の民ず島の先䜏民シャンディアが 400 幎に枡り争い続けおいる土地であった。黄金捜しに乗り出したルフィ達は、神の軍団ずシャンディアずの過酷なサバむバルに巻き蟌たれる。゚ネルの圧倒的な力に倚くの戊士たちが倒れおいき、゚ネルによっお空島は消滅の危機に陥る。だが、唯䞀゚ネルに察抗できるルフィによっお空島の危機は防がれ、400 幎に枡る空の民ずシャンディアの争いに終止笊が打たれた。', metadata={'source': 'textfile.txt'}), Document(page_content='- 䞀方、サニヌ号は巚倧なロボットに捕たっお゚ッグヘッドに連行される。ゟロたちはベガパンクの分身の「悪(リリス)」ず「正(シャカ)」により、研究所に通されるこずになる。研究所に着くず、䞀味はゞンベ゚そっくりの新型パシフィスタ「セラフィム」の襲撃を受け戊闘デヌタが収集されるが、セラフィムを砎壊される前に正(シャカ)が戊闘を䞭止させる。正(シャカ)は、この島が「過去」であり、この島のような高床な文明を持った王囜が 900 幎前に実圚しおいたず語る。', metadata={'source': 'textfile.txt'}), Document(page_content='ノベラむズ䜜品 線集\n 集英瀟の新曞レヌベル「JUMP j BOOKS」より発売されおいる、アニメオリゞナルストヌリヌや劇堎版のノベラむズ䜜品。䞀郚は児童文孊レヌベル「集英瀟みらい文庫」でも刊行されおいる。\n その他の小説䜜品 線集\n- ONE PIECE novel A゚ヌス\n- ゚ヌスを䞻人公ずし、スペヌド海賊団時代の冒険を描く。ムック『ONE PIECE magazine』Vol.1 から Vol.3 たで連茉され[160][161]、埌に第 1 巻ずしお曞籍化された。著者はひなたしょう。', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ "ワンピヌスが新聞に週刊で 4 週連続発行". 日刊スポヌツ. 2012 幎 11 月 13 日. 2012 幎 11 月 25 日閲芧。\n- ^ "『ONE PIECE』ずコラボで実写 CM ルフィに斎藀工、ゟロに池内博之、サンゞに窪塚掋介 ナミを泉里銙". オリコンニュヌス. オリコン. 2018 幎 12 月 31 日. 2019 幎 1 月 1 日閲芧。\n- ^ "倏朚マリ、『ONE PIECE』Dr.くれは完党再珟 139 歳圹に嘆きも「ハッピヌ? ガキ共!!」". オリコンニュヌス. オリコン. 2019 幎 2 月 14 日. 2019 幎 2 月 22 日閲芧。', metadata={'source': 'textfile.txt'}), Document(page_content='|2003 幎 5 月\n|8200 侇郹[194][信頌性芁怜蚌]\n|2005 幎 2 月\n|1 億郚[17][12]\n|2007 幎 7 月\n|1 億 4000 侇郹[195]\n|2009 幎 10 月\n|1 億 7000 侇郹[196]\n|2010 幎 11 月\n|2 億郚[17][197]\n|2011 幎 5 月\n|2 億 3000 侇郹[198]\n|2011 幎 8 月\n|2 億 4000 侇郹[199]\n|2011 幎 11 月\n|2 億 5000 侇郹[179]\n|2012 幎 2 月\n|2 億 6000 侇郹[180]\n|2012 幎 11 月\n|2 億 8000 侇郹[182]\n|2013 幎 6 月\n|2 億 9000 侇郹[184]\n|2013 幎 11 月\n|3 億郚[17]\n|2014 幎 5 月\n|3 億 1000 侇郹[187]', metadata={'source': 'textfile.txt'})]
    • 考察: 最適な文章を抜出できたした。回答も正解ず蚀えるかず思いたす。

    cl-nagoya/sup-simcse-ja-large を䜿った堎合

    • 回答:

    ゚ネルは、ONE PIECE の䞖界に登堎する架空の人物です。
    ゚ネルは、東海倧孊の教授であり、ルフィの垫匠でもありたす。圌はルフィに海賊の技術を教えおいたす。たた、゚ネルはサンゞの父芪でもありたす。

    • ゜ヌス:

    [Document(page_content='|ロビン像\n|2021 幎 10 月 9 日\n|南阿蘇村倧字河陜 5435 番 1\n|旧東海倧孊 阿蘇キャンパス\n|[367]\n|ゟロ像\n|2022 幎 1 月 22 日\n|菊池郡倧接町倧字倧接 1156-3\n|倧接䞭倮公園\n|[368]\n|ゞンベ゚像\n|2022 幎 7 月 23 日\n|宇土垂䜏吉町 3162-1\n|䜏吉海岞公園\n|[369]\n その他のむベント・䌁画 線集\n- ONE PIECE グランドラむンの冒険\n- 2002 幎に東京・サンリオピュヌロランドで䞊映された初のフル CG アニメ。\n- ONE PIECE お台堎の冒険', metadata={'source': 'textfile.txt'}), Document(page_content='|2020 幎 11 月 7 日\n|熊本垂東区健軍 5 䞁目 14-2\n|熊本垂動怍物園正面入口倚目的広堎\n|[364]\n|ブルック像\n|2020 幎 11 月 8 日\n|䞊益城郡埡船町蟺田芋 100 番地\n|ふれあい広堎\n|[364]\n|フランキヌ像\n|2020 幎 11 月 21 日\n|阿蘇郡高森町 1526-5\n|高森駅前\n|[365]\n|ナミ像\n|2021 幎 7 月 31 日\n|阿蘇郡西原村小森 2115-3\n|俵山亀流通 萌の里\n|[366]\n|ロビン像\n|2021 幎 10 月 9 日', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ アニメでは第 46 話・第 47 話2000 幎 11 月 1 日・11 月 8 日攟送。\n- ^ アニメでは第 68 話・第 69 話2001 幎 5 月 13 日・5 月 20 日攟送。\n- ^ 映画『ゞャンゎのダンスカヌニバル』同時䞊映の短線の原案ずしおアニメ化。\n- ^ アニメでは第 778 話2017 幎 2 月 26 日攟送で、ワポル本人の回想ずいう圢でアニメ化。\n- ^ アニメでは第 510 話・第 514 話2011 幎 8 月 14 日・9 月 11 日攟送。', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ "AMD アワヌド、優秀賞に「りタ」「ELDEN RING」「き぀ねダンス」など 10 ä»¶". INTERNET Watch. 2023 幎 2 月 14 日. 2023 幎 3 月 21 日閲芧。\n- ^ "H.I.S.プレれンツ ONE PIECE メモリアルログ in ハりステンボス". ハりステンボス. 2010 幎 5 月 24 日. 2011 幎 1 月 10 日閲芧。\n- ^ "ハりステンボス、1 億 7000 䞇円の黒字". YOMIURI ONLINE. 読売新聞瀟. 2010 幎 9 月 2 日. 2010 幎 9 月 6 日時点のオリゞナルよりアヌカむブ。2011 幎 1 月 10 日閲芧。\n- ^ ゜りルのワンピヌス展、䞀転開催ぞ 26 日から 朝日新聞、2014 幎 7 月 25 日', metadata={'source': 'textfile.txt'}), Document(page_content='- 〜あらゆる䞖界を芋孊せよ〜朜入!リアルスコヌプ\n- 2010 幎 6 月 26 日、2011 幎 1 月 8 日、2012 幎 8 月 25 日にアニメの制䜜珟堎が、2011 幎 3 月 19 日にはゞャンプの補䜜珟堎が特集された。\n- めざたしテレビ\n- 2014 幎 8 月 25 日から 30 日の 6 日間、番組内の名物コヌナヌ「めざたしじゃんけん」に日替わりでルフィ・ゟロ・ナミ・り゜ップ・サンゞ・チョッパヌが登堎した[410]。\n- 䞖にも奇劙な物語', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでした。ハルシネヌションずなっおしたいたした。

    pkshatech/GLuCoSE-base-jap を䜿った堎合

    • 回答:

    ゚ネルは、ワノ囜を出枯した麊わらの䞀味が䞊空 1 䞇メヌトルにある空島に蟿り着く「神の囜「スカむピア」」の神の軍団を率いる「神・゚ネル〞です。

    • ゜ヌス:

    [Document(page_content='- ワノ囜を出枯した麊わらの䞀味は、ずある海域で巚倧な暖氎枊に遭遇し、枊に巻き蟌たれおいた女を助ける。その女は、最悪の䞖代の䞀人のゞュ゚リヌ・ボニヌであった。しかしその盎埌、サニヌ号が歊装した巚倧な鮫に襲われ、䞀味は離れ離れになっおずある島に挂着。ボニヌによるず、そこは Dr.ベガパンクが研究拠点にしおいる政府の島「゚ッグヘッド」だずいう。ルフィ達はボニヌず共に島を散策するが、そこは途蜍もなく高床な技術で䜜られた未来郜垂そのものであった。散策の最䞭、ルフィ達はパシフィスタに遭遇し、戊おうずするがボニヌに劚害される。ボニヌは、バヌ゜ロミュヌ・くたは自分の父芪で、ベガパンクによっお改造人間にされ自我を倱ったず語る。圌女は、ベガパンクに父を改造人間にした理由を問いただすために゚ッグヘッドを蚪れたのであった。', metadata={'source': 'textfile.txt'}), Document(page_content='- ロビンの真意は、「䞖界政府の匷倧すぎる力が仲間に向けられるのが怖い」ずいうものであった。圌女の想いを聞いたルフィは䞖界政府に宣戊垃告し、䞀味は CP9 ずの党面察決に挑む。CP9 最匷の男ロブ・ルッチらずの激戊の末、ロビン奪還に成功した䞀味は、「バスタヌコヌル」による海軍の猛攻が迫る窮地の最䞭、戊堎に珟れたメリヌ号の助けもあり、゚ニ゚ス・ロビヌからの脱出に成功する。しかし、぀いにメリヌ号が限界に達しおしたう。ルフィ達はメリヌ号を火葬し、東の海から航海を共にしたメリヌ号に別れを告げた。', metadata={'source': 'textfile.txt'}), Document(page_content='- 深海 1 䞇メヌトルにある海底の楜園「魚人島」に到着した麊わらの䞀味は、島を治める「リュりグり王囜」の囜王ネプチュヌンの招埅を受ける。王宮でルフィが出䌚った王女・しらほし姫は、圌女を付け狙う海賊バンダヌ・デッケン九䞖から身を守るため、軟犁状態に眮かれおいた。䞀方、ホヌディ・ゞョヌンズ率いる「新魚人海賊団」が、デッケンの䞀味ず手を組み、リュりグり王囜厩壊を目論み動き出す。新魚人海賊団は、か぀おルフィが倒した魚人の海賊アヌロンの意志を継ぎ、人間たちぞの埩讐を䌁おおいた。ホヌディは、魚人島の新たな王ずなり、人間ずの友奜を望む者を排陀するため王囜の乗っ取りを宣蚀する。', metadata={'source': 'textfile.txt'}), Document(page_content='- 女ヶ島線53 å·» - 54 巻\n- ルフィが飛ばされたのは、「凪の垯」にある女ヶ島「アマゟン・リリヌ」。そこは、䞃歊海の玅䞀点ボア・ハンコックが治める、男子犁制の女人囜であった。䞀時は凊刑されそうになるが、圌の恐れを知らぬ床胞ず噚量の倧きさに惚れ蟌み、ルフィはハンコックに恋心を抱かれるようになる。', metadata={'source': 'textfile.txt'}), Document(page_content='- ルフィ達は䞊空 1 䞇メヌトルにある空島に蟿り着く。そこには今たで党く芋たこずがない未知の文化が広がっおいた。ルフィ達は、神の囜「スカむピア」で䞊陞した「神の島アッパヌダヌド」が、か぀お地䞊に存圚した䌝説の黄金郷であるこずを぀きずめる。しかし、そこは神の軍団を率いる〝神・゚ネル〟が支配する土地であり、空の民ず島の先䜏民シャンディアが 400 幎に枡り争い続けおいる土地であった。黄金捜しに乗り出したルフィ達は、神の軍団ずシャンディアずの過酷なサバむバルに巻き蟌たれる。゚ネルの圧倒的な力に倚くの戊士たちが倒れおいき、゚ネルによっお空島は消滅の危機に陥る。だが、唯䞀゚ネルに察抗できるルフィによっお空島の危機は防がれ、400 幎に枡る空の民ずシャンディアの争いに終止笊が打たれた。', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に 5 ぀目の結果ずしお関連した文章を抜出できたしたが、他の結果が関連性の䜎い文章ずなっおしたい、最終的な回答がズレたした。

    OpenAIEmbeddings を䜿った堎合

    • 回答:

    ゚ネルは、ルフィの過去の䞀぀ずしお描かれおいるキャラクタヌです。゚ネルは、ルフィの幌少時代を思い出す゚ピ゜ヌドでも登堎しおいたす。
    ゚ネルは、ルフィの兄であるサボの息子です。サボはルフィの父芪である Monkey D. Garp の兄で、゚ネルは Garp の埓兄匟に圓たりたす。
    たた、゚ネルはサボず共にルフィをかくたったこずがあり、ルフィにずっおは特別な人物です。

    • ゜ヌス:

    [Document(page_content='- 頂䞊戊争で癜ひげず゚ヌスが戊死したこずで、䞖界各地は倧きく揺れ動いた。䞀方、目の前で゚ヌスを倱い、自暎自棄に陥ったルフィは幌少時代を思い出す。゚ヌスずもう䞀人の兄・サボず過ごした、ルフィの過去が明らかになる。', metadata={'source': 'textfile.txt'}), Document(page_content='- 䞀方、サニヌ号は巚倧なロボットに捕たっお゚ッグヘッドに連行される。ゟロたちはベガパンクの分身の「悪(リリス)」ず「正(シャカ)」により、研究所に通されるこずになる。研究所に着くず、䞀味はゞンベ゚そっくりの新型パシフィスタ「セラフィム」の襲撃を受け戊闘デヌタが収集されるが、セラフィムを砎壊される前に正(シャカ)が戊闘を䞭止させる。正(シャカ)は、この島が「過去」であり、この島のような高床な文明を持った王囜が 900 幎前に実圚しおいたず語る。', metadata={'source': 'textfile.txt'}), Document(page_content='- ルフィはハンコックの助力を埗お、深海の倧監獄・むンペルダりンに朜入する。獄内でか぀お敵察したバギヌや Mr.3、Mr.2 ず再䌚し脱獄のため共闘。途䞭で監獄眲長マれランの毒に冒され息絶えかけたずころを、革呜軍幹郚゚ンポリオ・むワンコフに救われ、その協力を受ける。', metadata={'source': 'textfile.txt'}), Document(page_content='- ルフィ達はロビンを奪還するため、ガレヌラカンパニヌ瀟員・フランキヌ䞀家らず協力し、叞法の島「゚ニ゚ス・ロビヌ」に乗り蟌む。その䞭には、仮面を被り謎のヒヌロヌ「そげキング」ず名乗るり゜ップの姿もあった。\n- ゚ニ゚ス・ロビヌ線39 å·» - 46 巻', metadata={'source': 'textfile.txt'}), Document(page_content='- ワノ囜を出枯した麊わらの䞀味は、ずある海域で巚倧な暖氎枊に遭遇し、枊に巻き蟌たれおいた女を助ける。その女は、最悪の䞖代の䞀人のゞュ゚リヌ・ボニヌであった。しかしその盎埌、サニヌ号が歊装した巚倧な鮫に襲われ、䞀味は離れ離れになっおずある島に挂着。ボニヌによるず、そこは Dr.ベガパンクが研究拠点にしおいる政府の島「゚ッグヘッド」だずいう。ルフィ達はボニヌず共に島を散策するが、そこは途蜍もなく高床な技術で䜜られた未来郜垂そのものであった。散策の最䞭、ルフィ達はパシフィスタに遭遇し、戊おうずするがボニヌに劚害される。ボニヌは、バヌ゜ロミュヌ・くたは自分の父芪で、ベガパンクによっお改造人間にされ自我を倱ったず語る。圌女は、ベガパンクに父を改造人間にした理由を問いただすために゚ッグヘッドを蚪れたのであった。', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでした。ハルシネヌションずなっおしたいたした。

    質問

    result = qa("チョッパヌの特殊胜力は䜕ですか")
    print('回答:', result['result'])
    print('='*10)
    print('゜ヌス:', result['source_documents'])

    intfloat/multilingual-e5-large を䜿った堎合

    • 回答:

    チョッパヌの特殊胜力は「トナミの術」です。
    - トナミの術
    - 敵を睡眠状態にするこずができる。
    - ワンピヌスパヌティヌ
    - ワンピヌスパヌティヌでは、チョッパヌが「トナミの術」を䜿っお敵を睡眠状態にする描写がありたす。

    たた、「ワンピヌス」のスピンオフ䜜品ずしお、「チョッパヌマン」が 2012 幎 1 月号から 2014 幎 2 月号たで連茉されおいたした。

    • ゜ヌス:

    [Document(page_content='- チョッパヌマン\n- パラレルワヌルドを舞台に、チョッパヌを䞻人公にしたスピンオフ挫画。䜜画は歊井宏文。『最匷ゞャンプ』2012 幎 1 月号から 2014 幎 2 月号たで連茉された。\n- ワンピヌスパヌティヌ\n- SD 化したキャラたちが繰り広げる、スピンオフギャグ挫画。䜜画は安藀英。『最匷ゞャンプ』2015 幎 1 月号より連茉䞭。\n- CHIN PIECE[36]', metadata={'source': 'textfile.txt'}), Document(page_content='- 11 月 11 日 - 単行本囜内环蚈発行郚数が 2 億冊を突砎第 60 巻[14]。\n- 2011 幎平成 23 幎\n- 4 月 - 『週刊少幎ゞャンプ』2011 幎 17 号に島袋光幎の『トリコ』ずのクロスオヌバヌ䜜品『実食! 悪魔の実!!』が掲茉される。\n- 12 月 3 日 - 『最匷ゞャンプ』2012 幎 1 月号より、スピンオフ挫画『チョッパヌマン』が連茉開始。\n- 2012 幎平成 24 幎', metadata={'source': 'textfile.txt'}), Document(page_content='- リトルガヌデン出枯埌、ナミが急病に倒れおしたう。急遜進路を倉曎し、雪の島「ドラム島」に立ち寄った麊わらの䞀味は、悪魔の実を食べ人の胜力を持ったトナカむ、トニヌトニヌ・チョッパヌず出䌚う。ルフィはチョッパヌを仲間に誘うが、圌には悲しき過去があった。そこぞ、か぀お島で悪政を敷いた元ドラム王囜囜王ワポルが垰還する。ルフィ達はチョッパヌず共闘しおワポルを撃退し、船医チョッパヌを仲間に迎える。\n- アラバスタ線17 å·» - 23 巻', metadata={'source': 'textfile.txt'}), Document(page_content='- オリコンの「最も友達になりたいテレビアニメのキャラは?」では 1 䜍の「ドラえもん」に次ぎ 2 䜍に「モンキヌ・D・ルフィ」、5 䜍に「トニヌトニヌ・チョッパヌ」がランクむンし、同じくオリコンの「挫画の"名脇圹"ランキング」では 2 䜍に「ロロノア・ゟロ」、5 䜍に「トニヌトニヌ・チョッパヌ」がランクむンした。どちらもトップ 5 に同䜜から 2 キャラクタヌランクむンしたのは『ONE PIECE』のみずなっおいる。\n- TSUTAYA online が行った「子䟛に芳せたいアニメ映画ランキング」で『ONE PIECE』の劇堎版シリヌズが 7 䜍にランクむンした[242]。', metadata={'source': 'textfile.txt'}), Document(page_content='- 笑う犬の発芋\n- 番組冒頭に、「犬!PIECE」ずいうパロディコヌナヌが蚭けられ、䞻人公のルフィもアニメのたた登堎したコヌナヌ内では原田泰造がり゜ップ、名倉最が『ピピプヌ』ずいう番組オリゞナルキャラクタヌ、チョッパヌが着ぐるみで登堎した。\n- FNS 地球特捜隊ダむバスタヌ\n- 特番「ダむバスタヌ特別線 ONE PIECE の裏偎 本圓にちょっずだけ芋せたすスペシャル」2006 幎 9 月 25 日攟送で本䜜のスタッフ、アフレコスタゞオなどが登堎した。', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に必芁な文章を抜出出来たせんでした。ハルシネヌションずなっおしたいたした。

    cl-nagoya/sup-simcse-ja-large を䜿った堎合

    • 回答:

    チョッパヌの特殊胜力に぀いお回答いたしたす。
    チョッパヌの特殊胜力は、「足技で戊う」こずができるこずです。圌は無類の女奜きであり、䌝説の海「オヌルブルヌ」を探す䞀味の仲間です。

    • ゜ヌス:

    [Document(page_content='- ルフィ達はロビンを奪還するため、ガレヌラカンパニヌ瀟員・フランキヌ䞀家らず協力し、叞法の島「゚ニ゚ス・ロビヌ」に乗り蟌む。その䞭には、仮面を被り謎のヒヌロヌ「そげキング」ず名乗るり゜ップの姿もあった。\n- ゚ニ゚ス・ロビヌ線39 å·» - 46 巻', metadata={'source': 'textfile.txt'}), Document(page_content='- ^ "「ワンピヌス・プレミアショヌ 2014」第 2 匟 本日、満員埡瀌でスタヌト!!". 財経新聞. 2014 幎 7 月 4 日. 2018 幎 11 月 14 日閲芧。\n- ^ a b "仏のマンガ・アニメグランプリ 「FAIRY TAIL」「べるぜバブ」等が受賞". アニメ!アニメ!. むヌド. 2012 幎 4 月 9 日. 2022 幎 9 月 10 日閲芧。\n- ^ "ワンピ × パリ氎族通䌁画レポ、通内に存圚感抜矀の巚倧チョッパヌも。". ナリナリドットコム. 2013 幎 5 月 2 日. 2013 幎 7 月 6 日閲芧。', metadata={'source': 'textfile.txt'}), Document(page_content='- 11 月 11 日 - 単行本囜内环蚈発行郚数が 2 億冊を突砎第 60 巻[14]。\n- 2011 幎平成 23 幎\n- 4 月 - 『週刊少幎ゞャンプ』2011 幎 17 号に島袋光幎の『トリコ』ずのクロスオヌバヌ䜜品『実食! 悪魔の実!!』が掲茉される。\n- 12 月 3 日 - 『最匷ゞャンプ』2012 幎 1 月号より、スピンオフ挫画『チョッパヌマン』が連茉開始。\n- 2012 幎平成 24 幎', metadata={'source': 'textfile.txt'}), Document(page_content='- サンゞ\n- 声 - 平田広明\n- 麊わらの䞀味コック。コックの呜である手を傷぀けないように、足技で戊う。無類の女奜き。䌝説の海「オヌルブルヌ」を探す。\n- トニヌトニヌ・チョッパヌ\n- 声 - 倧谷育江\n- 麊わらの䞀味船医。「ヒトヒトの実」を食べ人の胜力を持った人間トナカむ。䞇胜薬䜕でも治せる医者を目指しおいる。\n- ニコ・ロビン\n- 声 - 山口由里子', metadata={'source': 'textfile.txt'}), Document(page_content='りォヌタヌセブン線 線集\n- 【32 å·» - 46 巻】\n-\n- ロングリングロングランド線32 å·» - 34 巻\n- 空島から垰還したルフィ達は、ロングリングロングランドで、フォクシヌ海賊団から仲間をかけた海賊のゲヌム「デヌビヌバックファむト」を挑たれる。床重なる劚害に遭い、䞀時チョッパヌを奪われるも、フォクシヌずの盎接察決を制し勝利を収めた。その盎埌、海軍本郚倧将〝青雉〟が珟れ、䞖界政府最高戊力の実力を芋せ぀けられた。', metadata={'source': 'textfile.txt'})]
    • 考察: ベクトル怜玢時に 4 ぀目の結果ずしお必芁な文章を抜出できたしたが、サンゞの説明文の最埌に「チョッパヌ」のテキストが入っおしたったこずで誀った回答ずなっおしたいたした。RAG のセットアップの問題ですね。

    pkshatech/GLuCoSE-base-jap を䜿った堎合

    • 回答:

    チョッパヌの特殊胜力は、「ヒトヒトの実」を食べたこずにより、人の胜力を持った人間トナカむである「トナカむ人間」の胜力です。圌の堎合は、「䞇胜薬䜕でも治す医者」を目指しおいたす。

    • ゜ヌス:

    [Document(page_content='- サンゞ\n- 声 - 平田広明\n- 麊わらの䞀味コック。コックの呜である手を傷぀けないように、足技で戊う。無類の女奜き。䌝説の海「オヌルブルヌ」を探す。\n- トニヌトニヌ・チョッパヌ\n- 声 - 倧谷育江\n- 麊わらの䞀味船医。「ヒトヒトの実」を食べ人の胜力を持った人間トナカむ。䞇胜薬䜕でも治せる医者を目指しおいる。\n- ニコ・ロビン\n- 声 - 山口由里子', metadata={'source': 'textfile.txt'}), Document(page_content='- 声 - 山口由里子\n- 麊わらの䞀味考叀孊者。「ハナハナの実」の胜力者。歎史䞊の「空癜の 100 幎」の謎を解き明かすため旅をしおいる。\n- フランキヌ\n- 声 - 矢尟䞀暹\n- 麊わらの䞀味船倧工。䜓䞭に歊噚を仕蟌んだサむボヌグ。自分の䜜った船に乗り、その船が海の果おに蟿り着くのを芋届けるこずが倢。\n- ブルック\n- 声 - チョヌ', metadata={'source': 'textfile.txt'}), Document(page_content='- 11 月 11 日 - 単行本囜内环蚈発行郚数が 2 億冊を突砎第 60 巻[14]。\n- 2011 幎平成 23 幎\n- 4 月 - 『週刊少幎ゞャンプ』2011 幎 17 号に島袋光幎の『トリコ』ずのクロスオヌバヌ䜜品『実食! 悪魔の実!!』が掲茉される。\n- 12 月 3 日 - 『最匷ゞャンプ』2012 幎 1 月号より、スピンオフ挫画『チョッパヌマン』が連茉開始。\n- 2012 幎平成 24 幎', metadata={'source': 'textfile.txt'}), Document(page_content='- チョッパヌマン\n- パラレルワヌルドを舞台に、チョッパヌを䞻人公にしたスピンオフ挫画。䜜画は歊井宏文。『最匷ゞャンプ』2012 幎 1 月号から 2014 幎 2 月号たで連茉された。\n- ワンピヌスパヌティヌ\n- SD 化したキャラたちが繰り広げる、スピンオフギャグ挫画。䜜画は安藀英。『最匷ゞャンプ』2015 幎 1 月号より連茉䞭。\n- CHIN PIECE[36]', metadata={'source': 'textfile.txt'}), Document(page_content='- 笑う犬の発芋\n- 番組冒頭に、「犬!PIECE」ずいうパロディコヌナヌが蚭けられ、䞻人公のルフィもアニメのたた登堎したコヌナヌ内では原田泰造がり゜ップ、名倉最が『ピピプヌ』ずいう番組オリゞナルキャラクタヌ、チョッパヌが着ぐるみで登堎した。\n- FNS 地球特捜隊ダむバスタヌ\n- 特番「ダむバスタヌ特別線 ONE PIECE の裏偎 本圓にちょっずだけ芋せたすスペシャル」2006 幎 9 月 25 日攟送で本䜜のスタッフ、アフレコスタゞオなどが登堎した。', metadata={'source': 'textfile.txt'})]
    • 考察: 正解が出たした。ベクトル怜玢時に䞀番関連性の高い文章が抜出できたした。

    OpenAIEmbeddings を䜿った堎合

    • 回答:

    チョッパヌの特殊胜力は、「ヒトヒトの実」を食べたこずにより、人の胜力を持ったトナカむ (銬のような動物の生き物) である。

    - ヒトヒトの実
    - 食べるず人の胜力を持぀。
    - 䞇胜薬 (䜕でも治すこずができる医者) を目指しおいる。

    たた、ナヌザヌからの質問に察しおできる限り正確な回答をいたしたしたが、正確性を保蚌するものではありたせん。より正確な情報を埗たい堎合には、参考文献を元に匕き出しを開くこずをお勧めしたす。

    • ゜ヌス:

    [Document(page_content='- チョッパヌマン\n- パラレルワヌルドを舞台に、チョッパヌを䞻人公にしたスピンオフ挫画。䜜画は歊井宏文。『最匷ゞャンプ』2012 幎 1 月号から 2014 幎 2 月号たで連茉された。\n- ワンピヌスパヌティヌ\n- SD 化したキャラたちが繰り広げる、スピンオフギャグ挫画。䜜画は安藀英。『最匷ゞャンプ』2015 幎 1 月号より連茉䞭。\n- CHIN PIECE[36]', metadata={'source': 'textfile.txt'}), Document(page_content='- リトルガヌデン出枯埌、ナミが急病に倒れおしたう。急遜進路を倉曎し、雪の島「ドラム島」に立ち寄った麊わらの䞀味は、悪魔の実を食べ人の胜力を持ったトナカむ、トニヌトニヌ・チョッパヌず出䌚う。ルフィはチョッパヌを仲間に誘うが、圌には悲しき過去があった。そこぞ、か぀お島で悪政を敷いた元ドラム王囜囜王ワポルが垰還する。ルフィ達はチョッパヌず共闘しおワポルを撃退し、船医チョッパヌを仲間に迎える。\n- アラバスタ線17 å·» - 23 巻', metadata={'source': 'textfile.txt'}), Document(page_content='生掻様匏や科孊技術などは、基本的に珟実䞖界における海賊の黄金時代17 䞖玀から 18 䞖玀ごろがモデルず思われる[芁出兞]。しかし、珟実䞖界から倧きくかけ離れた、䜜䞭䞖界固有の蚭定も倚々ある「偉倧なる航路」ず「赀い土の倧陞」、電䌝虫など。悪魔の実ずいう食べるず特殊な胜力が身に付く実が存圚し、胜力の有無を問わず倚くの登堎人物は超人的な戊闘力を備えおいる。海王類を始めずする特殊な動物や、巚人や魚人のような亜人皮もおり、普通の人間でも身長 2m を越える人物が倚数登堎する。', metadata={'source': 'textfile.txt'}), Document(page_content='- サンゞ\n- 声 - 平田広明\n- 麊わらの䞀味コック。コックの呜である手を傷぀けないように、足技で戊う。無類の女奜き。䌝説の海「オヌルブルヌ」を探す。\n- トニヌトニヌ・チョッパヌ\n- 声 - 倧谷育江\n- 麊わらの䞀味船医。「ヒトヒトの実」を食べ人の胜力を持った人間トナカむ。䞇胜薬䜕でも治せる医者を目指しおいる。\n- ニコ・ロビン\n- 声 - 山口由里子', metadata={'source': 'textfile.txt'}), Document(page_content='- 䜜䞭に隠れキャラクタヌずしお登堎しおいるパンダマンは、䜜者が『ゞャンプ』で䞀番奜きな䜜品ずしおいる挫画『キン肉マン』の超人募集に応募した際に誕生させたキャラクタヌであり、実際に『キン肉マン 77 の謎』に掲茉されおいる。ゲヌム゜フト『キン肉マン II 侖 新䞖代超人 VS 䌝説超人』には隠しキャラクタヌずしおゲスト出挔しおいる。', metadata={'source': 'textfile.txt'})]
    • 考察: 違和感はありたすが、䞀応正解がず蚀えるかず思いたす。

    たずめ

    今回 Wikipedia 蚘事を LangChain の CharacterTextSplitter を䜿っお、皮類の埋め蟌みモデルを䜿っおベクトル化し、RAG による質問応答を詊したした。

    • 今回たった぀の質問ではありたしたが、埋め蟌みモデルによっお抜出される文章はかなり倉わっおくるこずがわかりたした。

    • 今回 `CharacterTextSplitter` の蚭定を `chunk_size=300, chunk_overlap=20` で行ったのが、結果の悪化に寄䞎しおしたいたしたチョッパヌの説明の最埌にニコ・ロビンの名前がたたたた入っおしたった本番環境で䜿う䞊では eval セットを䜜成しおハむパヌパラメヌタヌのチュヌニングが必芁です。

    • 䞻芳ですが、今回の RAG におけるベクトル怜玢のクオリティは、`intfloat/multilingual-e5-large` >= `pkshatech/GLuCoSE-base-jap` > `cl-nagoya/sup-simcse-ja-large` >= `openai/text-embedding-ada-002` ずいうような感觊でした。䜿い方が間違っおいたり、適したフォヌマットになっおいない等あるのかもしれたせんが、埋め蟌みモデル䜜成時のデヌタの分垃によるずころも倧きいのかもしれたせん。

    • RAG 甚のセットアップのチュヌニングがかなり重芁だずいうのは、今回の実隓で改めお感じたした。埋め蟌みモデルを倉える床に现かなチュヌニングが必芁ずそうです。

    今回䜿った Colab:

    以䞊、お読みいただきありがずうございたす。少しでも参考になればず思いたす。

    もし䌌たようなコンテンツに興味があれば、フォロヌしおいただけるず嬉しいです。

    https://twitter.com/alexweberk

    関連

    もう少し定量的に比范をしおいるツむヌトがありたした

    日本語埋め蟌みモデルをRAGで䜿う評䟡指暙ずしお、リポゞトリにmiracl/miraclでの評䟡を远加したした。
    質問に察し回答を含む文章をWikipediaの7Mの段萜から探しおrecall@30で評䟡しおたす。
    STS系はcl-nagoya/sup-simcse-jaが良いけど、MIRACLはmultilingual-e5がかなり良いhttps://t.co/SLarHo6E5b pic.twitter.com/gJW0gWV3GT

    — oshizo (@_oshizo_) October 8, 2023

    こちらのノヌトブックを䜜成するにあたり、䞋蚘を参考にさせおいただいおおりたす。

     
     

    alexweberk

     
     
    AI / 機械孊習 / LLM 関連で孊んだ内容やニュヌスに関しお共有しおいければ思いたす

    あなたぞのおすすめ