RAG｜ChatGPTの能力を底上げする技術

Рет қаралды 12,540

Күн бұрын

Пікірлер: 20

@ychilton Ай бұрын

偶然視聴しました。RAGの概要がなんとなく掴めた気がします!実装の部分も後半にあって良かったです。本当に素晴らしい動画ですね。私のような超初心者には、合いの手も視聴者目線で非常に助かります（こういうのがないのが一方的な動画の弱点なので）本当にありがとうございました。別の動画も見せていただこうと思います

@mathbullet Ай бұрын

大変嬉しいコメントありがとうございます！動画見つけていただけてよかったです！

@rta3311 3 ай бұрын

神動画でしたありがとうございます。内積の話とかも地味に刺さりました

@mathbullet 3 ай бұрын

ありがとうございます！！まさに！そこが僕的にはアガるポイントなのでそう言っていただけて嬉しいです！！

@TT-tg9yj 5 ай бұрын

面白い動画をありがとうございます。 Hallucinationを出来るだけ抑制するにはtemperatureをゼロ設定にするのがベストの方法でしょうか？何か他にもやり方があったりしますか？最後、実用編のお話をされていますが、個人的にはＰＤＦではなく、ＵＲＬ上の情報にアクセスし、ソース掲示（webページ上のリンク）を含む回答をできるＲＡＧの例を作っていただけると嬉しいです。

@mathbullet 5 ай бұрын

ありがとうございます！！そうですね、temperatureの調整で抑制できる部分はあると思います。他には、例えば input→llm1→llm2→output というチェインを作って、llm2にllm1の出力の添削をさせるとかも聞いたことはあります（これもllm2の振る舞いに依存するので部分的解決に留まります）。根本的にハルシネーションを起こさせないことは難しいので、どちらかというとRAGで参照したテキストをユーザーに提示して、ハルシネーションが起こっている場合はそれに気づける仕組みを作るという形での対策もあると良いと思います。ハルシネーションの原理が分かりきっていないのもあって、色々と対策が提案されている印象がありますね。遠からずAgentの話をしたいと思っているので、そこでWebサーチにも言及しますね！ご要望いただけて嬉しいです！

@7スロット 5 ай бұрын

RAGの前に社内のドキュメントをまとめたり、ゴミを除いたりするのが大変で、また新しい知識をどうするんだっけという問題に苦しめられる。。あと高度にやろうとすると遅いっていうのが、なかなか上位レイヤーに刺さらないんですよね。

@mathbullet 5 ай бұрын

コメントありがとうございます！そうですね、15:52 あたりでちらっと話したのですが、そもそもの参照先に良いデータが揃っていて、よろしく管理されていないと成立しないですね。 RAGをはじめデータ駆動への取り組みをしたいというのに後押しされてデータ基盤の見直しから始めるケースもある、というかそれが多数派かもしれません

@21treasury 5 ай бұрын

あまりよくわかってないのですが、chat gptのgptsでpdfファイルを読み込ませ回答を出してもらうのと、このようにプログラムすることは何が違うのですか？

@mathbullet 5 ай бұрын

質問ありがとうございます！説明したほうがよかったと後から思ったところでした！機能的にはGPTsと同じことを行っているのですが、動画で行っているようにプログラムとして書くことにはたとえば以下の利点があり、営利目的でのシステム構築にはこのスタイルが好まれます。・チャットボットの出力結果を別のアプリケーション（たとえばSlackやLINE botなど）に渡すなど、外部連携が容易・今回のPDFのような外部文書をどこに保存しておくかを自ら決定できるため、データ管理上の裁量が大きい・LangSmithなどと連携することで、構築したRAGシステムの稼働状況を監視することができる

@21treasury 5 ай бұрын

@@mathbullet 回答ありがとうございます。LLM開発だったり個別企業レベルのカスタマイズの場合は管理等の観点から見てもGPTsで作るよりもきちんとプログラムできたほうが良さそうですね。わかりやすい動画なのでいつも大変参考になってます。ありがとうございます。

@patoru_patr 5 ай бұрын

そうなんですよねー。GPTsとかnote LMならほぼ無料なのに、構築するとめちゃコストがかかる上に管理に技術がいるからメリットがわかりづらいですよね。メリットは精度向上というよりは柔軟性なんですね。

@mathbullet 5 ай бұрын

@@patoru_patr おっしゃる通りですね！あと大事なこと忘れていたのですが、GPTsはOpenAIのモデル以外を使うことができない一方で、LangChainはOpenAIに限らずGoogleやAnthropicのモデルとも連携できる（基本的には動画内でllm=と定義してる部分を書き換えるだけで済む）ので、かなり選択の幅が広がります