OpenAIのGPTsより凄い！無料で使えるDifyを徹底解説してみた

0:00 はいこれで作成するとマインドマップ みたいな画面が出てきますクロド3につい て教えてくださいという風に入力すると めちゃくちゃダダダダと皆さんこんにちは ニャンタですえ本日はDEFYがすごいと いうテーマで話していこうと思いますえ皆 さんDefっていうプロジェクト聞いた ことあるでしょうか最近SNSでは結構 盛り上がってるのでなんとなく聞いたこと あるなって人もいるかもしれませんで個人 的にはこのDは今後めちゃくちゃ流行っ てくんだろうなって思うぐらい便利な アプリケーションになっていますで簡単に 言うとDEFYはえOpenAIのGPT のえ上位互換にあたるとえそういった サービスになっていますまなのでえ普段 からGPT使ってるよって人はこちらの DEFYのサービスを知っておくと良いか もしれませんgpdsの上位互換っていう 風に言われてもまそもそもGPTって何

0:47 だっけとか何が便利なんだっけっていう人 もいるかもしれませんGPTSは去年 リリースされたオーAIのサービスになっ ていて自分専用にカスタマイズした チャットボットを作ることができるえ サービスになっていますで他にも開発した チャットボットをえみんなに公開すること ができるのでいろんな人が開発した チャットボットを使うということもでき ますえ例えばウェブサイトを作るのに特化 したチャットボットだったりとか図を書く のに特化したチャットボットだったりとか いろんなものが出ていますでこういう風に 誰かが作ったチャットボットを使うという のももちろん便利なんですけども個人的に はそこまで使わないなという風な感じが あります皆さんは普段から使ってるGPT とかあったりするんでしょうかはい仕事と かでも使いたいという風に考えると地に足 ついたえGPTの使い方としてはこんな

1:33 感じでえ自分が使う用途に応じてそれぞれ プロンプトを設定しておいてえ使い分ける とそういったところかなという風に思い ますで毎回プロンプトを書いてくっていう のはかなり面倒くさいんですけどもこう いう風に一度設定しとけばずっと使うこと ができるので結構便利かなという風に思い ますで今回紹介するDFというのはえ そんなgpdsの機能をさらに強力にした ものになっていますアプリを使うための ソースコードがえ全てオープンソースで 公開されてるので言語モデルを使うところ 以外は無料で使うことができますで本日は このDFの機能について誰でも分かるよう に解説していきます言語モデルを便利に 使いたいという人は是非見ていって もらえればと思いますえそれでは早速やっ ていき ましょう最初にえDFの何がいいのかと

2:19 いうことについて簡単にまとめていきます え現在多くの企業で言語モデルを活用 しようとしてると思うんですけども最も やられてるのがチャットボットを導入する ということかと思います 皆さんも仕事の中でチャットボットを導入 したいとかそういった取り組みに参加され てたりするんでしょうかでこのチャンネル を見てくださってる方はま生成AIについ てかなり詳しいと思うんですけども普通に 働いてる人はまだまだチャットGPTを 触ったことがないという人が大部分だと 思いますのでまずは簡単なチャットボット を導入しようというフェーズのところが 多いかと思いますでもう少し活用が進んで いくとまカスタマーサービスのQ&台とか ですねお客さんからの問い合わせに対して え言語モデルを使ってえ自動で回答する ようなそういったことをやろうとしてる ところも多いかと思いますでこういう カスタマーサービスとかに使おうとすると

3:05 自分の会社の情報を元に回答を生成する 必要があるのでラグと呼ばれる仕組みが 必要になってきますラグの仕組みを知り たいなって人はこちらの動画で解説してる ので興味があったら見てみてくださいで 普通のチャットボットとかえラグを使った チャットボットを作ってお客さんに サービスとして提供しようという風に考え た時に大きく分けて2つのやり方があるか と思いますで1つがえ冒頭でもあったえ GTSを使う方法ですねでこれは事前に 独自の情報を設定したチャットボットを 作っておいてそのチャットボットのURL をお客さんに渡して使ってもらうとそう いった形になるかと思いますただこの パターンはえ結構制約が厳しくてまず GPTを使うにはえ現在CATGPTの 有料版に加入しないといけませんなのでお

3:50 客さん全員にえ有料版に加入してもらうっ ていうのは結構厳しいんじゃないかなと いう風に思います他にもGPT4が使われ てるのでえ利用回数の制限がだったりとか お客さんが入力したえプロンプトの情報と かえどれぐらい使ってるのかとかそういっ たログの管理ができないとか色々使い にくいところがあるかと思いますでそう すると次の2つ目の選択肢としてAPIを 使ったえ独自のチャットボットを開発する とえそういった流れになるかと思いますで APIっていうのはえプログラミングから 言語モデルを使用するサービスになってい てAPを使うことができれば言語モデルを 自分のサイトのサービスに組み込むとか そういったことが自由にできるようになり ますでさっき言ったようなえユーザーの 入力とか利用頻度とかプログラムを書けば

4:35 管理できるので言語モデルを使った サービスを本格的に提供したいという場合 は自力で開発するというパターンになって くるかと思いますでただしえ当然開発して いくのでえプログラミングの専門知識が 必要になってきますで専門知識がないので じゃ外注しましょうっていう話になると できるかできないかのえ技術検証をする だけでも大体300万とか500万とか それぐらいかかってくるかと思いますまま そもそもうまくいくかわからない中でそう いった額はなかなか払いにくいですよね そこで今回紹介するえDFのサービスに なっていますでこのDFを使うとえ難しい プログラミングのコードを書かなくてもえ 簡単にチャットボットを作ってえ外部に 公開するということができますまなのでえ プログラミングが書けないよって人でも このDFの使い方をマスターしていけば

5:22 簡単に言語モデルを使ったアプリを開発 することができますで私は一応 プログラマーでえコードは書いてるんです けどもそれでもえちょっとしたチャット ボットを作るというのも結構面倒くさかっ たりするのでこのDFを使ってま ちゃちゃっとチャットボット作ってどれ ぐらい精度出るのかなってのを確認するの も良い使い方だなという風に感じますで DFではえ普通のチャットボットとかラグ を使ったチャットボットとかそういった ものよりもよりレベルが高い高度な チャットボットも作ることができますで 高度なチャットボットって何だという人も いるかもしれません例えばえユーザーの 質問が来た時にえ難しい質問に関してはえ GPT4とかえCL3のオーパスとかそう いった強いモデルを使って回答を生成させ たりとか簡単な質問に関してはえグロック

6:08 のRAM3のモデルを使って高速に答えさ せたりとかでそういったことが簡単にでき ますで他にもえここでは紹介しきれない ぐらいいろんな機能が設定できるのでこの 後実演して説明したいと思いますで分かり やすいDFのすごいところとしてはえ主要 なモデルが全部使えるというところがあげ られますでGPTではOpenAIの モデルしか使えないんですけどもえDFで はこんな感じでアンソロpiicの クロードだったりとかGoogleのえ GEMとかですねいろんなモデルを使う ことができます皆さん最近はどの言語 モデルをメインで使ってるでしょうか少し 前に紹介したグロックのRAM3とか コマンドRPlusとかいろんなモデルが 最近出てきてるのでそういったモデルを 使ってるという人もいるかと思いますあと はえ会社で使ってる人はルOpenAIと

6:56 かえAmazonのベッドロックとかそう いったクラウドベンダーが供してる サービスを使ってるという人も多いかと 思いますでここにもあるようにえDFでは えそういったサービスにももちろん対応し ていますはいそしてえ気になる料金になり ますえまずえDFのサービスを使おうと すると大きく開けて2つの方法があります 1つがえクラウドサービスといってdfy の方で用意した環境を使うという方法に なりますでdfiのアプリ自体はえ オープンソースでえコードが公開されてる んですけどもそのアプリケーションを 動かすためのサーバーが必要になってき ますでそれをDの方で用意してくれて そちらを使うということもできるという わけですねで利用回数に応じてえこんな 感じでいろんなプランを選択できますで サーバーの用意とか一切したくないという

7:43 人は無料枠でも何回が使えるのでこちらを 使ってみるといいと思いますで2つ目の DFの使い方がえ自分でサーバーを用意し てえそこでDFのアプリケーションを セットアップするという方法になりますで こちらはえ多少プログラムの知識が必要に なってきますただえドッカーとか聞いた ことあるという人であればめちゃくちゃ 簡単にセットアップできるので自分で構築 した方がいいんじゃないかなという風に 思いますえドッカーとか分かるよって人に 向けて説明するとドッカーコンポーズの ファイルが用意されてるのでドッカー コンポーズAppで1発でローカルに サーバーを立ち上げることができます すでに自分のパソコンにドッカーが入っ てるという場合は本当にすぐにできると 思うので自分でのセットアップがおすめ ですノートパソコンで全然動くレベルなの で自分で動かしたいなって人は少し

8:30 ドッカーの導入方法を調べてみると自分で セットアップできるのでいいと思います はいここまで聞いてどうでしょうか ちょっとまだ実演をしてないのでイメージ ができないという人も多いと思うんです けども使った感じめちゃくちゃ便利で今後 えもっと話題になりそうだなっていう風に 感じましたで特にえプログラミングを書か なくてもかなり高度なアプリケーションを 作れるのでDFをマスターしておけば言語 モデルを使った技術検証の仕事とかも結構 できるんじゃないかなっていう風に思い ますえまたえ個人で使う場合でもdfyの アプリは結構いいんじゃないかなと思い ますえ例えばチットGPTに月3000円 払ってるけどそんなに使用頻度が高くない よとかCL3も使ってるので6000円 かかってしまってるよとかそういった人も いると思いますでDYだとえ使った分だけ

9:16 課金されるえ重量課金性になってるのでえ 使用頻度が低いという場合はDYで2つの モデルを使った方が安くなりそうだなって いう風な感じがします他にも言語モデルと 外部の検索ツールとかも組み合わせられる のでperplexTAIみたいなものも 自前で作ることができますはい色々とDF について紹介してきたんですけども実際に 使ってみると分かりやすいと思うので続い てえ使用方法について解説していきます またえLINE公式の方でDFの使い方を まとめた資料をプレゼントしてるので興味 がある人は概要欄のリンクから友達登録し てプレゼントというキーワードを入力して もらえれば自動で資料が送られるようにし てるので是非見てみてくださいそれでは 早速やっていきましょう

10:01 はいそれではDFのアプリを使っていき ますでDFのアプリ使うには先ほども言っ たように2つの方法があってDFの クラウドサービスを使うという方法と自分 で環境を作ってそこから使うという方法が ありますでDFという風に検索して もらえるとこちらの公式のページが出て くると思うのででクラウから使ってみたい という人はえこちらのゲットスーテですね こちらを押してもらえるとGoogle 認証とかでアカウントを作成できますで私 はえ自分で環境をセットアップしてそちら から使っていきたいと思いますでこちらの gitHUBの方からえ下の方に行って もらえる とDFについて色々と書かれていてえ こちらですねクイックスタートのところに dfyのアプリを動かすための最低限の スペックだったりとかえセットアップ方法

10:48 について書かれていますでスペックを見る とえメモリが4G以上あれば使えるという とこだったのでおそらく皆さんのパソコン で動かせるんじゃないかと思いますで セットアップ方法に関してでもドッカーが 使える環境であればドッカーコンポーズ アッでえ簡単にセットアップができます はいでドッカーでセットアップが完了し たらえこのローカルホストにアクセスすれ ばdfyのアプリが立ち上がりますこちら がえdfyのアプリのホーム画面になって いますでセットアップすると最初に アカウント作成をする必要があるので そちらを登録してえログインしてもらえる とこういった画面に遷移するかと思います で最初にまずこのDF上でえ言語モデルを 使ったえアプリを作っていくので使いたい モデルのAPIキーというものを設定して いきますでAPIキーっていうのは

11:36 プログラムからえ言語モデルを使用する時 に使うパスワードみたいなものになってい ます設定方法はこの右上のところからえ 設定をしてもらえればこんな感じの画面が 開くかと思いますこれのえモデル プロバイダーとこですねこちらを押して もらえるとちょっとアップしますかこう いった感じでえいろんな言語モデルの設定 が選べますで今私の方はえOpenAIと コヒアとglockclodのAPIキを 設定してるのでこの3つのモデルに関して はアプリに組み込むことができますで他に もえアスロピックのモデルとかジェミニの モデルとかえいろんなモデルが選択できる のでこのモデル使ってみたいなってのが あればえこちらから設定してもらえればと 思いますで簡単にセットアップ方法もえ 紹介しておくとえ例えばこのアロピックの

12:22 モデルを使いたいとなったらこちら セットアップをしてもらってえここにです ねGetYourAPIKefroman piicという風に書かれてるのでえ こちらからですねアクセスしてもらって 自分のえアスロピックのえアカウントに ログインしますでログインできたらえ クリエイトキーというのがあるのでえ こちらを押してもらってえ適当にですね dfyとか名前をつけてもらえればえ APIキーが発行でき ますでこのAPIキーは他の人にバレて しまうとえ勝手にモデルが使われるのでえ 注意してくださいでこのAPIキをコピー したら先ほどの画面に戻ってえこちらです ね貼り付けして保存をし ますはいそうするとこのモデルのところに えアンソロピックのモデルが追加されまし

13:07 たこれでアンソロピックのモデルも使える ようになりました最低限必要なモデルの 設定は終わったのでえ閉じておきますはい 続いてえチャットボットを作っていき ましょうあちょっと言い忘れてたので えっと言語の設定もしておきます今日本語 で全て表示されてるんですけどももしかし たら英語で表示されてるという場合はこの 右上のところですねこの設定のところから え言語のとこ選んでもらってえここを日本 語に設定してもらえれば全て表示が日本語 になるかと思いますはいそれではアプリの 方を作っていきますでちょっと言い忘れた んですけどもこのDFのアプリはえかなり 更新頻度が高いのでもしかしたら動画を見 てる時期によってはえUIが全然違ってる というところもあると思うのでそちらはご 了承いただければと思いますで基本的な 流れに関してはまそこまで大きく変わら

13:54 ないのかなという風に思いますでアプリを 作成するにはから作成というのとえ テンプレートから作成というのがあります で最初はテンプレートから作成にしても よくわからないと思うので真っさらな状態 から作っていきますえこちらのから作成を 押しますはいそうするとえどのタイプの アプリを作成しますかという風に出てき ますでチャットボットとテキスト ジェネレーターとえエージェントと ワークフローという4つが今ありますで このチャットボットっていうのはま チャットGPTみたいなおそらく皆さんが イメージするようなえチャットボットの アプリになっていますでこのテキスト ジェネレーターっていうのはえチャットで はなくて1度の入力を処理するとかえそう いった時に使われるアプリのタイプになっ ています例えばえ何かの要約とか翻訳とか をしたりとかえそういった場合はこちらの

14:39 テキストジェネレーターが向いてると思い ますあとはエージェントというのがあり ますでこのエージェントってのはえ OpenAIのAPI使ってる人は イメージ付きやすいと思うんですけども ファンクションコーリングのような何かの ツールと連携させるようなえそういった 使い方をしたいという場合はこちらの エージェントを使っていきますでこの ワークフローっていうのが今ベータという 風になってるんですですけどもえ最近出た 機能になっていてえちょっと言葉では説明 しにくいんですけどもえ何らかの決まった 処理を特にチャットとかをせずに行いたい 場合に使われるそういった アプリケーションのタイプになっています ちょっと難しいと思うので後ほどですね このワークフローと似たタイプのこの チャットボットのこのチャットフローと 一緒に解説していきたいと思いますまずは どんなものかということでこのチャット ボットを選んでチャットボットのえこの 基本から作っていきますはいここにですね

15:27 アプリの名前を入力していき ますニャンタアプリでニャンタアプリで いき ますしてくれる ニャンタのように返信してくれるチャット ボットと設定してえ作成するを押します はいそうするとこういった画面に遷移し ましたまちょっとこの時点でま難しそうだ なっていう風に感じた人もすごく多いと 思うんですけども1個1個丁寧に説明して いきますでちょっと日本語になっちゃっ てるので分かりにくい部分もあるかもしれ ないですですけどもこの手順というのが 言語モデルを使う時のシステムプロンプト のようなものだと思ってもらえばいいと 思いますなので例えばここにこのニャンタ アプリとしてえどういう風に振る舞って 欲しいのかというのを設定しますはい今 こういう風に設定しましたえあなたは

16:14 ニャンタというキャラクターのAIですと でユーザーの入力に対してニャンタのよう に返信を生成しますとでニャンタは語尾に えこの顔文字をよく使いますとで基本的に ポジティブでネガティブなことは言いませ んという風な設定をしますはいこれで システムプランプの設定が終わりました あとはえ変数というものとえコンテキスト というものが設定できますでこの変数って いうのはま実際に使ってみるとえイメージ 湧きやすいんですけどもえユーザーがこの 公開したチャットボットを使う時にえこの 変数の値を入力してもらってそれがこちら のプロンプトの方に埋め込めるというもの になっていますちょっとよく分からないと 思うので一旦変数の方は無視してえ後ほど 見ていきますでこちらのコンテキストと いうのはPDFとかをアップロードできる ものになっていてこの追加のところから ですねすでににアップロードしておいた

16:59 PDFをえ参照することができます例えば 今だったらえjemiPro1.5のえ 論文のPDFをアップロードしていたので そちらを設定できるというわけですねはい 今は一旦いらないのでえキャンセルをし ますで他にもこの機能を追加のところから 会話を開始する時の選択肢だったりとか AIが出力した後に次の会話の候補とか ですねパテAIとか使ってる人はえ イメージできると思うんですけどもまそう いったもの出したりとかテキストからえ 音声にしたりとかか音声入力できたりとか あとはラグの引用元とかですねえ設定する ことができます一旦今回はなしでアプリの 方を作っていきますはい続いてこの右上の ところでえモデルを選択できます今GPT 4が選ばれてるんですけどもこちらですね

17:45 先ほどAPIの設定をしたえ会社のモデル が色々使えますでコマンドRに関してはえ モデル名まで一緒に入れないとアクティブ 化されないようですでちょっとGPT4 高いのでGPT3.5のターボに設定して おきますでモデル設定したらモデルを使う 時のパラメーターも設定でき ますあとですねちょっと難しいんですけど もAPIを使うとJSONフォーマットで 出力するとかえそういったこともできるの でここで設定することができます今一旦 ですねこのままでモデルの選択をしていき ますはいこれでえプロンプトの設定とかえ モデルの選択が終わったので実際にこの チャットボットがどういう風な挙動で動く のかというのをえ確認することができます それが右側の方でですねテキストボックス があるのでこちらでまこんにちはと打って

18:32 み ましょうはいそうするとまにゃんにゃん こんにちはにゃんということで愉快な返信 が返ってきましたでここら辺のデバッグに 関してはGPTずとかなり似てるのかなと いう風に思いますでこれでいいなっていう 風に思ったらこの右上のところから公開 するでえ更新ですねを押し ますはいそうすると公開済みになったので 続いてえアプリを実行し ますはいそうするとこんな感じの画面が 開きますでこれがえ先ほど設定した プロンプトとかモデルが反映されている チャットアプリになっていますでなのでえ チャットボットを開発する人はえ先ほどの 画面で色々設定してあげてユーザーに対し てはこのチャットボットのえURLを渡し てあげるとえそういった感じで使えるかと 思いますなので今ユーザー目線でのこの

19:18 ニャンターアプリの使用感を確認すること ができますスタートチャットを押し ましょうはいそうするとチャットGPT みたいな感じでえチャットできます おはようと打ってみるとこんな感じですね プロンプトが設定されてるのでニャンタっ ぽい返信が返ってくるというわけですねで 新しい会話にしたいなって場合はこの ニューチャットからまた新しくですね セッション開けるのでチャットGPTとか と同じようにセッションごとにチャットの 話題を管理することができますはいこんな 感じで簡単にチャットボットが作れると いうのでかなりすごいなと思うんですけど も皆さんどういう風に思いますかまこれ ぐらいだったら驚かないよという人もいる と思うのでもう少し細かくできることに ついで見ていきますはいまず先ほどの設定 画面のところに戻ってみると左側の方に

20:03 ですねAPIアクセスとかえログ アナウンス概要ってのがありますでこの APIアクセスの方を見てもらうとはい こんな感じでAPIサーバーということで 先ほど作ったえチャットボットのAPI サーバーが立ち上がっていますでこれどう いうことなのかと言うとま言語モデルを 使う時にまAPIと言ってプログラムから 使うことができるという話があったんです けどもえ先ほど作成したオリジナルの設定 のチャットボットをAPIサーバーとして 公開できるということになりますまなので 少し難しいんですけどもCloud環境と かにこのDFのアプリを搭載してAPI サーバーとして立ち上げてこのAPI機を 渡してあげればえプログラムから先ほど 設定したオリジナルのチャットボットを 使えるというわけですねでこれも自分で

20:49 やろうとしたらえ実装したりとかえここら 辺のドキュメントの整理とかもですね すごく面倒くさいと思うんですけども すでに出来上がってるのでめちゃくちゃ 便利かなという風に思いますはい続いて こちらのlogアアナウンスですねこちら 押してもらえるとまこんな感じでユーザー が入力した会話の履歴を参照することが できます今2つの会話履歴があるんです けどもえこちらのエンドユーザーを見て みるとこんな感じでえ先ほど私が入力した チャットの履歴が確認できます何か ユーザーに使ってもらって管理者側でま どういう風に使ってるんだろうとかそう いうのを確認したい時にこのログ& アナウンスの方で見ていくとそういった形 で管理できるというわけですねこれまで データベース作ったりとかそういったこと がえドッカーの方でやられてるので特に 開発しなくていいというところで

21:35 めちゃくちゃすごいなという風な感じがし ますはい最後がこの概要というとこですね こちら押してもらうとまこんな感じで ニャンタのアプリの公開URLとえバック エンドサービスのAPIのエンドポイント ですねこちらがえ確認できますでこの公開 URLってのがま今ローカルホストになっ てるので私のノートパソコンからしかえ アクセスできないんですけども インターネットのサーバー上にこちらの アプリをセットアップするとこのURLを 教えてあげればアクセスできるようになり ますですごいのはこの分析のところですね でどれぐらいのメッセージ数がいつ送られ てるとかアクティブユーザーの数とかあと はトークンの出力速度とかですね1番下が えユーザーの満足度率ということでこれは 1000件あたりのいいねの数ということ でえ回答し終わった後にまこんな感じで ライクとかディスラブ付けらるんですけど

22:22 もそのユーザーの満足度率だったりとかえ あとはえトークの使用量ってことでGPT 3.5のターボを使ってるんですけども その時にえどれぐらいのトークンが使われ てのかとあとはそれがいくらぐらいなのか というのがこちらに記録されていますで これを見ながらま1ヶ月使ってみてどれ ぐらい料金かかるんだろうなとか簡単に 見積もることができるというわけですねで こういったところもモニタリングして くれると予算的にはまだ大丈夫だから クロード3のオーパス使おうとかでそう いった意思決定をする時の材料になるのか なという風に思いますいいですよねはい 続いてですねナレッジについても説明して いきますえこちらに関しては先ほど少し出 てたんですけども独自のえPDFとかの テキストデータを設定することができます えこの知識を作成のところ押してもらうと

23:07 まこんな感じでえテキストファイルから インポートとかノーションから同期とか カミングスンて書いてあってまだ実装され てないんですけどもウェブサイトからの 同期とかそういったモードが選択でき ますでPDFのところを見てみるとこの jemiProのですねこれすでに私が 設定してるんですけど もこんな感じで慣れ名とかナレッジの説明 とか少し難しいんですけどもこのPDFを 参照する時に使う埋め込みモデルとかえ そういったものを設定できますであとはえ より高度なラグのシステムとしてランク モデルというのが使われてるんですけども それもですねこちらで設定することができ ます今APIキーの方設定してないので アクティブ化されてないんですけども最高 精度のラグを試してみたいという場合はえ こういったモデルを設定するといいと思い

23:54 ますでナレッジ設定したらですね検索 テストとかもできるのでここでちゃんとと ベクトル検索ができるのかなというので こんな感じでjemiPro1.5につい て性能を教えてくださいという風に検索 するとPDFの中からどういった文章が 抽出されるのかというのとあとはちょっと 難しいんですけども関連ドアのスコアと いうのが算出されますはいいい感じですね はいちょっと難しいんですけどもラグの システム開発する場合はここら辺の思考 錯誤ってのはえ結構するんじゃないかなと いう風に思うのでめちゃくちゃ良さそう ですよねノレッジについてはこんな感じか なと思いますはい最後がこのツールって とこですねこちら押してもらうとまこんな 感じで外部のアプリケーションと連携さ せることができますま例えばYahoo ファイナンスとかってのはAPIからえ

24:40 株価の情報を取得したりとかえそういった サービスやってますのでこういうものを 使ったりとかあとはアーカイブとかでま 論文を参照させたりとかえそういった外部 ツールも用意されてますでyoo ファイナンスとでアーカイブに関しては 特に認証の設定は必要ないんですけどもえ 例えばGoogle検索とかですねえそう いった場合は独自にAPI機の設定とか そういったものを設定する必要があります はいでこの後紹介するコードの アプリケーションを作成する時にこういっ た外部のアプリケーションを選択できる ようになりますでその他カスタムというの もありますでこれに関してはOpenAI のえアクションズの機能と同じになってい ますまなので自分で用意したえAPIのえ オAPIというスキーマをこちらに記入し

25:25 てもらえれば先ほどあったようなえ Google検索とかかえアーカイブの APIとかそういったものと同じように1 つのツールとしてえ使用することができ ますでよくやられてるのはえGoogle appscptとかですねそういったもの と連携させるとかでそういうのは結構簡単 にできると思うので興味があれば試して みるといいと思いますで私のユミの方で OpenAIのGPTの講座の中でここら 辺に関してはえかなり詳しく解説してるの で自分で作ってみたいという人は是非 そちらを見てもらえるといいと思います はい以上がえDEFYの中で設定できる 機能の紹介になってきますはい続いてえ より高度なチャットボットを作っていき ましょうというのでえスタジオの方に戻り ますはいそれではこちらからですねアプリ を作っていきますえまたですね0から作っ ていくのでこちらですね押してもらってで

26:12 このチャットボットのチャットフローとえ 先ほど紹介したワークフローですねえ かなり似てるんですけどもチャットフロー を使うとユーザーと会話しながら言語 モデルに何か処理させるようなえそういっ たアプリケーションが作れますえと言って もま全然よくわかんないという風に思い ますので試しに作っていき ますギンター2という風に設定して ギンター2です とはいこれで作成するとまこんな感じの ですねマインドマップみたいな画面が出て きますで見方としてはえ左からですね右側 にえ処理が流れていきますでこの1つ1つ のノドにですねえ何かしらを設定していっ て回答を生成させるとえそういったものに なっていますもうこの時点でちょっと難し

26:57 そうだなっていう風に思いますよねで私は まだまだ使いこなせてない部分多いと思う ので基本的な使い方について紹介していき ますでまずこれ今3つのノードがえあるん ですけども一旦ですねこの2つは削除し ます削除してはいこの状態にします今これ 開始というノードがあるのでこちら スタートボタンを押してでこの開始の後に 続くノードの方を選択していきますでこの ブロックのところから言語モデルとか 先ほど設定したPDFを参照させるとかえ そういったことができますでこれ組みツー ルってのがえ先ほど右上の方で見たこの ツールのところですねそこで確認していた えアプリケーションが選択できますであと カスタムツールってのがえ自分で設定する ツールになってますで今ブロックのところ からですねえllmを選択しますはいそう

27:43 するとこの1つですねえブロックができて これがこの開始と繋がってるというのが 分かるかと思いますはいこんな感じで自由 に動かすことができますで今GPT4が 選択されてるんですけどもこちら何でも モデルを選択できますまGPT3.5 ターボの0125とか設定してきましょう かでこれでコンテキストですねこれは言語 モデルのプロンプトにおけるえ コンテキストになってます今えCクエリー というものを選択してますえユーザーの 入力それをクエリーという風に呼んでます その他カンバセーションIDとユーザー IDというのがあるんですけどもこれらは 会話セッションのIDとかえその入力し てるユーザーのIDになってますなかなか この2つはですね使わないのかなと思い ますでこれどうするかって言うとこの. クエリーというところにえユーザーの入力

28:31 が入ってくるのでこの言語モデルの システムプランプのところにえあなたは ニャンというキャラクターですとで ニャンタは語尾にカ文字をつけますと下の ユーザーの入力に対して返事を生成して くださいという風に打った後にスラッシュ を押すとですねこれコンテキストってのが 出てきますこれでシスクエリーという風に 押すかコンテテキストっていう風に押して もらえるとこんな感じでえプロンプトの中 にユーザーの入力を埋め込むことができ ますこれでコンテキストの中にえユーザー の入力が入ってくるのでプロンプトが設定 できてますあとはメモリーということで どれぐらい会話を入れるとかえそういった ことも設定できます一旦ここはなしにし ますこれで言語モデルの基本的な設定が 完了しましたはい言語モデルの設定完了し たのでえ続いてですねえ回答というのを

29:16 選びます言語モデルが今入力をしてえ回答 を生成するってが出たんですけどもじゃ その回答をチャットの方にえ表示させると そういったブロックを作る必要が ますでこれ今回答を押すとこの回答 ブロックが出てきてこれがえ連結されまし たでここで回答としては1つ前のこの言語 モデルが生成した出力を表示させたいので えシャープを押してllmのテキスト こちらを選択しますはいそうするとこの llmがこのプロンプトでえ生成した出力 ってのを表示させるという設定ができまし たでこれ今テキストっていう変数が設定さ れてるんですけどもまそれはですねこちら のllmの下の方でえ出力変数の方見て

30:02 もらえばえテキストってなってるのでそれ を参照してるというわけですねはいこれで 簡単なチャットボットが作成できました はい続いてえ作成したチャットボットを テストしてみましょうということでえ テストの方法としてはえこの右上のえ プレビューですねえこちらが先ほどの ノーマルのチャットボットというところの デバッグ機能に当たりますこちら プレビューを押してもらうとこんな感じで 右側にチャットのテキストボックスが出て きますちょっとニャンタが邪魔です ねちょっと移動してもらってここでこの チャットボットのえテストを行いますえ こんにちはと打ってみましょうはいそう するとえ左側からですねまちょっと早すぎ

30:47 てわかんなかったんですけど もまずこの開始っていうブロックからえ llmのところに行ってまその後回答と いう風なフローが全てチェックマークが ついてるというのが分かるかと思いますで このワークフローの処理を見てみるとで 開始っていうノードの中ではユーザーの クエリーがこんにちはですよとかファイル の設定がなくてえセッションIDとかです ねそれが設定されてるとでその後llmに 対してこんにちはていうユーザーの入力が えインプットとして入ってAPAが実行さ れてますで最後に回答ということで言語 モデルが出力した回答がデータとして出て くるというわけですねそれでこんな感じで えができてます一通りうまくいったなと 思ったらこれ公開するを押しますでそう

31:33 すると先ほどのチャットボッと同じように まこんな感じでチャット画面ができるので えこんにちはという風にすと後ろでは 先ほど設定したえワークフローのプロセス がえ実行されてえ回答が生成されてます にゃんたこんにちは元気にゃんたか私は 元気だにんたということでちょっと調整は 必要なんですけどもこんな感じのチャット ボトが作れましたはいさんどうでしょうか でちょっとこれの設定が難しいなという風 に思った人も多いと思いますであとは単純 なチャットボッドだったら別にこんな ワークフローの処理書かなくてもいい じゃんという風に思った人も多いと思い ますでもちろんこれは説明のためにかなり 単純な構造にしてるんですけどもえ例えば ですスタジオの方に戻ってもらってえ こちらの言語モデル専門家っていう

32:19 チャットボッドですね事前に作っておいた ものを押してもらえればまこんな感じです ねえ少し複雑な処理を行わせる アプリケーションも簡単に作れますま 例えばこれだったらですねえ最初開始と いう風にした後にえ質問分類機というので まGPT3.5ターボを使っ てこのユーザーからの質問がジミPro 1.5に関するものなのかクロド3に 関する質問なのかあとはそれ以外かという ところでえ条件分岐をさせてあげますで 例えばえjemiPro1.5に関する 質問という風に判定したらえ次はですね 事前にアップロードしておいたえジミ Pro1.5の論文を参照してえGPT 3.5ターボでえ回答を生成する

33:07 とでもしえユーザーの入力がえCL3に 関する質問だった場合はえ事前に設定して おいたビリサーチという外部ツールを使っ てグロックのえラマ3のモデルを使って 回答を生成させるという風に設定して ますで最初の質問がえこの2つ以外の場合 ですねえそれ以外というところでまその 場合は回答としてまその質問には答えられ ませんという風に回答を生成するように 設定して ますはいこんなシステムは結構ありがちか なと思うんですけどもでこれをプログラム で実装しようとするとそんなに難しくない けど結構面倒くさいですよねでそういった ものもこのDFを使えば簡単に検証でき

33:53 ますちょっとこちらもプレビューしてみ ましょうということでちょっとニャンタを し ますはいでプレビューとこんな感じで チャットボックスが出てき ますここに質問を打っていき ますえjemiプロ1.5の性能について 教えてと言い ますはいそうすると開始ノードからこんな 感じでえ原語モデルが回答を生成して 最後のプロセスが終了しましたプローを見 てみるとまちゃんと最初にクラス分けして 知識取得を参照しながらGPT3.5 ターボで回答を生成してくれるというわけ

34:40 ですねでちょっと関係ないことについても え打ってみましょうこんにちは とそうするとこれ最初の分岐の中でそれ 以外のところにえ分類されるのでえ回答と しではその質問に答えられませんという風 にして返答が返ってき ますはい一応クロド3についてもやって いき ましょうクロド3について教えてください という風に入力するとまこんな感じで今 めちゃくちゃダダダダとグロックのラマ3 を使ってるのでえ回答速度が早かったん ですけど もここでまずクラス2にえ分類されてえ

35:25 タリーサーチが使われて グロックのラマ3が使われて回答が生成さ れるというのでちょっとラマ3なのでえ 回答が英語になってしまってますけども うまくワークフローの処理ができてると いうのが分かりますはいこんな感じで複雑 な分岐でもこのブロックを組み合わせて あげればチャットボットが作れ ますでできたらですねこれ更新してえ アプリを実行してもらえるとまこんな感じ でですねえジェミニPro1.5専門家 ってなっちゃってるんですけども先ほど 設定したえ処理フローでですねチャットが でき ます はいちょっとやってみますかこんにちは とはいでその質問には答えられませんと

36:11 いう風に出てきます ねはいこんな感じでうまく動作しています はいこちらがえチャットフローを使って 実現できるアプリケーションの開発になっ てます皆さんどういう風に感じたでしょ でょかこの処理を書いてくのが結構難し そうだなっていう風に思ったと思いますで そういった場合はえこちらのテンプレート から作成のところですね押してもらえると ですでにいろんなテンプレートが用意され てますで全てちょっと英語になってしまっ てるんですけどもでこういうのを参考にし てえ作成してみるとこのフローズが出て くるのでどういう風にしてえこの各 ブロックですね使ってるのかなというのを 見ながら自分でカスタマイズしていくと いいと思いますはい一通りえDFで使える

36:57 機能について紹介してきたんですけどもえ 皆さんどういう風に感じたでしょうか個人 的にはえこれが無料で使えるってのは信じ がいほど作り込まれてるなという風な感じ がして商用利用も可能なので今後かなり 流行ってくるんだろうなという風に思い ます皆さんも使ってみて是非感想とかあれ ばコメントの方で教えてくださいで先ほど もちょっと言ったんですけどもこのdfy のアプリがかなりすごかったので今回喋っ た内容も含めて復習できるようにDYの アプリについてまとめた資料を私の公式 LINEの方でプレゼントしています概要 欄から友達登録の方してもらって プレゼントという風に入力してもらえれば えDFについてまとめた資料と少し前から プレゼントしているチャットGPTと chow3のプロンプトのまとめ資料を

37:42 無料で受け取れるようにしてるので是非 そちらも見てみてくださいはいちょっと 長くなってしまったんですけども以上で 本日の動画を終了したいと思いますこの 動画が良かったなっても人はえ高評価 コメントチャンネル登録の方よろしくお 願いしますユでもやってますので概要欄 から見てみえそれではまた次回の動画でお 会いしましょうバイバイ [音楽]