#ChatGPT APIを使ったワークショップをやってみた on #TERAKOYAFORCE
昨日はTERAKOYAFORCEというSalesforce関連コミュニティの集まりがあり(なんとコロナを挟んで東京リアル開催は3年半ぶりとのこと)、最近話題になってるChatGPTに触れてみるというワークショップをやりたいということで、ハンズオンのメンターとして登壇してきました
多分ChatGPTそのままだと全く関係なくなってしまうのですが、これまで数々のnoteで書いてきた通り、僕が作っているのはSlackで使えるChatGPT。そしてSlackはSalesforceファミリーであるということで、イベント自体にはSlackから2名(3名か)をお迎えして開催することが出来ました。
イベント会場はいつもお世話になってますテラスカイさんのセミナールーム。年始のJapanDreamin'以来の訪問でした。
ドリーミン以来のテラスカイ会場。五ヶ月ぶりかな？ pic.twitter.com/ShoNmCRtpU
— George リバネスCIO/リバネスナレッジ代表 (@geeorgey) May 25, 2023
ワークショップということで、今回はParty on Slackのユーザーコミュニティ用ワークスペースを作成し、ワークショップ用のチャンネルを設定。そこに参加者の皆さんに入ってもらって実技をやりつつ進める形式にしてみました。
プレゼンの内容は↑のリンクを参照してもらうとして、前半はアプリで出来ることの概要について、後半でみんなでワイワイやるというスタイル。
せっかくワークショップにするということなので、最終アウトプットを定義して進める形にしました。
最初の誤算
Slack使ってる人もそうではない人もいる環境では、未体験の人がまず環境にログインするというのに時間がかかりました。これは最初にやっといてもらうくらいのほうが良かったかも。そもそも複数ワークスペースで使ったことが無い人も居たりして、アカウントの概念についてSlackの稲葉さんにサポートコメントいただき助かりました。
第二の誤算
OpenAIのAPIにはレートリミット(使用数の上限設定ですね)があります。こちらはgpt3.5の制限。
3,500 RPM(requests per minute)
90,000 TPM(tokens per minute)
という設定がされており、リクエスト数が3500回行くということはあまり考えられないのですが、90000トークンは割りとあっさりと行ってしまいます。19:15開始(つまり+9なので10:00ですね)で終わったのが20:45なのでこの間に合計440回のリクエストがありました。
利用トークン数は52万程度ということなのですが、とりあえずSlackにログイン出来た方からメンションして挨拶してみましょう！という話しをしたところOpenAIからのレスポンスが詰まるというね。冷や汗が出ました。
サーバーへの負荷でアプリが落ちてたんじゃないの？とも思ってみたのですが、Metrixを見た限り、若干スループットが落ちているものの、レスポンスエラーが出ることもなくメモリが足りなくなるようなこともなかったのでそこではなかったようです。やはり安定を取るならAzure版のAPIの方がいいのかもしれない。ただ、Azure版はまだGPT4が来ていないので使えない…というジレンマを抱えつつ今後どうするかを考えるフェーズがやってきています。
そんなこともあったのですが、ワークショップは続いていく
色々面白かったのですが、その中からいくつかピックアップしていきましょう。
最近は出来ないことは出来ないみたいな感じに変わってきたのかな
これは食い下がってそれでもどうしても書いてくれって続けると出力されるかもしれないですね
画像について質問者の意図としてはどこかのURLを引っ張ってくるということを想定したようなのですが、現在のバージョンだと嘘URLの生成がされなくなったような印象があり、そういうことには使えなさそうですね。
かわりと言ってはなんですが、Party on Slackでは「画像錬成」ほにゃらら、と書くことでDALL-EのAPIを使って画像を生成することが出来ます。
ということでやってみたよハンバーグ。これはステーキだよ…
DALL-Eもmidjourneyくらいのレベルになると良いのになと思ってはいるのですが、まだまだですね。頑張れOpenAI！
投資のように、ユーザーに直接損害を与える可能性があるようなアドバイスは出来ないように設定されているようです。責任負えないからそりゃそうだろうなという印象ではある。
それでは本来のゴールに戻ってみます
これなんかは分かりやすい例で、少しずつ解像度を上げていくようなやり方になっています。こんなのも入れたいあんなのも入れたいという情報を追加していくことで目的地までたどり着くタイプ。伊藤さんありがとう！
これは見てて面白かったのですが、Twitter→Instagramへ変換しようとすると絵文字が増えるようです。そういった認知になってるんですね。ターゲット層を指定するやり方もあるのですが、このようにメディアを指定することでお作法にあったテキストを出力する事が出来るという発見がありました。
初めてやることについて「具体的に」AIに指示を出せる人はどれだけいるでしょうか。それが出来たらAIになんて聞かないだろって思う人のほうが多いのでは？というわけで、ChatGPTを利用する時に使われるゴールシークという手法を使って最終的なアウトプットを得るためのプロンプトづくりをしてもらうことにしました。
これはChatGPTに質問してもらう方法で、提案に沿って答えているうちに出力が具体化していくという考え方です。なぜか後半になると改行が消えるという問題があるのですがこれはなぜなんだろうと思案しているところです。長すぎるとサマリーするような処理になっているのでそこが悪さをしているかもしれない。
最終的には関西弁になってました
「Salesforceって使いすぎると疲れちゃうよね…でもTERAKOYAFORCEなら標準機能ベースで、Salesforceのお悩みをリラックスしながら解決できる勉強会を開催してるねん！プログラミング全然分からなくてもOKやで！初めてでも大丈夫やで！更に、参加費は無料なのでお金の心配もいらないねん。」
笑うセールスマンが伝わってないな。最初の絵文字がそれなのか？
作風を似せられるよという話題から、キャラクターへと遷移
ヤムチャ風と言われて、キャラクターは思い浮かぶものの口調に特徴あったっけな？となりましたが、ドラゴンボールと入れると全部悟空になってしまう模様。フリーザはいい感じですね。
物語風にしていく
地球が環境破壊という悲劇の結末に向かい、私たちの愛する星が終焉を迎えようとしている。しかしこの最後の瞬間に、TERAKOYAFORCEコミュニティへ行くことで、人々が共感し合い、力を合わせて新たな希望を見出すことができるのだ。TERAKOYAFORCEでは、創造性豊かなメンバーたちが、困難な時代を乗り越えるためのアイデアや解決策を提案し合い、一同の心を通じて絆を深めている。このコミュニティに参加することで、私たちは地球滅亡の最後の瞬間においても、希望を抱え、互いに支え合い、未来へ向けて一歩踏み出す勇気を持つことができるのだ。
映画が始まりそうですね？
ハンズオンのまとめ
ということで、まとめきれなかった部分もあるのですが、参加者皆さんにチャンネルに入ってもらって進めていくというスタイルは面白かったですね。コツを掴んだ人を見て、他の人が学び、更に自分のアイデアを付与して展開していくという流れをハンズオンの中に盛り込むことが出来ました。
ChatGPTをそもそも触ったことが無いという人もいたので、Slack上でのハンズオンは公開チャンネル上でみんなのやり方が共有されることもありとっつきやすかったんじゃないでしょうか。
Party on SlackのSlackコミュニティに入りませんか？
こちらで紹介したやり取りは
こちらのURLからSlackに参加していただくことで入ることが出来ます。
興味がある方のご参加お待ちしています。
