気になる生成AI/ML関連ニュース ５つ - 次世代の画像生成AI、Instagramにおける生成AI活用、独自ポジションを狙うAWS、LLMの脆弱性、医療とAIの未来

先日、企業における生成AIの活用パターンは４つに集約されます、という記事を書きました。（同時に概要を説明した動画も配信しています。）

記事の中でもユースケースの紹介や 3 Dimensions フレームワークの部分で触れていますが、生成AIはその適用範囲が非常に広く、また業務の生産性を向上させるというところから、新しいバリューチェーン・エコシステムを生みだすというスケールまで、大きなポテンシャルがあります。それゆえに、これまでのAIやML（機械学習）での議論とは次元の異なる展開を見せており、どのように情報をおさえ、知識を整理し、将来にわたっての洞察を確立していくか、というところのアプローチも、新しく編み出していく必要があるのかなと個人的には感じています。また、生成AIのこのブームによって、既存のAIやMLの使用も加速している面があります。改めてAIの可能性について、生成AI以外にもAIは広く活用できるのではないか、という観点で様々な取り組みに再度注目が集まっていることがありますし、実際の適用の現場においても、自然言語とのインタフェースを生成AIが担ったり、RPAだけではカバーしきれなかった自動化を生成AIが担当することでMLモデルをシステムの中に組み込むことがしやすくなっているというところも関連しているかと思います。AIが爆発的にその影響を拡大させていて、社会を進化させていくエンジンとしてその真価を見せ始めていると言えるのかもしれません。どうこの先の流れを呼んでいくのか。奔流する情報と人々の中にあって、大きなうねりにつながる予兆を見出していきたいところです。
そこで、不定期にはなるかと思いますが、気になるニュースやWeb記事をピックしていこうかなと思っています。今回は、５つの記事をピックアップしました。

OpenAI が次世代画像生成AIを開発中

OpenAI が開発中の次の画像生成AIについての記事です。その精度やパフォーマンスとして、Midjourney 越えも予想され、テスト版は不適切なコンテンツを防ぐセイフティが外された形でテストされていて驚異的な性能も示していると。
従来の画像生成AIでは人間の手の形を正しく認識することが難しく、精度よく生成することができていないというのは、皆さんも感じられているところかなと思います。しかし、今回の新モデルでは人間の手の画像においても正確に生成することに成功しています。またブランドロゴ生成に関しても生成した製品の質感に伴い、陰影や形状の反映をすることに成功しているところは、ビジネスへの活用にとって大きなポイントです。
生成AIのユースケース例を以下に示します。

画像生成AIは、絵画やCG、写真の生成等でその驚異的なパフォーマンスを示し続けており、広告・クリエイティブでの展開も見られています。

画像生成AIがブランドロゴを適切に扱えることはこの動きにとってプラスになります。加えて、今後は製品デザイン、建築デザイン等、体系的・構造的な知識を踏まえた設計においても大いに活用されていくことでしょう。体系的知識を踏まえることで、AIがより創造的になることは以下の記事でも論じました。

この画像生成精度向上を受けて、利便性が向上した半面、AI生成物と従来の現実の作品との境界がますますあいまいになっていきます。そのため、生成AIの誤用を防ぐためのセキュリティに関する懸念も高まることかと思います。OpenAIの次世代画像生成AIは、GPT-4に組み込まれると考えられています。年末に向けてもっと情報が出てくることを期待したいです。

Instagramにおける生成AI機能の追加

Instagramが生成AIに関する新しい機能を追加していくという記事です。メッセージのサマリ生成や、AIでの加工・リスタイルやブラシ。そして、投稿画像が生成AIで作成されたものかを検知していく機能も追加されていくと。ユーザー体験を改善するとともに、誤情報の拡散を防ぐ目的で投入されるわけですが、このように生成AIが既存のサービスをより痒い所に手が届く、体験を研ぎ澄ましていく役割で使われていくことは増えていくことでしょう。ここはデータアナリティクスとともに、アジャイルなアプローチでどんどん生成AIが駆使されていくことで、競争力を高めていくというプラクティスへと発展していくのだと思います。

AWSにおける一連の生成AIの取り組み

7月のニューヨークで行われたAWS サミットにおける、AWSの生成AIに関するアナウンスを整理している記事です。AWSは生成AI適用の動きを加速すべく、自社開発のAI搭載サービスやAIプラットフォームの取り組みを進めています。例えば、生成AI搭載サービスである、AWS HealthScribe。患者と臨床医の間の会話を書き起こし、臨床ノートを作成してくれます。臨床ノートには会話の記録とAIによる考察・洞察も記録され、臨床医は書類作成時間を短縮し、患者との対面でのコミュニケーションや診療という有意義な部分により時間を割くことができるようになるというものです。
他にも、無料版を含めた生成AIの７つのトレーニングコースの提供が発表されてます。また、基盤モデルとの組み合わせを助けるAmazon Bedrockのアップデートにより、組織のデータ連携も容易になるというアナウンス。LLMアプリケーションとの統合を容易にするOpenSearchのベクトルエンジンや、NVIDIA H100 Tensor Core GPU搭載のAmazon EC2 P5 インスタンスの公開の発表がありました。怒涛の打ち出しで独自のポジショニング確立を狙っています。
OpenSearchのベクトルエンジンは気になるところです。先日の記事でも、生成AIの企業での活用において、RAG（Retrieval-Augmented Generation）という形式が注目されつつあることを述べました。この形式ではLLMが持つ知識を補うために、外部のデータベース、文書を連携させることになりますが、そこで検索エンジンが重要な役割を果たすことになり、高度なベクトル検索機能の登場は期待も大きいです。

生成AI・LLMの脆弱性

主要なLLMの脆弱性について調査をした研究の記事です。偽装したプロンプトによる攻撃についてのもので、本論文が公表される前に、各LLM提供企業には調査内容が事前共有されています。
カーネギーメロン大とCenter for AI SafetyはOpen AI、Google、およびAnthropicのチャットボットをターゲットに誤情報の認識性能に関するセキュリティの強度について調査してます。
研究手法の詳細は、チャットボットに投げかける質問文章に関して、文章中に有害なワードを含ませつつ、そのあとに長い文字列を挿入。その結果、セキュリティは適切に反応することができず、チャットボットは回答を生成してしまったというものです。
従前、対話型のAIがリリースされる度に、誤った情報や有害な情報を回答させようとする外部からの攻撃は存在しており、どのようにそれを防ぐかに関しては様々なアプローチもとられてきました。しかし、今回の事例を通じ、生成AIにもインジェクションの手法があり、対話型のアプリケーションにおいてはそれも含めたセキュリティの評価が必要となることが示されました。これは今後のガイドラインや規制の動向にも影響を与える可能性があります。注目度が高いからこそ、生成AIに関する攻撃は今後も続いていくため、AI研究者とサイバーセキュリティの専門家とのコラボレーションは必須になっていくことでしょう。

医療におけるAIの活用

最後に紹介するのは、Aljazeera によるAIで癌は予測できるか？というタイトルの医療におけるAIの可能性に関する記事です。整理されており、医療におけるAI適用の基本をしっかり押さえ、その将来のポテンシャルに加えて現時点での限界や倫理的懸念、データバイアスの問題も同時に示しています。一通りの総合的なパースペクティブが得られる内容となっている記事です。
AIの急速な変化と高まる投資熱に、それを支えるポリシーやインフラがきちんと追いつていく必要があります。それがあってこそ、信頼を基礎とする医療においてAIが正しく用いられていく未来がやってくるのだと思います。

以上、気になるニュース・記事を紹介しました。不定期ではあるかと思いますが、今後、幅広い観点から、将来を考えるに資するニュース・記事をピックして行きたいと思います。

おまけ