生成AIと通常のAIの違い

生成AIは、ジェネレーティブAIとも呼ばれ、入力データのパターンや構造を学習することで、それらの入力データと同様の特性を持つ全く新しいデータを生成する人工知能を指す。生成AI以外のAI（以後、通常のAI）は入力データを学習することで予測データや判定データのようなものを返すのに対し、生成AIは一般的にコンテンツと呼ばれるような、創作性を見出し得るデータを返す。

生成AIを用いたサービスとしては、自然なテキストチャットを行うことができるChatGPTや、この対話機能をWeb検索に応用したBing Chat、人目にも違和感が少ない画像を生成するMidjourneyやStable Diffusion、プログラムを生成するGitHub Copilotなどのサービスが有名である。

特にChatGPTの根幹を成すLLM（Large Language Models：大規模言語モデル）については、こちらの連載もご覧いただきたい。

通常のAIと比較した生成AIの特徴や固有の課題

生成AIは、通常のAIより事前の学習量が膨大であり、コンテンツを生成するという点において大きく異なっている。また、人間が創作するような自然なコンテンツを生成できるという特徴により、極めて大きな注目を集めている。一方でその特徴に起因する、通常のAIとは異なる課題を有している。

サービスの爆発的な増加
生成AIが話題となる端緒となったMidjourneyやChatGPTが発表されてからまだ1年も経過していないが、この間に既に数十を超えるベンダーが生成AIを用いたサービスの提供に乗り出し、十数の企業が社内業務にChatGPTを導入したと発表している（2023年6月現在）。生成AIを用いたサービスを取り巻く状況は刻々と変化しており、導入判断やその導入方法の見極めを難しくしている。

AIを運用するハードルの低下
生成AIモデルは大規模な入力データを用いて事前学習が行われた学習済みのモデルであり、利用者はファインチューニングと呼ばれる手法を用いて、自らの用途に応じたカスタマイズを行う。また、入力するテキスト（プロンプト）を工夫することで、追加の学習を行わずとも望んだ成果を生成できるようにするプロンプトエンジニアリングという手法も存在する。これにより、生成AIは通常のAIより早い段階におけるチューニングやカスタマイズが可能となっている。

出力結果が不安定
生成AIは同じプロンプトを入力しても、微妙に回答内容が異なる。また、それまでの入力内容を短期記憶として蓄積しながらコンテンツ生成を行うため、回答内容は常に文脈に大きく依存したものとなる。いずれにしても、生成AIへの入力内容と出力内容は一定することがない。

著作権侵害リスクの増加
生成AIを用いて生成されるテキストや画像、音声などのデータは、著作権法に照らして適正なデータである必要がある。特定の作者の創作物を強く想起させる（類似性や依拠性の高い）データは著作権法違反とみなされる恐れがある。利用にあたっては、入力データを事前に確認するだけではなく、生成させるデータが適法なものであることを確認する必要がある。

生成コンテンツによる信頼毀損リスクの存在
生成AIを用いたサービスの提供では、利用者から任意の入力（プロンプト）を受け付けることになる。そのため、良識や社会規範から逸脱するような攻撃的なプロンプトや、学習データに含まれる機微情報・個人情報の生成を企図するような悪意のあるプロンプトにより、サービスの信頼性を毀損するような出力を行ってしまうことがある。

失敗しない生成AI導入プロセス

前述のとおり、約3年前に筆者は通常の開発プロセスでAIを導入しようとすると様々な見落としが生じ失敗してしまうことを指摘し、失敗しないAI導入のための開発プロセスを次のように示した。

図1：通常のAIを失敗せずに導入するためのプロセス

通常の開発ステップに、AI開発で必要なステップを追加することで、これまでの開発から大きく逸脱することなく、開発を行えるようになっているのが特徴だ。
生成AIも基本的にはこのプロセスを踏襲して導入を行えば良いが、生成AIの特徴や課題に鑑みた追加検討の論点や対応すべき事項がある。生成AIにおける失敗しない導入プロセスは次のようになる。

図2：生成AIを失敗せずに導入するための概要プロセス

ステップの数や全体の流れは変わらないが、生成AIならではの特徴や課題を踏まえ、幾つかのステップで追加の対応が必要となっている。

表1：生成AIの特徴や課題と追加で必要となる対応

各ステップの概要と進め方のポイント

以下、各ステップについて概要とポイントを述べる。

1. プロジェクト企画
“プロジェクト企画ステップ”では、そもそもの業務課題に立ち返る。このフェーズでは、業務課題を引き起こす真因や現状の把握、あるべき姿の定義とそれに対する現状とのギャップを明らかにし、その解決手段の検討と計画立案を進めていく。

・ポイント：生成AIはその課題を解決する最適の技術か？
生成AIの登場により、新たな課題解決ニーズが喚起されているのは事実だが、その課題を解決する技術が生成AIであるとは限らない。生成AIはどのような用途にも対応した万能のツールではなく、課題の前提や目的によっては、生成AIではない技術の方が適当な可能性がある。

例えば、社内FAQのインタフェースとしてChatGPTを利用する案があるとする。このとき、質問内容の多くが定型的なものになるならば、従来のシナリオ型チャットボットの方が利用性に優れているだろう。また、FAQの量や使われ方によっては、Wikiなどのコンテンツ管理サービスの方がよりマッチする可能性があると考えられる。

2. 生成AI企画
“生成AI企画ステップ”では、導入するAIとその利用に関する理解を深め、最適なAI導入形態とタイミングを定めていく。このときにAIの学習に利用するデータを決定し、それが入手可能であるかを確認する。また、どのようなアウトプットが好ましいのかについても明らかにしておく。

・ポイント1：その課題を解決可能な生成AIサービスは存在していないか？
特に生成AIは通常のAIよりもサービスが登場するペースが早く、1カ月程度で状況が大きく変わる。そのため、社内業務用の生成AIを構築している間に、同等の機能を持つ安価なサービスが登場してしまうような状況があり得る。
まずは十分なリサーチを行い、サービスやツールが存在しないこと、また、直近のリリースがないことなどを確認することが重要である。また、既に利用しているシステムやサービスを活用するために生成AIの導入を検討しているのであれば、当該システム／サービスを提供する事業者に、生成AIを用いた機能提供の可能性がないかを忘れずに確認する。

また、利用する生成AIサービスの出自や正当性についても事前確認することが望ましい。これは、企業から流出したモデルをベースに構築された生成AIサービスや、著作権のあるデータで学習された生成AIサービスなどが存在しているためである。

・ポイント2：入力データと生成データはガバナンス上適切か？
生成AIの利用においては、入力データと生成データの両方が適切なものである必要がある。
入力データの観点では自社が著作権を持たないデータや個人情報などのデータの排除、出力データの観点では利用者が入力したプロンプトに含まれる不適切な文言の排除や、生成データに含まれる不適切なデータの削除処理といったフィルター処理が必要となる。データ利用やAI利用のガイドラインが社内に存在すれば、生成AIはそれらのガイドラインに準拠するかたちで構築されなければならない。

また、生成AIが出力するデータは、これらのガバナンス上必要な処理を施したうえで、なお期待するデータを生成できていなければならない。品質に関する作業は、“設計・実装ステップ”で実施しても良いが、可能であればデータに関する検討を行うこの段階で、生成AIエンジンのチューニングやフィルター処理に関する試行をある程度済ませておくことが望ましい。

3. 設計・実装
“設計・実装ステップ”では、AIを利用する業務そのものと、AIシステムの設計と構築を行う。この段階では過剰に作りこむ必要はない。また、PoCが必ず成功するとは限らないため、既存システムに組み込むことはせず、可能な限り独立した構成としたい。

生成AIのチューニングやフィルター処理について、前のステップで対応していない場合、ここで行う。

・ポイント：生成データの品質を高めるための仕組みを設ける
例えばChatGPTは、長期記憶に相当する機能を持っておらず、利用者との数回～十数回程度で初期のやり取りの内容を忘却してしまうが、データベースを組み合わせて会話内容を都度読み込ませることで、十数回を超えるやりとりや、日付をまたいだ会話の再開などが可能となる。
また、利用者のプロンプトをそのまま生成AIエンジンに投入するのではなく、品質や回答内容に関するプロンプトを補完することで、生成されるデータをより望ましいものにすることができる。

このような仕組みを後から追加するのは大変なので、事前に設計に織り込み、必要なときに品質改善が容易にできるようにすることが望ましい。

4. PoC
“PoCステップ”では、AIを実験的に業務に組み込み、企画意図を達成し得るか、限定的な範囲でAI導入効果を確認する。生成AIが出力するデータの品質も重要だが、何より重要なのは当初想定していた課題が解決することである。この観点を忘れずに、PoCの成果を計っていくようにする。

・ポイント1：PoC期間中にどれだけ使ってもらえるか？
利用対象者は限定的となるが、PoCではなるべく多く生成AIを利用してもらい、フィージビリティやニーズを確認することが重要である。使い方に関する情報発信や定期的な連絡会の開催、サポート窓口などの利用対象者へのサポート体制を整え、できるだけ生成AIを使ってもらえるようにしたい。また、PoC期間中も出力結果を確認して生成AIやシステムのメンテナンスを適宜行い、利用者が使いやすくなるようにしていくことが望ましい。

なお、当初想定していた用途と実際の用途に剥離があるなど、生成AIのパフォーマンスに問題がある場合は、ステップ3の設計・実装に戻り、システムの再設計や生成AIの再チューニングを行う。データやAIのガバナンスに留意したうえで、PoCで取得したプロンプトや生成データを踏まえた入力データを作成する。必要であればあらかじめステップの3と4を繰り返して試行することを前提に導入スケジュール組んでも良い。

・ポイント2：入力データと出力データは常に確認する
生成AIの特性上、生成AI企画ステップや設計・実装ステップでは想定していなかった入力データや使われ方により、好ましくない出力データが生成されてしまう恐れがある。そのため、入力データと出力データについては定期的に確認し、好ましくない出力データが生成されないようフィルターなどをアップデートし続ける必要がある。

5. 結果確認
“結果確認ステップ”では、生成AI導入による効果を確認し、AIの導入要否判断を行う。判断には作業時間の短縮など、定量的な効果を用いることが有効だが、労働者への心理的負担の軽減など、業務への定性的な影響も勘案することが必要である。

・ポイント1：成果の測定方法はあらかじめ定めておく
システムやツールの導入効果を計る指標は様々である。何を指標として効果を測定するかは事前に定めておく必要がある。また、効果の測定方法も事前に定めることは当然だが、合わせてどの程度の効果を見込むかについても見当をつけておくことが重要である。見込んだ効果と実際の効果のギャップは、特にPoC期間中のシステム調整や利活用促進などの追加施策の検討において有益な情報となる。

・ポイント2：改善や品質向上の軸からも結果を確認する
生成AI導入効果を確認し、導入するだけの効果が出ていることを確認できたとしても、それはそのままPoC時点のシステムを導入することにはつながらない。行動ログの分析や利用者アンケートなどを行うと、たいていの場合は生成AIをより効果的に使うための課題や改善案などが見出される。そのような情報に基づく改善を施すことにより、実際の業務における生成AIの利用をより促進することが可能となる。

6. 業務組み込み
最後に、生成AIを実際の業務に組み込む。生成AIの社内情報システムへの移設や、生成AI利用に関する種々の規定の交付、利用者へのレクチャー、メンテナンスを行う人物への引継ぎなどを実施する。公開後も入力データと出力データのチェックや、利用者ニーズに応じた生成AIモデル／フィルターなどのアップデートが行えるよう、十分な体制を備えておくことが重要である。

・ポイント1：引き渡し先部門との事前のすり合わせを徹底する
引き渡しにあたっては、どこまでの業務が引き渡し対象となるのか、マニュアルをどちらが整備するのか、問い合わせ対応の一次窓口はどこか、引き受け条件となる成果物やイベントは何かなど、すり合わせを事前に行い、計画的に準備を進めていく必要がある。引き渡し元と引き渡し先が十分に協議を行い、お互いの期待や役割に齟齬がない状態になっていることが重要である。

・ポイント2：継続的な情報発信や啓発を行う
新しいツールやシステムが企業に浸透し定着するまでの間には、様々な働きかけが必要となる。業務で必須となるシステムの場合は、問い合わせ対応やFAQ整備などのサポートが必要となり、業務遂行に必ずしも必須ではないシステムの場合は、利用を促す追加の社内的働きかけが重要となる。具体的にはイントラサイトでの情報発信、ウェビナーなどの社内説明会、利用対象部門へのハンズオンのレクチャーなど、様々な施策によって働きかけを行い、利用へのハードルを下げると同時に、成果について周知するような取り組みが重要となる。

おわりに

生成AIが極めて人間に近い応答ができるようになったことの社会的インパクトは大きい。日進月歩で進化を続ける生成AI技術が、これからも社会に大きな影響を与え続けることは想像に難くない。そして、多くの企業や個人が生成AIに大きな可能性を感じて様々な挑戦を行っていくだろう。

本稿で示した生成AIを失敗せず導入するためのプロセスが、貴社における生成AI導入の参考となり、より良い生成AI活用につながれば幸いである。