生成AIを使いこなすコツ 上手なプロンプト設計や注意点を解説

生成AIは「万能」と思われがちですが、得意な領域と苦手な領域があります。生成AIは何が得意で、苦手な領域に使う場合は何に注意すべきなのか。そうした背景を理解し、適切な使い方をすることで、生成AIの可能性を最大限に引き出すことができます。（この記事において「生成AI」は原則「テキスト生成AI」を指すものとします）

生成AIの「脳」といえる機械学習モデル

生成AIの得意・不得意を知るために、まず「生成AIとは何か？」を簡単に確認します。

生成AIの背後には常に「機械学習モデル」の存在があります。この2つの概念は密接に結びついており、生成AIの能力は機械学習モデルの進化に他なりません。

生成AIとは、大量のデータからパターンを学習し、その学習したパターンに基づいて、テキスト、画像、音声、動画など、これまで存在しなかった新しいコンテンツやアイデアを自律的に「生み出す」ことができる人工知能（AI）のことです。

たとえばGoogleが提供する生成AIのGeminiに「LLM（大規模言語モデル）をイメージしたイラストを作成して」と指示を出すだけで下記のような画像まで作成することができます。

一方、機械学習モデルは、大量のデータからパターンを学習し、その学習結果に基づいて予測や分類、あるいは新しいデータ生成を行うアルゴリズムや統計的手法を指します。

従来のAIが特定のタスクを正確にこなすためには、人間が明確なルールを教えることが必要でした。しかし、深層学習（人間の脳の神経回路を模したニューラルネットワークを多層に重ねて使うことで、大量のデータから特徴を自動的に学習する技術）に代表される機械学習モデルの進化により、AIは大量のデータから「自律的に」複雑なパターンを学習し、そのパターンを応用して新しいものを生み出す能力を獲得しました。

つまり、生成AIは、その「脳」といえる機械学習モデルが劇的に発展したことによって生まれたといえます。

従来の機械学習モデルと生成AIの主な違い

以下の表で、従来の機械学習モデルと生成AIの主な違いを比較してみましょう。ここでは、従来の機械学習モデルの代表的な例として『教師あり学習』と比較します。

	従来の機械学習モデル (教師あり学習)	生成AI （大規模言語モデル）
目的	特定の問題に対する予測・分類・最適化	新しいコンテンツの生成と想像
学習データ	ラベル付きデータ（入力と正解のペア）	幅広いテーマの膨大なデータ
学習内容	与えられた入力に対し、期待される正解を正確に推論できるよう学習	データの中に潜む統計的な規則性や特徴を捉え、それに基づいて新しいデータを生成できるように学習
特徴	明確な評価基準で出力を測定できる	「不正解」という概念がなく、学習データに基づいた「もっともらしい」出力を生成
得意なこと	正解のある問題を正確に解くこと	正解のない問題に柔軟に対応すること
モデルの開発コスト	現実的なコストで開発可能(自社で開発、運用することができる)	膨大なコストがかかる（高度な専門知識と大規模な計算資源が必要）

先に「生成AIの能力は機械学習モデルの進化」と書きましたが、進化したものがあらゆる用途にとって必ずしも最適とは限りません。
たとえば、上記の比較表で見れば「正解のある問題を正確に解く」というタスクをAIに任せたい場合、生成AIよりも機械学習モデルの方が適していることは明白です。

生成AIが苦手なこと

生成AIは非常に強力なツールですが「苦手とする領域」が存在します。
これらを理解しておくことで、多くのコストをかけて生成AIを使っても期待外れの出力しか得られないという問題を避けることができます。

1.正確性や事実確認が重要な問題への対応
生成AIは、学習データから統計的なパターンを学んで「もっともらしい」テキストを生成します。そのため、厳密な事実の正確性が求められる場面や、明確な正解が存在する問題への対応は得意ではありません。同じプロンプトでも異なる回答が返ってくることがあるのは、回答生成時に一定のランダム性を持たせているためです。正確性が何よりも重要なタスクでは、生成AIの出力を鵜呑みにせず、必ず人間による確認が必要です。

2.出力に至った経緯や根拠の透明性が必要な問題への対応
生成AIの処理は基本的にブラックボックス化されており、なぜその回答が生成されたのか、その根拠がどこにあるのかを人間が完全に理解することは困難です。参考にした資料、経緯や根拠を出力させるプロンプトを与えることも可能ですが、それが100%正確である保証はなく、また、AIが内部的にどのようなプロセスを辿ったかを完全に把握することはできません。
後に説明する「ハルシネーション」は生成AIの課題として必ず挙げられます。

3.最新情報に基づく出力
先に説明した通り、生成AIとは、大量のデータから学習したパターンに基づいて、テキスト、画像、音声、動画などを生み出します。そのため、生成AIモデルが利用できるデータや出力パターンは学習時に使われたデータが基本となります。
モデルの学習にはそれなりのコストがかかるため、最新の情報をモデルに反映させるまでにはタイムラグが生じることが多々あります。そのため、最新の出来事や情報に基づいて生成を行う場合、期待する内容が得られない可能性があります。

RAG（Retrieval Augmented Generation）などを始めとする新しい技術の活用で改善されつつありますが、生成AIモデルが利用できるデータが必ずしも最新情報とは限らないことは常に頭に入れておく必要があります。

4.未来の予測
生成AIは、既存の知識（過去の情報）に基づいて出力を生成することが基本となります。そのため、未来を予測するような出力は苦手です。また、生成AIを提供する側も、責任問題などから未来予測のような出力を行わないように調整しているケースもあります。

5.曖昧すぎる問題への対応
近年、生成AIの性能は大幅に向上していますが、それでも入力値があまりにも曖昧な場合、期待する出力が得られないことが多くあります。具体的な指示がないと、AIは意図しない方向に解釈してしまう可能性があります。

6.否定的な指示（DO NOT）を含む問題への対応
プロンプト内に「〜しないでください」などの否定系の指示を含む場合、出力が期待通りにならないことがあります。これは、生成AIの内部アルゴリズムが、否定された内容を逆に意識してしまう傾向があるためです。否定形ではなく、「やってほしい内容」を肯定的な表現で明確に指示するようにしてください。

生成AIに適したプロンプト設計

先に生成AIの苦手なことを紹介しましたが、その目的は「苦手なことを理解した上で上手に生成AIを利用してもらう」ことです。
続いて、生成AIの「苦手」を克服し最大限に活用するためのコツを紹介します。
生成AIから期待する出力を得るためには、プロンプト（入力）の設計が非常に重要です。

繰り返しになりますが、生成AIは、人間のように言葉のニュアンスや文脈、裏にある意図を完璧に理解するわけではなく、学習済みのパターンに基づいて、推測を行っているにすぎないことを理解する必要があります。
人が与えるプロンプトは、AIが膨大な学習データの中から適切な情報を探し出し、新しいコンテンツを生成するための「ヒント」や「指示」となります。

そのため、プロンプトが曖昧だったり、具体的でなかったりすると、AIは指示者の意図を正確に推測できず、期待とは異なる、あるいは質の低い出力を返してしまう可能性が高まります。

GoogleがGemini向けに提供しているプロンプトガイドを参考に、効果的な入力設計のヒントを紹介します。

プロンプトの基本構造

入力は、以下のようなセクションごとにラベルを付けることで、生成AIが内容を理解しやすくなります。例えば「新サービスのアイデア出し」をAIにお願いする場合には以下のように整理することで、期待したかたちでの回答を得やすくなります

プロンプト入力のTips

セクションごとにラベルを付けること以外にも、生成AIから期待する出力を得るためのプロンプト入力のコツがいくつかあります。

• 命令・依頼口調で記載する: 出力してほしい内容を具体的に、かつ明確な命令・依頼口調で記述しましょう。
• 強調したい内容をプロンプトの始めに書く: 最も重要な情報や指示は、プロンプトの冒頭に配置することで、AIがその情報を優先的に処理しやすくなります。
• 背景・文脈を簡潔にまとめる: 長々と書くのではなく、要点 → 目的 → 制約 の順で簡潔にまとめることで、AIが必要な情報を効率的に把握できます。
• 箇条書きで記載する: 複雑な情報や複数の指示は、箇条書きにすることで、プロンプトが整理され、AIが要点を絞って理解しやすくなります。
• 肯定的な表現で記載する: 否定形ではなく、「〜してください」「〜するように」といった肯定的な表現を使用し、AIに何をすべきかを明確に伝えます。
• 具体例を含める: 期待する出力の例を具体的に示すことで、AIはより正確にあなたの意図を理解し、それに沿った出力を生成しやすくなります。
• 生成AIにロール（役割）を与える: 「あなたはベテランのソフトウェアエンジニアです」のように、AIに特定の役割を与えることで、その役割に基づいた口調や知識で回答を生成させることができます。
• 思考の過程を明示的に辿らせる: 「途中の推論や計算を含めて出力してください」といった一文をプロンプトに含めることで、AIに思考のステップを踏ませ、より論理的で網羅的な回答を促すことができます。

生成AIの導入検討時に気をつけたいこと

NCDCはAI、IoTなど先進的な技術を活用したシステムの開発を得意としており、近年はお客様から「生成AIを活用したプロダクトを作りたい」というご要望をいただく機会が増えています。新しい技術を取り入れて挑戦していく姿勢は素晴らしいですが、先に述べた通り、生成AIには得意なことと苦手なことがあります。そうした特性を理解せず「生成AIを使う」ことそのものが目的になってしまっていないかなど、いくつか注意すべき点があります。

ここでは、生成AIの導入検討時に気をつけたいことをいくつかご紹介します。

1.「生成AIは何でもできる」という過度な期待を避ける
生成AIは素晴らしい技術ですが、万能ではありません。すでに述べたように、高度な論理的推論や、100%の正確性が求められるタスクには不向きな場合があります。生成AIへの期待値と生成AIの実際の能力との間にギャップがないか、専門知識のある人に相談する、本格的なシステム開発の前に調査やPoCを行うなどして、過度な期待で非現実的なシステムを夢想してしまわないようにしておく必要があります。

2.生成AIを使った際の精度や品質に関する認識
生成AIを活用したシステムを構築するといっても、多くの場合、ゼロから生成AIモデル自体を構築するのではなく、プロバイダー(AmazonやGoolge)が提供する生成AIモデルをプロダクトに埋め込むかたちで実現します。プロンプトの調整をはじめとする設定を変更することで、生成AIからの回答の精度を向上させることは可能ですが、その精度はどうしてもプロバイダーが提供する生成AIのモデル次第になってしまいます。また、回答の精度向上の取り組みをすると言っても、そもそも回答の精度を定量的に判断すること自体が難しい場合も多々あります。まずはこの事実を理解しておくことが必要です。

3.ハルシネーション（Hallucination）のリスク
生成AIは事実に基づかない情報をあたかも真実であるかのように生成することがあります。これは、AIが与えられた情報からもっともらしいパターンを推測して出力しようとするあまり、時に誤った、あるいは架空の情報を「でっち上げて」しまうために起こります。まるでAIが幻覚を見ているかのように見えることから「ハルシネーション（幻覚）」と呼ばれています。特に正確性が求められる情報（医療、法律、金融など）を扱うサービスでは、ハルシネーションのリスクをどのように管理するかを検討する必要があります。

4.倫理的な問題
AIが生成するコンテンツが、偏見を含んでいたり、不適切であったりする可能性があります。学習データに起因するバイアスや、不適切なコンテンツの生成をいかに抑制するか、事前の対策と運用中のモニタリングが不可欠です。

5.費用対効果の確認
大規模な生成AIモデルの利用には、推論コストやインフラコストがかかります。本当にそのコストをかける価値があるのか、従来のシステムや他のAI技術と比較して、生成AIを採用することが最適な選択であるかを検討する必要があります。

6.データプライバシーとセキュリティ
顧客データや機密情報を扱う場合、それらがAIの学習データとして利用されたり、不適切に漏洩したりするリスクがないか、提供されるAIサービスのデータポリシーを十分に確認する必要があります。

7.生成されたものに関する責任の所在
AIが生成したコンテンツによって問題が発生した場合、誰がその責任を負うのか、事前に検討が必要になります。

8.生成AIの進化の速さ
生成AIの技術進化は非常に速く、半年前のトレンドがすでに陳腐化しているという事態が起こり得ます。これは、開発中にさらに優れた手法が登場したり、あるいは開発していた機能がプロバイダーから標準機能として無償提供されたりする可能性があることを意味します。もし「この技術でなければ実現できない」と考えて開発を始めても、その技術が陳腐化してしまえば、投資した時間やコストが無駄になることも考えられリスクとなり得ます。生成AIの導入を検討する際は、特定の技術に固執せず、常に新しい動向をキャッチアップできる体制を整えることが不可欠です。

生成AIの代替案や他の仕組みとの併用

あくまでも生成AIは課題を解決するツールの1つに過ぎないため、生成AIが苦手とする領域や、その特性がビジネス要件に合致しない場合は、従来のAIモデルや、生成AIと人間の強みを組み合わせたハイブリッドなアプローチを検討すべきです。

従来の機械学習モデルなどの活用

• データ分析・予測: 既存の構造化されたデータに基づいた売上予測、顧客行動分析、不正検知など、明確な正解が存在し、データに基づいたパターン認識が得意な領域では、従来の機械学習モデルが依然として強力な解決策になることがあります。
• 分類・識別のタスク: 画像認識における物体検出、音声認識における単語の分類、スパムメールの識別など、明確なカテゴリに分類するタスクには従来の機械学習モデルが非常に有効です。
• ルールベースのシステム: 複雑なロジックや明確な条件分岐で処理できるタスクであれば、AIを導入せずとも、事前に人が設定した条件に基づいて動作するルールベースのシステムで十分な場合があります。コストと効果のバランスを考慮しましょう。

生成AIのハイブリッドな利用方法

生成AI単体での完全な課題解決が難しい場合でも、人間や他のシステムと組み合わせることで、その弱点を補い、生成AIの強みを最大限に活かすことができます。処理全体を生成AIに任せるのではなく生成AIが得意とする部分だけを担当させることで、結果的にシステム全体の精度を保ちながら効率化や課題を解決できることがあります。

適材適所で生成AIを利用する具体例

カスタマーサポートにおける一次判断

カスタマーサポート部門では、日々、多数の問い合わせが寄せられます。その中には簡単なFAQで済むものもあれば、早急な対応が必要な複雑なものも混在しており、すべてにオペレーターが目を通すには時間効率が悪いという課題があります。

「AIがすべて対応してくれたら良いのに」と思ったこともあるのではないでしょうか？実際、お問い合わせに対して生成AIが自動的に人間が対応しているかのような返信を行うシステムを構築することは可能です。しかし、先に挙げたハルシネーションの問題に注意が必要です。人が書いたかのようなもっともらしい回答を返してしまうからこそ、その回答が間違っていた場合は大きな問題に発展するリスクがあります。人間のチェックなしにあらゆる問い合わせへの回答を生成AIに任せるのは難しいでしょう。

そこで有効なのが、生成AIを一部に活用する方法です。

お問い合わせが届くと、まず生成AIが自由入力のテキストから問い合わせの意図や緊急度を汲み取り、自動返信が可能か、人間の対応が必要かを一次判断します。これは、キーワードのマッチングしかできなかった従来のAIモデルでは難しかった、文章全体の文脈を理解するという生成AIの強みです。マニュアルに記載されているような定型的な質問には自動で回答を生成・送信し、オペレーターの手を煩わせません。一方、複雑な内容や、緊急性が高いと判断された問い合わせについては、生成AIが「これは人間のオペレーターに対応を任せるべきだ」と判断し、シームレスに担当者へエスカレーションします。

このように、生成AIに「返信可否の一次判断」という得意な役割を任せることで、オペレーターは定型的なやり取りから解放され、本当に対応が必要な複雑な問い合わせに集中できるようになります。これにより、対応の品質を保ちつつ、部門全体の作業効率を大幅に向上させることができます。

レポートやコンテンツの下書き作成

日々の業務で、レポートやブログ記事、メールなど、さまざまな文章を作成する機会があると思います。特に、ゼロから文章を書き起こす作業は大きな負担となりがちです。
「すべて生成AIに任せたい」と思うかもしれませんが、上長に提出する資料や、顧客に公開するコンテンツをAI任せにするのはリスクがあります。AIが生成した情報に正確性が欠けていたり、オリジナリティのない文章になってしまったりする可能性があるからです。

そこで、生成AIに「下書き」の作成を任せて、仕上げは人が行うという利用方法が有効です。

まず、大まかな方向性やテーマ、参考データなどを生成AIに入力し、コンテンツの構成を含む下書きを生成させます。この下書きは、人間が手作業で作成する時間を大幅に短縮してくれます。その上で、人間が事実の確認、専門的な知見の追加、表現の調整、そして創造的な加筆修正を行います。これにより、生成AIに得意な部分を任せつつ、人間ならではの深い洞察力や独自の表現を加えることで、品質と独自性を確保した成果物を効率的に生み出すことが可能になります。

大量のドキュメントの整理と関連情報の参照

日々蓄積されるドキュメントの整理等にも生成AIを活用できます。過去の資料から特定の情報を探し出したり、関連するファイルを探したりする作業は非常に時間がかかり、業務の非効率につながっているケースは多いのではないでしょうか？

生成AIに任せて必要な情報を自動で要約したいと考えるかもしれませんが、すべてを生成AIに任せると情報が欠落したり、不正確に要約されてしまうリスクがあります。そのような不正確が許容できない作業のときは、結局、人の目で全てを確認し直すことになりかねません。

そこで有効なのが、ドキュメントの「整理係」として生成AIを活用する方法です。

ドキュメントを保存する際に、生成AIに内容の要点を分析させ、適切なラベルを付けたり、関連するフォルダに自動で保存させたりします。また、ドキュメントの冒頭に内容の要約を追加させることも可能です。これにより、人間が後でドキュメントを探す際に、膨大なファイルの中から目的の情報を素早く見つけ出せるようになります。

このように、生成AIにドキュメントを「読み解き、整理する」という得意な役割を任せることで、人間は最終的な情報の精査や判断に集中できます。精度が求められる場面では、生成AIが提示した候補ファイルの中から人間が内容を精査して正確な情報を抜き出し、逆に、ある程度の正確性で十分な場合は、人間が必要な部分を抽出した上で再度生成AIに要約させるなど、柔軟な使い分けが可能です。これにより、業務の効率化を図りつつ、情報の正確性を保つことができます。

生成AIの導入はNCDCにご相談ください

生成AIは業務に変革をもたらす強力なツールですが、万能ではありません。その特性を理解することが、真に価値ある活用に繋がります。

現状では、生成AIの正確性や精度にはまだ不安が残る場面があります。そのため、すべての処理をAIに任せるのではなく、AIが得意な部分のみを担当させ、人間がその出力結果を精査することで、精度を保ちつつ業務効率を最大化できます。このように、生成AIの特性を理解し、人間とAIがそれぞれの強みを活かし合うハイブリッドなアプローチこそが、今後のAI活用の鍵となるでしょう。

NCDCでは、生成AIの特性を最大限に活かした業務フローの検討から、生成AIを活用するシステムの開発までを一貫してサポートしています。生成AIの業務導入をご検討中の方は、ぜひ一度NCDCにご相談ください。