• AI・最新技術

生成AIにできること・できないこと|業務で使える範囲の見分け方と、AIが苦手なことを仕組みで補う方法を解説

生成AIにできること・できないこと|業務で使える範囲の見分け方と、AIが苦手なことを仕組みで補う方法を解説

生成AIを試してみると、驚くほど自然な文章を書く一方で、もっともらしい間違いを答えることもあります。「何でもできそう」にも「仕事には使えない」にも見えてしまい、業務のどこまで任せてよいのか判断に迷う方は多いのではないでしょうか。

この記事では、生成AIにできること・できないこと(苦手なこと)を業務の目線で整理し、苦手を補う方法と、業務で使える範囲の見分け方を解説します。製品の機能は変わりやすいため、2026年10月時点の一般的な性質として説明します。

この記事の結論
  • 生成AIが得意なのは、文章を「作る・まとめる・言い換える・分類する・取り出す」作業です。下書きや候補づくりで大きく時間を減らせます。
  • 苦手なのは、事実の正しさの保証、社内の情報を知ること、厳密な計算、毎回同じ結果を出すこと、責任を伴う判断です。
  • 苦手の多くは、社内文書を参照させる(RAG)、計算はプログラムに任せる、人が確認するといった仕組みで補えます。
  • 使える範囲は「誤りの影響は大きいか」「人が確認できるか」「必要な情報をAIに渡せるか」の3点で見分けます。
目次
  1. 生成AIとは
  2. 生成AIにできること(業務での使い道)
  3. 生成AIができないこと・苦手なこと
  4. 苦手を補う方法
  5. 業務で使える範囲の見分け方
  6. 想定ケース:できること・できないことを分けて使う
  7. よくある質問
  8. まとめ

生成AIとは

生成AIとは、学習した大量のデータをもとに、文章・画像・音声・プログラムなどを新しく作り出すAIです。業務でよく使われるのは、ChatGPTやClaude、Geminiのような文章を扱う生成AIで、その中心にはLLM(大規模言語モデル)があります。LLMは、大量の文章から言葉のつながり方を学び、「この文脈なら次にどんな言葉が来そうか」を予測しながら文章を組み立てます。

この仕組みを知っておくと、得意・不得意が理解しやすくなります。生成AIは「それらしい文章を作る」ことは非常に得意ですが、答えの正しさを自分で確かめているわけではありません。また、学習した時点より後の情報や、学習していない社内の情報は、そのままでは知りません。

過去のデータから予測や分類を行う従来のAI(機械学習)とは、得意な仕事が異なります。需要予測や画像による検査は、従来のAIのほうが向いていることも多いです。

生成AIにできること(業務での使い道)

生成AIが業務で力を発揮する作業を、6つに分けて整理します。

生成AIが得意な作業と業務での例

得意な作業業務での例
作る(下書き)メール、案内文、提案書の骨子、求人票、マニュアルの下書き
まとめる(要約)会議の文字起こしから議事録を作る、長い報告書や契約書の要点を抜き出す
言い換える・翻訳する専門的な説明をお客様向けにやさしくする、英文メールや海外のマニュアルを翻訳する
分類する問い合わせを内容ごとに振り分ける、アンケートの自由記述を分類する
取り出す(抽出)注文書や請求書から品番・数量・金額を取り出す、日報から不具合の記述を拾う
答える(文書をもとに)社内規程やマニュアルを参照して、社員の質問に回答案を示す
このほか、プログラムの作成補助、表計算の数式づくり、画像の生成なども可能です。

総務省の令和8年版情報通信白書でも、日本企業の生成AIの業務類型では「議事録・メール作成補助」の活用が最も多く、効果を感じている割合も他より高いとされています。まずは「書く・まとめる」作業から効果が出ている、というのが実態です。

部門ごとの具体的な使い道は、次の記事で一覧にしています。

生成AIができないこと・苦手なこと

一方で、生成AIには構造的に苦手なことがあります。「性能が上がれば解決する」ものと、「仕組みで補う必要がある」ものを分けて考えるのがポイントです。

生成AIの苦手なことと、業務で起きる問題

苦手なこと業務で起きる問題の例
事実の正しさを保証する存在しない法令の条文や、誤った製品仕様をもっともらしく書く(ハルシネーション)
社内の情報を知る自社の価格表、在庫、規程、過去の取引を知らないため、一般論で答えてしまう
新しい情報を知る学習した時点より後の制度改正やニュースを反映できない(検索機能がある場合を除く)
厳密な計算・集計大量の数字の合計や、条件の多い集計で誤ることがある
毎回同じ結果を出す同じ質問でも、聞くたびに言い回しや結論が少しずつ変わる
責任を伴う判断与信、採用、法的な判断、安全にかかわる判断を任せられない

ハルシネーションとは、AIが事実と異なる内容を、もっともらしく生成してしまう現象のことです。生成AIは言葉のつながりを予測して文章を作るため、知らないことでも「それらしい答え」を作ってしまうことがあります。

入力する情報にも注意個人情報保護委員会は2023年6月、生成AIに個人情報を含むプロンプト(AIへの指示文)を入力する場合、利用目的の範囲内か十分に確認すること、入力した個人データが機械学習に使われないかを事前に確認することなどを注意喚起しています。社外秘や個人情報を扱う場合は、法人向けプランや社内ルールの整備が前提です。法的な判断は、最終的には弁護士など専門家に確認してください。

苦手を補う方法

生成AIの苦手の多くは、AI単体ではなく、周りの仕組みで補えます。業務システムにAIを組み込むときは、この「補う仕組み」を設計することが中心になります。

苦手なことと、補う仕組み

苦手なこと補う仕組み
社内の情報を知らないRAG(検索拡張生成):質問に関係する社内文書を検索してAIに渡し、それをもとに答えさせる
事実の誤り回答に参照元の文書を示させる。根拠が見つからないときは「わからない」と答えるよう指示する。人が確認する
計算・集計計算はデータベースやプログラムに任せ、AIは条件の解釈と結果の説明を担当する
結果のばらつき出力の形式(項目・書式)を固定する。テンプレートや選択肢を用意する
新しい情報最新の資料を参照先に登録する。検索機能を使い、出典を確認する
責任を伴う判断AIは候補や根拠の整理までにとどめ、最終判断は人が行う業務フローにする

IPA(情報処理推進機構)の産業サイバーセキュリティセンターの中核人材育成プログラムがまとめた「テキスト生成AIの導入・運用ガイドライン」(2024年7月)も、導入担当・運用担当・セキュリティ担当それぞれの考慮事項として、リスクの洗い出しと対策、利活用のルールの策定・文書化を挙げています。AI単体の性能に頼らず、運用の仕組みで補うという考え方です。

業務で使える範囲の見分け方

ある業務に生成AIを使えるかどうかは、次の3つの質問で見分けられます。

  • 誤りの影響は大きいか:社内の下書きなら小さく、お客様への回答や契約・金額にかかわるものは大きくなります
  • 人が確認できるか:出力を担当者が読んで、正誤を判断できる業務か。確認に元の作業と同じくらい時間がかかるなら効果は小さくなります
  • 必要な情報をAIに渡せるか:答えの根拠となる文書やデータが社内にあり、AIに参照させられるか

3つの質問による判断の目安

判断条件業務の例
すぐ使える誤りの影響が小さく、人がすぐ確認できる社内メールの下書き、議事録の要約、アイデア出し
仕組みを作れば使える根拠となる情報があり、確認の手順を組み込める社内規程への質問対応、注文書の読み取り、問い合わせの回答案
補助にとどめる誤りの影響が大きい、または判断に責任が伴うお客様への最終回答、価格・契約条件の決定、法務・労務の判断
「補助にとどめる」業務でも、情報の整理や下書きなど、判断の手前の作業には活用できます。

「AIは万能」でも「AIは使えない」でもなく、業務ごとに使い方を分けるのが現実的です。よくある思い込みは次の記事にまとめています。

想定ケース:できること・できないことを分けて使う

想定ケース:従業員40名の設備保守会社(架空の例)この例は、よくある状況をもとにした架空のモデルケースです。実在の企業の事例ではありません。

状況:お客様から設備の不具合について電話・メールで問い合わせがあり、担当者が過去の対応記録や機器のマニュアルを探して回答している。問い合わせは月約300件で、調べものに1件平均15分かかっている。
最初の失敗:社員が個人で生成AIに質問したところ、一般的な説明は得られたものの、自社が扱う機種の仕様とは違う回答が混ざり、結局マニュアルを調べ直すことになった。
見直し:マニュアルと過去の対応記録を参照先にして、根拠の文書名とページを示しながら回答案を出す仕組み(RAG)を作る。お客様への回答は担当者が確認してから送る。
試算:調べもの15分×300件=月75時間。回答案と根拠の確認に1件5分かかるとすると、5分×300件=月25時間となり、削減は月50時間程度の試算です。
うまくいく条件:マニュアルが電子化されている。過去の対応記録に機種名と対応内容が書かれている。
つまずきやすい点:古いマニュアルと新しいマニュアルが混在していると、古い情報で答えてしまう。参照先の文書を整理し、更新の担当者を決めておく必要がある。
AI導入の検討に使える無料テンプレート
対象業務の整理や要件のまとめに使える要件定義書、見積もり比較表などを無料テンプレート集で公開しています。「どの業務にAIを使うか」を社内で整理するときの下書きにお使いください。
オーバーエックスのAI業務改善・AIシステム開発オーバーエックスでは、生成AIの得意・不得意をふまえて、どの業務にどう使えるかを整理するところからご相談をお受けしています。社内文書を参照して答えるRAG、帳票の読み取り、既存の業務システムとの連携など、苦手を補う仕組みの設計・開発と、導入後の精度の確認・改善にも対応します。詳しくはAI業務改善・AIシステム開発をご覧いただくか、お問い合わせください。

よくある質問

生成AIは計算が苦手なのですか?
簡単な計算はこなせますが、大量の数字の集計や条件の多い計算では誤ることがあります。業務では、計算はデータベースやプログラムに任せ、AIは条件の解釈や結果の説明に使うのが安全です。
生成AIは自社の情報を知っていますか?
そのままでは知りません。社内の文書やデータを参照させる仕組み(RAGなど)を作ることで、自社の情報をもとに回答できるようになります。
ハルシネーションはなくせますか?
完全になくすことは難しいとされています。参照元を示させる、根拠がなければ答えない指示を入れる、人が確認するといった方法で、業務への影響を小さくします。
生成AIの回答はそのままお客様に送ってよいですか?
最初は担当者が確認してから送る運用をおすすめします。よくある質問など範囲を限定し、精度を確認できた部分から自動化を広げるのが安全です。

まとめ

生成AIは、文章を作る・まとめる・言い換える・分類する・取り出す作業が得意です。一方で、事実の保証、社内情報、厳密な計算、毎回同じ結果、責任ある判断は苦手です。苦手は、社内文書の参照、計算のプログラム化、人の確認といった仕組みで補えます。「誤りの影響」「人の確認」「渡せる情報」の3点で業務を見分け、使える範囲から始めましょう。

参考:総務省「令和8年版 情報通信白書」(生成AIの業務利用状況)、個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)、IPA「テキスト生成AIの導入・運用ガイドライン」(2024年7月)、総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(2026年3月31日)。

OX

TechBase 編集部(株式会社オーバーエックス)

東京・秋葉原のシステム開発会社。業務システム・Webシステム・基幹システムの受託開発、システムリプレイス、自社パッケージ開発、要件定義の支援を手がけています。オーバーエックスの特徴を見る

この記事に関連するサービス AI業務改善・AIシステム開発 生成AIなどのAIを、業務の流れや社内のシステムに組み込んで成果が出る形にします。業務の整理、試験導入(PoC)、AIを組み込んだシステムの開発、導入後の運用・改善まで一貫して対応… サービスの詳細を見る

Contact

今すぐ無料相談

全国対応

Page Top