中小企業のAI自動化はどこから始める?生成AIに任せる最初の1業務の選び方と進め方

「AIで業務を自動化した」という話をネット上だけでなくリアルでも見聞きする機会が増えました。一方で、自社のどの業務から手を付けるかが決まらないまま、AI導入が検討段階で止まっている会社も少なくありません。

この状況は私の感覚的なものだけではなく調査の数字にも表れています。商工中金が2026年1月に実施した調査(有効回答3,892社)では、生成AIの導入・推進における課題の最上位は「具体的な活用場面が不明」(35.6%)でした。導入するしないよりも「何から始めるか」が明確でないことが、中小企業の生成AI活用で大きい障害になっていることがわかります。

この記事では、公的機関の調査2本と当社で実際に生成AIを動かして記録してきた結果をもとに、中小企業のAI活用の現状と、最初の1業務の選び方・進め方についてお伝えします。

中小企業のAI活用の現在地

中小企業基盤整備機構(以下、中小機構)が2026年3月に公表した「中小企業のAI等の利活用に係る実態調査」(全国の中小企業10,000社を対象に2025年11月17日〜12月12日に実施)によると、中小企業のAI導入率は20.4%です。「導入を検討している」企業(18.6%)を合わせると、39.0%がAIの導入に前向きという結果になっています。おおまかに言えば5社に1社が導入済み、5社に2社が前向き、ということになります。

あわせて確認したいのは、導入済みの企業が使っているAIの内訳です。「生成AI」が82.6%と突出しており、2位の「音声認識・音声対話AI」(29.8%)を50ポイント以上引き離しています。

導入済みのAIサービス:生成AI 82.6%/音声認識・音声対話AI 29.8%/画像認識AI 11.2%/需要予測AI 8.1%/異常検知AI 4.3%

出典:中小企業基盤整備機構「中小企業のAI等の利活用に係る実態調査」(2026年3月)

なお、企業規模別の導入率や活用業務の詳しい統計は企業の生成AI導入率まとめに出典つきで整理していますので、社内の稟議資料などに根拠のあるデータが必要な場合はあわせてご利用ください。

自動化が先行しているのは総務・管理部門

同じ中小機構の調査で業務分野別のAI導入率を確認すると、導入が進んでいる業務の順序が明確に出ています。

業務分野別のAI導入率の横棒グラフ。総務・管理部門68.3%、営業・販売・サービス部門60.3%、経営・企画部門58.5%、製造・生産部門34.9%
業務分野別のAI導入率(出典:中小企業基盤整備機構、2026年3月)

最も進んでいるのは総務・管理部門(68.3%)で、営業・販売・サービス部門(60.3%)、経営・企画部門(58.5%)が続き、製造・生産部門(34.9%)とは30ポイント以上の差があります。バックオフィスの書類仕事が先行し、現場の工程は後になっているという状況です。

商工中金の調査でも同じ傾向です。生成AIを活用している企業の活用事例は「メール/報告書/議事録の作成・要約」が74.0%で最上位、「デスクワーク作業支援・自動化」が48.7%で続きます。

つまり「何から始めるか」の答えの半分はすでに他社の活用状況が参考になります。AIは特殊な設備や現場の工程ではなくどの会社にも共通してある事務作業、なかでも文書やデータの作成・要約などから活用されているようです。

「自動化」には2つの段階がある

ひとことで「生成AIで業務を自動化する」と言っても、業務の任せ方には2つの段階があります。ここを分けて考えると、自社がいま何をすべきかを判断しやすくなります。

第1段階:チャット形式で指示する

ChatGPTやGeminiなどの画面にデータや資料を添えて指示を入力し、結果を出力させる使い方です。1回ごとに人が指示を出し、出力を確認します。

当社の検証例を1つ挙げます。架空の売上明細90件のExcelファイルをChatGPTにアップし、地域別・商品別の集計表と月別売上のグラフが入ったExcelファイルを出力するよう指示したところ、3分14秒で3シート構成のファイルが出力されました。事前に計算しておいた売上合計31,246,000円と一致し、集計はSUMIFS関数36本で組まれた、元データを差し替えれば再利用可能なファイルとなりました。この作業を手動ですべて行うと、熟練のユーザーでも30分はかかるのではないでしょうか。手順はChatGPT WorkでExcelを集計する手順で画面つきで解説しています。

先ほどの「導入済み企業の82.6%が生成AI」という数字の中身は、主にこの第1段階です。特別な開発は不要で、無料プランや月数千円程度の有料プランから始められます。

第2段階:AIエージェントに任せる

目的を伝えると、手順の組み立てから実行までを自律的に進める仕組みは「AIエージェント」と呼ばれます。

こちらも当社の検証例を挙げます。GeminiのSparkという機能にGmailの受信トレイの整理を任せると、対象メールの抽出・分類・アーカイブといった手順が組み立てられ、実行前に「この操作を実行してよいか」を確認する承認画面が表示されます。人が承認しない限りメールは動きません(実際の画面はこちら)。情報収集と比較表の作成を任せた検証では、出典の確認まで含めて実行されました(Gemini Sparkのタスクの使い方)。

Gemini Sparkがメール整理の実行前に表示する承認画面
AIエージェントは実行前に人の承認を求めます(Gemini Sparkの例)

ただし、導入状況の数字は第1段階のものとは大きく異なります。商工中金の調査で「自社専用モデル・AIエージェントを導入している」と回答した中小企業は0.9%です。AIエージェントという言葉を見聞きする機会は急に増えましたが、実際に導入している中小企業は現時点で100社に1社もありません。

出発点は第1段階です

以上を踏まえると、これからAI活用を始める会社が着手するべきは第1段階になります。第1段階で「どの業務で、どのような指示をすると、どのような結果が出力されるか」を社内で把握できていれば、第2段階でエージェントに任せてよい範囲の判断も付けやすくなります。

従来の自動化(Excelマクロ・RPA)との違いにも触れておきます。従来の仕組みは処理の手順をすべて人が定義する必要があり、構築できる人材が社内にいる必要がありました。しかし、生成AIは目的と条件を文章で伝える形式のため、プログラミングなどの知識がなくても活用できます。一方で、出力が毎回完全に同じものになるとは限らないため、最後に必ず人が確認するスタイルの運用が前提になります。

生成AI導入の課題は「導入前・検討中・導入後」で異なる

商工中金の調査には、この記事の骨格になるデータがあります。生成AIの導入・推進における課題を、導入前・検討中・導入後のフェーズ別に整理したものです。

生成AI導入の課題をフェーズ別に3列で並べた図。導入前の1位は具体的な活用場面が不明35.6%、検討中の1位は導入を推進する人材がいない32.0%、導入後の1位は社内ルールや方針整備が追い付かない25.1%
フェーズ別の課題(出典:商工中金、2026年1月調査をもとに当社作成)

このほか、フェーズを問わない課題として「情報管理やセキュリティの不安が大きい」(21.0%)があります。

※調査元は、各項目を内容から見て最も近いフェーズに便宜的に分類したもので、実際の企業の導入フェーズと一致しない場合があると注記しています。当社も同じ前提でこの図を使っています。

この図のポイントは、フェーズごとに課題の種類が変わることです。導入前の障壁は「何に使うか」、検討中の障壁は「人」、導入後の障壁は「ルールと測定」です。この記事の残りの章はこの3つの障壁に順番に対応します。自社がいまどのフェーズにいるかを想定しながら読み進め、あなたの組織に必要な箇所をチェックしてください。

最初の1業務の選び方(5つの条件)

導入前の障壁「具体的な活用場面が不明」を解決するための業務の選び方について見てみましょう。次の5つの条件に多く当てはまる業務ほど、最初にAIを活用するべき業務に向いています。

  1. 毎週くり返し発生する:月1回の業務ではタスクの頻度が低く、業務改善のインパクトも低くなります。頻度の高い業務ほど削減できる時間も大きくなります
  2. 手順とゴールが決まっている:完成形の見本がある業務は、出力の良し悪しを判断するのが容易です。
  3. 誤りがあっても取り返しがつく:社内で確認しながら使う資料なら、出力に誤りがあっても差し戻すだけで済みます。外部に提出する書類に誤りは許されません。
  4. 所要時間を計測できる:「1回60分程度」などと目安がついている業務は、後で効果を数字で示せます
  5. 社外秘の情報を入力せずに済む:社内会議の議事録や社名を伏せられるデータから始めると、情報管理のルールが整う前でも着手できます

逆に、最初にAIに任せるのに選ばないほうがよい業務も挙げておきます。

  • 顧客への回答を、人の確認なしでそのまま送信する業務
  • 採用・人事評価・与信のような、人に関する判断を含む業務
  • 契約書など、誤りが法的な責任に直結する文書の最終版

これらは自動化できないという意味ではなく、確認の仕組みを整え、AIの活用に慣れた後の段階で扱う領域です。

適用をおすすめする5つの条件に当てはまりやすい業務の代表例は、会議の議事録・要約(Gemini Notebook(旧NotebookLM)での作成手順)、Excelの集計とグラフ作成(ChatGPT Workでの手順)、報告書や定型メールの下書きです。先ほどの調査で活用事例の上位に並んでいた業務と、そのまま重なります。

業務の棚卸し表

最初の1業務を選ぶための表です。列は5つだけにしています。自社の業務を10個ほど書き出して、5つの条件と突き合わせてください。

業務名頻度1回の所要時間誤りの取り返し社外秘の有無
会議の議事録作成週2回60分つく(社内確認あり)なし(社内会議)
月次売上の集計月1回120分つく(検算できる)社名を伏せれば可
見積書の作成週5回30分つかない(顧客に届く)あり

この記入例では、頻度・時間・安全性のバランスから議事録作成が最初の1業務の有力候補になります。見積書は頻度こそ高いものの「取り返しがつかない」「社外秘あり」の2つが外れるため後回しです。月次売上の集計は1回の時間が長く効果は大きい一方、月1回では試行が進みにくいため、2番目の候補という位置づけになります。

小さく始める4ステップ

最初の1業務が決まったら、次の順序で進めます。

ステップ1:範囲を業務1つに限定する

最初から複数の業務で並行して試すと、うまくいかなかったときに原因の切り分けができません。担当者も1〜2名に限定しその業務の実務を知っている人に参加してもらってください。AIが出力した結果の良し悪しは実務を知っている人にしか判断できないためです。

ステップ2:現在のタスク所要時間を計測しておく

生成AIを使う前に、現状のタスク所要時間を測って記録してください。AIでタスク処理をした時の効果を示す比較対象になります。比較材料が無いと、導入後の課題2位「導入効果が測定できず、成果が見えにくい」(21.3%)という結果になってしまいます。

ステップ3:生成AIに1回実行させて、同じ条件で所要時間を計測する

同じ業務を生成AIに実行させ、指示の入力から人の最終確認までを含めた所要時間を測ります。1回目の出力の品質だけで判断しないでください。プロンプトの書き方でも出力結果は変わります。当社の検証でも最初のプロンプト一発で完成することはほぼありません。修正の指示までを含めて1つの手順として計測するようにしています。

ステップ4:手順を固定し、人の確認行程を徹底する

成功したプロンプトの文章を保存して社内で共有し、誰が実行しても同じ品質になる状態にします。あわせて、AIから出力されたものをそのまま使うのではなく、人が確認する行程を忘れないようにしてください。何を確認するか(数字の検算、固有名詞、宛先など)も手順に書いておくと良いでしょう。

AIに任せる範囲と社内ルールの決め方

導入後の課題として上位に挙げられているのは「社内ルールや方針整備が追い付かない」(25.1%)と、フェーズ共通の「情報管理やセキュリティの不安が大きい」(21.0%)でした。社内ルールを整備する際は、当社の検証で分かった内容も含め、次の4点から決めていくと整理しやすくなります。

出力された数字は人が検算する

当社の検証では、ChatGPTが出力した集計の数値は、事前に検算した数値とすべて一致しました。ただしこれは今回の検証の結果であり、生成AIの出力に誤りが混ざる可能性は常にあります。金額や件数が出力される業務では、合計だけでも人が検算する運用にしてください。

点検してほしい内容は明示的に指示する

同じ売上データに同じプロンプトを入力しても、AIサービスによって出力の観点は異なりました。当社の検証では、Copilotは指示していないデータの空欄3件・注文番号の重複5組まで指摘した一方、ChatGPTは同じプロンプトではCopilotが指摘した内容は出力されませんでした(検証の詳細はこちら)。検証した環境にもより一概には言えないですが、データの不備の洗い出しを期待する場合は、点検してほしい内容をプロンプトに明示する必要があります。

入力してよい情報のルールを決めてから広げる

氏名・取引先名・未公開の数字をそのまま入力しない、など、入力するべきではない情報の範囲を決めてから社内に展開してください。考え方と対策は生成AIの情報漏洩対策にまとめています。会社として契約する場合の各社プラン(入力内容が学習に使われない設定を含みます)は主要AIサービスの企業向けプラン一覧をご覧ください。

会社としてのAI導入は、効果の面でも差が出ています

商工中金の調査では、会社主導で生成AIを導入した企業のほうが、個人利用を推奨するだけの企業より、経営へのプラス効果を感じている割合が10ポイント以上高いという結果が出ています。個人任せにせず、会社としてルールと環境を用意することが、遠回りに見えて効果への近道であるということです。

効果の計測

導入後の課題2位「導入効果が測定できず、成果が見えにくい」への対応は、下記の式にあてはめて検討してみましょう。

削減時間(分)× 月の実行回数 × 1分あたりの人件費 = 月の削減額

たとえば議事録作成が60分から20分になり、週2回(月8回)実行する場合、削減は40分×8回=月320分です。時給3,000円(1分あたり50円)なら月16,000円に相当します。1業務ではこの規模でも、対象が5業務に増えれば月8万円相当になり、有料プランの費用(1人あたり月数千円程度)と比較できます。

中小機構の調査でも、AI導入の効果は「業務効率化/作業時間の短縮」(83.2%)が突出しています。まず時間で測るのが実態に合っています。また同じ調査では、「付加価値創出」の効果を挙げた割合が、AI(22.3%)は従来のIT活用(7.4%)を15ポイント近く上回りました。時間の削減を入口に、その先の価値づくりにつながる余地があることも数字に出ています。

AI活用を継続するために推進役を決める

検討フェーズの課題1位は「導入を推進する人材がいない」(32.0%)、2位は「従業員の知識不足、心理的抵抗」(29.2%)でした。ツール選びよりも、人材に問題があるケースも多いようです。

と言っても、専任のIT担当を新たに雇う必要はありません。最初の1業務を実際に動かした人を推進役になってもらい、成功したプロンプトと手順をその人から社内に広げる形が規模の小さい会社では現実的です。4ステップで作った「固定した手順」が、そのまま社内の教材になります。

中小機構の調査では「成功事例や活用事例などの情報が十分に入手できている」に当てはまらない企業が83.3%、必要な公的支援として「従業員向けの教育・研修」を挙げた企業が67.7%にのぼります。事例と教育への需要は、数字の上でも明確です。

中小企業のAI自動化は、大がかりな開発や高額な契約からではなく、毎週反復する事務作業を1つ選ぶところから始まります。棚卸し表で最初の1業務を決め、時間を測り、生成AIに実行させて比較し、人が確認をする。この4ステップを1業務で回し切ることが、2業務目以降とその先のAIエージェント活用の土台になります。

具体的な作業の手順は、ChatGPT WorkでExcelを集計する手順Gemini Notebookで議事録を作成する手順Geminiを仕事で使いこなす業務活用ガイドChatGPT Workの使い方で公開しています。

株式会社ウェブタイガーでは、生成AIを業務で使えるようにする法人向けの研修を行っています。AIを利用した業務の自動化を社内で進めたい場合は研修・セミナーのご案内をご覧ください。