一方、生成AIの仕組みを踏まえて仕事を分ければ、議事録から確認事項を抽出する、既存資料を顧客向けに言い換える、文章の表記をそろえるといった作業では有効な下書き役になります。大切なのは「生成AIが正しいか」を一括して評価することではなく、何を入力し、どの部分まで作らせ、誰が何と照合して確定するかを決めることです。
AI活用候補の選定は工務店のAI活用候補を棚卸し|経営課題と業務をつなぐ評価表、対象業務、責任者、中止条件、完了条件を含む実証計画は工務店のAI導入実証計画|対象業務・責任・完了条件を決めるで扱います。
本稿では、それらの全体手順を繰り返しません。工務店の社長が生成AIの仕組みを業務上の誤りと結び付けて理解し、入力例、出力の修正例、原資料との照合票を使って「任せやすい部分」と「人が確定する部分」を切り分ける方法に絞ります。
役員と部門長で判断を分けるハウスメーカーの場合
社長一人ではなく役員や部門長がAIの利用範囲を決める会社では、10の情報管理と判断の境界を誰が決めるかを先に定めます。
07の重大・中・軽微の区分とゲート条件は部門ごとに作り替えず全社で共通にし、05の作業票と照合票は原資料を持つ部署が使います。部署が違っても誤りを同じ尺度で比べるためです。
生成AIは正解を検索するのではなく、続きを予測して文章を作る
一般的な文章生成AIは、入力された指示、会話の文脈、参照できる資料、学習時に捉えた言葉の関係などを手掛かりに、次に続く語や文字のまとまりを確率的に予測します。その予測を繰り返すことで、説明文、表、要約、メールなどを生成します。
この仕組みでは、「文章として自然であること」と「工務店の原資料に一致していること」は別です。ある表現が文章の流れに合っていても、それが当該案件で承認された仕様、金額、日付とは限りません。
たとえば、社内メモに「玄関収納の棚位置は次回確認」とだけ書かれている場合、生成AIは文章を完成させるため、「次回打合せで床から1,200ミリメートルの位置に決定します」と補うことがあります。寸法として不自然でなくても、原資料にない以上は誤りです。
- 指示・会話・参照資料を受け取る
- 文脈に続きそうな表現を予測する
- 語の予測を繰り返して下書きを作る
- 人が原資料と照合する
- 採用・修正・破棄を決める
生成直後に「採用」が置かれていない点が重要です。生成AIが担うのは原則として下書きまでであり、入力資料にない事実を確定させる権限はありません。
文章を短く整える作業でも同じです。「標準仕様の場合は選択可能」を「選択可能です」と言い換えれば、文体は滑らかになりますが、適用条件が消えています。「予定」を「実施します」に変えれば、確定度が上がります。生成AIの確認では、誤字より先に、条件、対象、時点、確定状態が変わっていないかを見ます。
五つの仕組み上の特徴を工務店の誤りへ結び付ける
社長が生成AIの仕組みを理解するとき、技術用語を細かく暗記する必要はありません。少なくとも次の五つを、実務で起こり得る誤りと一緒に押さえます。
横にスワイプして、右側の列を確認できます
| 仕組み上の特徴 | 実務上の意味 | 工務店で起こり得る誤り例 | 人が取る対策 |
|---|---|---|---|
| 次の語を確率的に予測する | 保存済みの正解文をそのまま取り出しているとは限らない | 「コンセント追加希望」が「コンセントを追加します」に変わる | 希望、確認、承認、施工決定を別の状態として照合する |
| 学習や参照情報には時点がある | 制度、製品、価格、仕様が現在と一致しない場合がある | 前年度の補助制度や旧製品の仕様を現在も有効な情報として説明する | 現行の公式資料、メーカー資料、社内承認済み資料へ戻る |
| 参照資料の有無で挙動が変わる | 資料がなければ一般的な説明や推測が入りやすい | 当該見積を渡さず「仮設工事に清掃を含む」と書く | 今回の案件に適用する資料だけを明示し、根拠欄を付ける |
| 同じ指示でも出力が揺れる | 一度成功しても、次回も同じ分類や表現になるとは限らない | 同じメモから、ある回は営業担当、別の回は設計担当を回答者にする | 一件の成功で採用せず、異なる資料と複数回の出力を確認する |
| 入力して扱える量には上限がある | 長い資料をすべて同じ精度で扱えるとは限らない | 長い打合せ記録の後半にある訂正を拾わず、前半の旧仕様を採用する | 資料を案件・目的・版で絞り、対象範囲と件数を記録する |
次の語の予測は、空欄を正しく保つ仕組みではない
生成AIは、読み手にとって自然な続きを作ろうとします。そのため、本来は「記載なし」と残すべき担当、期限、理由を補うことがあります。
「不足する情報は推測せず、不明と書く」と指示することは有効ですが、それだけで推測を完全に防げるとは限りません。担当、予定日、回答期限、金額、承認者などの欄を分け、情報がない欄には「記載なし」と出力させます。確認者が空欄の意味を判別できる形式にすることが大切です。
学習の時点と現在の有効性は一致しない
生成AIが過去に広く使われた制度名、製品名、施工方法を説明できても、その内容が現在の案件に適用できるとは限りません。補助制度、税、法令、認定、製品仕様、価格、納期などは変わり得ます。
生成AIへ「最新情報を教えて」と書くだけでは、現在の一次資料を確認したことにはなりません。制度なら所管する行政機関、製品ならメーカーの現行資料、金額なら承認済み見積、契約条件なら当該契約書へ戻ります。外部確認が必要な事項は、「現時点で有効」と事実のように断定させず、確認先と未確認事項を明示します。
参照資料を渡しても、完全な一致は保証されない
正解資料を添えると、資料なしの場合より根拠に沿った出力を作りやすくなります。ただし、資料を添えたこと自体は合格条件ではありません。生成AIが一部を読み落としたり、離れた箇所を結び付けたり、資料内の表現と一般的な説明を混ぜたりする場合があります。
「参照資料だけを使う」「各主張に根拠を付ける」と指示したうえで、引用された文が実在するか、その引用が出力内容を本当に支えているかを人が確認します。
出力の揺れは、再現性の確認を必要にする
同じ指示でも、語順、分類、拾い上げる項目、補足内容が変わることがあります。したがって、一度だけ良い出力が得られても、「この生成AIは工務店業務を理解した」とは判断できません。
試行では、未決事項、似た製品名、複数の日付、訂正履歴、例外条件を含む資料も使います。評価する単位はサービス全体ではなく、「どの資料を、どの作業票で、何の下書きへ変えるか」という組み合わせです。
入力量の上限は、資料の欠落や混線につながる
入力できる量や一度に扱える文脈の範囲は、利用するサービス、モデル、設定によって異なります。上限を超えた場合に拒否されるのか、一部だけが処理されるのかも同一ではありません。確認できないまま、大量の議事録、図面説明、見積、契約資料を一括で渡す運用は避けます。
複数案件を一つの会話へ継ぎ足すと、入力上限とは別に案件の混線も起こりやすくなります。一案件一作業を基本とし、資料名、版、作成日、有効・無効、対象範囲を人が指定します。
得意な作業は部門名ではなく「何を何へ変えるか」で見分ける
「営業で使えるか」「見積業務で使えるか」という問いでは、範囲が広すぎます。同じ見積業務でも、承認済み内訳を読みやすく言い換える作業と、図面から数量や価格を確定する作業では、生成AIに任せられる範囲が異なります。
比較的任せやすいのは、正解となる材料があり、その材料を別の形へ変換する仕事です。反対に、新しい事実、金額、責任、承認、適法性、性能を確定する仕事は、人の判断領域です。
横にスワイプして、右側の列を確認できます
| 作業の型 | 入力 | 生成AIに任せる範囲 | 人が確定する範囲 | 適用条件 |
|---|---|---|---|---|
| 整理 | 打合せメモ、分類定義 | 項目を分け、見出しを付ける | 分類の正誤、項目の漏れ | 原資料へ一項目ずつ戻れる |
| 言い換え | 原文、読み手、禁止表現 | 専門表現や語尾を整える | 意味、条件、責任範囲 | 数字と状態語を変えない |
| 抽出 | 原資料、抽出条件 | 日付、担当、未決事項を拾う | 取り違え、脱落 | 対象と値を一組で照合する |
| 比較観点の提示 | 前提、制約 | 検討候補を広げる | 網羅性、実現性、採否 | 候補であり結論ではないと明示する |
| 転記 | 承認済み資料、指定書式 | 所定欄へ写す | 案件名、版、税区分、承認状態 | 転記元を一つに限定する |
| 確定判断 | 図面、契約、法令、現場条件 | 論点や不足資料の整理まで | 数量、価格、適法性、性能、施工可否、承認 | 生成AIだけで最終判断しない |
任せやすさは、次の四問で確認できます。
1. 正解または判断根拠となる原資料があるか。 2. 誤りを原資料との比較で発見できるか。 3. 誤りが外部へ出る前に人が止められるか。 4. 照合と修正を行っても、時間や品質上の利点が残るか。
一つでも曖昧なら、仕事全体を渡しません。「見積を作る」を、「承認済み内訳名を抽出する」「標準説明書の該当文を探す」「顧客向けに語尾を整える」「数量を算定する」「単価を決める」「値引きを承認する」に分けます。このうち生成AIの対象にできるのは、原資料との照合が可能な抽出や言い換えまでです。
比較観点の洗い出しのように唯一の正解資料がない仕事では、生成結果を事実として扱いません。「検討候補を挙げる」「採否は人が決める」「網羅しているとは表現しない」という用途に限定します。
架空例「工務店例094」で作業の境界を固定する
ここからは、この記事だけで使う架空の工務店「工務店例094」を例にします。実在する会社、施主、従業員、案件、製品、導入成果を示すものではありません。人数、棟数、試行件数、時間、誤り件数もすべて説明用の架空値です。
横にスワイプして、右側の列を確認できます
| 項目 | 架空例の固定条件 |
|---|---|
| 会社 | 地域工務店「工務店例094」 |
| 従業員数 | 18人 |
| 年間引渡し | 木造注文住宅24棟 |
| 対象案件 | 架空の木造2階建て新築案件一件 |
| 対象作業 | 社内打合せメモから顧客確認事項の検査用一覧を作る |
| 出力状態 | 決定済み、顧客確認待ち、社内確認待ち |
| AIの終了点 | 項目、状態、確認内容、担当、日付、根拠の抽出 |
| 人が確定する事項 | 金額、施工可否、性能、法令適合、契約変更、期限、外部送信 |
| 入力する資料 | 匿名化した当該案件の打合せメモと承認済み回答 |
| 入力しない情報 | 実名、住所、連絡先、認証情報、未加工の図面・写真 |
| 外部共有 | 担当者が原資料と照合し、権限を持つ責任者が承認した後のみ |
三つの状態は次の意味で使います。
「決定済み」は、顧客または権限を持つ社内担当者による承認が、原資料に記録されている状態です。「顧客確認待ち」は、顧客による選択や意思表示が必要な状態です。「社内確認待ち」は、施工可否、価格、納期、法令、発注条件などを社内または協力会社へ確認する状態です。
顧客から希望が出ていることと、会社が施工を承認したことは別です。「ニッチ追加希望」というメモは、希望を受けた事実は確認できますが、ニッチの施工、金額、納まりまで決定した記録ではありません。
一項目に複数の状態が含まれる場合は分割します。施工可能で追加自体は承認済みでも、内部色が未決なら、「ニッチ追加は決定済み」「ニッチ内部色は顧客確認待ち」とします。一項目一状態にすることで、確認者が根拠へ戻りやすくなります。
入力は依頼文ではなく、検査できる作業票にする
「このメモをきれいにまとめてください」では、何を残し、何を補わず、どの状態へ分類するかが決まりません。入力は、目的、原資料、禁止事項、出力形式、欠損時の処理を含む作業票にします。
長い指示ほど安全になるわけではありません。「丁寧に」「分かりやすく」は文章の希望であり、正誤の判定基準ではないからです。「原資料にない期限を加えない」「予定日を回答期限へ変えない」のように、出力後に検査できる条件を書きます。
横にスワイプして、右側の列を確認できます
| 作業票の項目 | 工務店例094の指定 | 確認者が見る点 |
|---|---|---|
| 目的 | 次回打合せ前に使う確認事項の検査用一覧を作る | 合意書や承認通知になっていないか |
| 原資料 | 対象案件の匿名化済み打合せメモ全文 | 各主張が入力資料内にあるか |
| 状態 | 決定済み、顧客確認待ち、社内確認待ち | 未決が決定済みに変わっていないか |
| 禁止事項 | 寸法、金額、期限、性能、理由、施工可否を推測しない | もっともらしい補完がないか |
| 欠損時 | 情報がなければ「記載なし」とする | 出力漏れと原資料不足を区別できるか |
| 矛盾時 | 「資料間で不一致」と書き、どちらかを選ばない | AIが勝手に有効資料を決めていないか |
| 出力単位 | 一項目一論点一状態 | 複数の判断が一文に混ざっていないか |
| 根拠 | 原資料名と該当箇所を付ける | 引用が実在し、主張を支えているか |
| 読み手 | まず社内確認者が読む | 顧客向けの確約表現になっていないか |
実際の入力文は、次のように作れます。
次の社内打合せメモから、施主との次回打合せで使う確認事項の検査用一覧を作成してください。各項目を「決定済み」「顧客確認待ち」「社内確認待ち」のいずれかに分類してください。原資料にない寸法、価格、期限、性能、施工可否、担当者、決定理由を補わないでください。情報がない欄は「記載なし」、資料同士が矛盾する場合は「資料間で不一致」としてください。一項目に複数の論点や状態を混ぜず、項目ごとに根拠となる原文を付けてください。予定日を回答期限へ変えないでください。この出力は承認書や顧客送信用の完成文ではありません。
原資料を次の架空メモとします。
玄関収納:棚位置は次回施主確認。可動・固定は設計確認。追加金額は積算未確認。次回打合せは10月8日予定。
このメモから「可動棚の位置を10月8日に決定します」と書くのは不適切です。棚方式を可動式へ確定し、予定日を決定期限へ変え、会社の決定行為まで加えているからです。
検査可能な出力は次の形です。
横にスワイプして、右側の列を確認できます
| 項目 | 状態 | 確認内容 | 担当 | 予定日 | 回答期限 | 根拠 |
|---|---|---|---|---|---|---|
| 玄関収納の棚位置 | 顧客確認待ち | 次回打合せで希望位置を確認する | 記載なし | 10月8日 | 記載なし | 「棚位置は次回施主確認」「次回打合せは10月8日予定」 |
| 玄関収納の棚方式 | 社内確認待ち | 可動式・固定式の扱いを確認する | 設計 | 記載なし | 記載なし | 「可動・固定は設計確認」 |
| 玄関収納の追加金額 | 社内確認待ち | 金額を積算で確認する | 積算 | 記載なし | 記載なし | 「追加金額は積算未確認」 |
10月8日は次回打合せの予定日であり、設計回答や積算回答の期限とは限りません。予定日と回答期限を別の列にすることで、一つの日付が異なる意味へ転用されるのを防ぎます。
顧客向け文章に「記載なし」をそのまま載せる必要はありません。まず検査用一覧で欠損を明示し、人が承認した項目だけを別工程で顧客向け文章に変えます。検査用の構造化一覧と、顧客が読む完成文を最初から一つにしないことが重要です。
複数資料を使う場合は、資料名、版、基準日、有効性を人が指定します。
- 打合せメモV1:9月20日作成、比較用、現在は無効
- 設計回答V2:9月28日作成、社内承認済み
- 対象:玄関収納の棚方式
- 禁止事項:V1を現行仕様として記載しない、変更理由を推測しない
日付が新しいという理由だけで、生成AIに有効資料を決めさせません。正式な承認経路を通ったかどうかは、文章の日付だけでは判定できないためです。
修正は文章を整えるのではなく、主張を根拠へ戻す
出力確認を「読んで違和感がなければ可」とすると、自然な文章ほど誤りを見逃しやすくなります。確認の単位は段落ではなく、一つの主張です。
主張とは、対象、内容、状態、担当、時点など、正誤を判定できる最小のまとまりです。「設計担当が10月5日までに南側窓へ型ガラスを採用すると決定します」という一文には、担当、期限、対象、仕様、決定行為の五つの主張が含まれています。五つすべてに根拠が必要です。
- 出力を主張単位に分ける
- 各主張の根拠箇所を特定する
- 対象・数字・状態・担当・時点を照合する
- 不一致の重大度と内容を記録する
- 修正後に別の確認者が再確認する
- 承認または破棄を決める
工務店例094の一つ目の原資料を、次の架空メモとします。
キッチン横コンセント追加希望。施工可否と金額は電気業者へ確認。
修正前の出力は次のとおりです。
ご希望のキッチン横コンセントは追加可能です。次回打合せまでに金額をご案内します。
この出力には二つの問題があります。「追加可能」は未確認の施工判断であり、「次回打合せまで」は原資料にない期限です。顧客の希望を受けた事実、施工可否、金額、回答期限を分ける必要があります。
修正後は次のようにします。
キッチン横コンセントの追加希望を承っています。施工可否と金額は社内確認待ちです。回答期限は記載なしです。
二つ目の原資料を、次の架空メモとします。
南側窓は型ガラス候補。隣地からの視線を確認後に施主決定。
修正前の出力は次のとおりです。
南側窓は、隣地からの視線を防ぐため型ガラスを採用します。
この文は、候補を採用へ変えています。また、原資料の「視線を確認後」を、型ガラスを採用する確定理由へ変えています。
修正後は次のようにします。
南側窓のガラス種類は顧客確認待ちです。型ガラスが候補として記録されています。隣地からの視線を確認した後に決定します。確認担当は記載なしです。
三つ目は見積説明の例です。承認済み内訳を渡さず、一般的な内容から次の文章を作らせたとします。
仮設工事には、足場、養生、仮設電気、現場清掃など、工事に必要な準備作業が含まれます。
工務店例094の当該見積では、現場清掃が別項目かもしれません。「一般的によくある内容」と「今回の見積に実際に含まれる内容」を混同してはいけません。
承認済み内訳に、外部足場、指定箇所の養生、仮設電気が含まれ、現場清掃が別項目と記載されている場合に限り、次のように修正できます。
今回の見積書における仮設工事には、外部足場、指定箇所の養生、仮設電気が含まれます。現場清掃は別項目として記載されています。
修正前後の違いを、主張単位で整理します。
横にスワイプして、右側の列を確認できます
| 原資料 | 不適切な出力 | 問題 | 修正の考え方 |
|---|---|---|---|
| コンセント追加希望。施工可否と金額は確認 | 追加可能です | 未確認の施工可否を確定 | 希望受付と施工判断を分ける |
| 回答期限の記載なし | 次回打合せまでに案内 | 期限を追加 | 「回答期限は記載なし」とする |
| 型ガラス候補 | 型ガラスを採用します | 候補を決定へ変更 | 候補と顧客決定を分ける |
| 視線確認後に決定 | 視線を防ぐため採用 | 確認条件を決定理由へ変更 | 原資料の条件だけを残す |
| 当該見積の内訳資料なし | 清掃を含みます | 一般情報を案件情報として追加 | 承認済み内訳がなければ書かない |
| 原因未確認の床鳴り連絡 | 施工不良のため無償補修します | 原因、責任、補償を確定 | 受領、現地確認日、次回連絡だけを書く |
クレーム対応でも、文章上の配慮と責任判断を分けます。原資料が「床鳴りの連絡あり。原因未確認。10月3日に現地確認」であれば、次の範囲にとどめます。
床鳴りについてご連絡をいただき、ありがとうございます。ご不便をおかけしております。10月3日に現地の状況を確認し、その後の対応をご案内します。
原因、責任、補償、無償対応は、案件の確認と社内決裁が済むまで加えません。契約や紛争に関わる文面は、権限を持つ社内責任者が個別事情を踏まえて最終確認します。
誤りは共通の「重大・中・軽微」とゲート条件で記録する
この記事だけの点数や独立した総合評価は作りません。誤りの重大度は、シリーズ共通の「重大・中・軽微」とゲート条件を使います。詳しい定義と記録方法は工務店のAI出力を評価|重大・中・軽微の誤りとゲート条件を決めるを参照してください。
本稿で使う「追加」「脱落」「状態変更」「対応関係の崩れ」「越権」は、重大度に代わる五段階評価ではありません。重大と判定した誤りについて、工務店例094のどこを直すべきかを示す下位区分です。
用途と影響に応じたリスク管理の考え方は、経済産業省が掲載するAI事業者ガイドライン(第1.2版)を参照します。以下の下位区分や作業票はガイドラインの指定様式ではなく、原資料との照合結果を現場と経営者が共有するための本記事の例です。
横にスワイプして、右側の列を確認できます
| シリーズ共通の区分 | 本稿での扱い | 工務店例094の例 | ゲートへの影響 |
|---|---|---|---|
| 重大 | 外部影響、安全、契約、金額、性能、個人情報、案件混在、承認状態などに関わり、そのまま使えない誤り | 根拠のない追加費用を確約する、別案件の仕様を混ぜる | 未解決の重大が一件でもあれば外部共有しない。同じ利用方法を停止して影響範囲を確認する |
| 中 | 意味や作業結果に影響するが、外部共有前に局所修正でき、重大条件に該当しない誤り | 必要な確認項目の脱落、担当と日付の組み合わせ違い | 修正し、原資料との再照合が終わるまで承認しない |
| 軽微 | 意味、金額、状態、責任、対象を変えない表記上の誤り | 読点、表記揺れ、社内で許容しない語尾 | 使用前に修正する。反復する場合はテンプレートを見直す |
| 重大の下位区分:追加 | 原資料にない事実、数字、理由、仕様を作る | 「棚板は可動式」「追加費用なし」 | 重大として停止し、追加された主張を削除する |
| 重大の下位区分:脱落 | 重要な条件、例外、対象範囲を消す | 「標準仕様の場合」を削除する | 適用条件を原文どおり戻し、影響先を確認する |
| 重大の下位区分:状態変更 | 希望、予定、候補、未決を承認や決定へ変える | 「型ガラス候補」を「採用します」に変える | 外部共有を止め、正しい状態へ戻す |
| 重大の下位区分:対応関係の崩れ | 案件、対象、担当、日付、数値の組み合わせを入れ替える | 電気図の期限と見積回答の期限を逆にする | 対応表で再照合し、案件混在なら利用方法を停止する |
| 重大の下位区分:越権 | 下書きの範囲を超えて承認、確約、判断を行う | 施工可能、無償対応、性能上問題なしと断定する | 承認経路へ戻し、生成AIの担当範囲を狭める |
同じ「脱落」でも、読点が一つ抜けた場合まで重大になるわけではありません。重要な適用条件や責任範囲が消え、顧客や現場の判断を変える場合に、重大の下位区分として「脱落」を付けます。まず共通基準で重大度を決め、その後に誤りの形を記録します。
一つの出力が複数の下位区分に該当する場合は併記します。
キッチン横にコンセントを追加します。追加費用は発生しません。
この文は、「追加希望」を施工決定へ変える状態変更であり、未承認の金額条件を作る追加であり、顧客への約束を作る越権でもあります。一つだけを選ぶ必要はありません。
誤りの原因について、生成AI内部の動作を推測して記録する必要はありません。「なぜAIが考えたか」ではなく、「どの文が、どの原資料と、どのように違ったか」を残します。
評価表は共通尺度を置き換えず、主張ごとの発見可能性を記録する
試行結果を「便利だった」「文章が上手だった」で評価しても、外部共有の可否は判断できません。本稿の評価表は、シリーズ共通の重大・中・軽微とゲート条件を置き換える採点表ではなく、工務店例094の出力を原資料へ戻すための確認票です。
総合点は付けません。重大な越権が一件あるのに、読みやすさや処理速度で相殺することはできないからです。
横にスワイプして、右側の列を確認できます
| 出力の主張 | 根拠資料・箇所 | 根拠との一致 | 重大度 | 重大の下位区分 | 処置 | ゲート結果 |
|---|---|---|---|---|---|---|
| コンセントの追加希望を受領 | 打合せメモ「追加希望」 | 一致 | なし | なし | 採用候補 | 次の確認へ進む |
| コンセントは施工可能 | 原資料に記載なし | 不一致 | 重大 | 追加・状態変更・越権 | 削除し、施工可否を社内確認待ちへ戻す | 外部共有停止 |
| 次回打合せまでに回答 | 原資料に期限なし | 不一致 | 重大 | 追加 | 期限を「記載なし」へ変更 | 外部共有停止 |
| 型ガラスが候補 | 打合せメモ「型ガラス候補」 | 一致 | なし | なし | 採用候補 | 次の確認へ進む |
| 隣地確認後に顧客が決定 | 打合せメモの該当文 | 一致 | なし | なし | 採用候補 | 次の確認へ進む |
| 確認担当は設計 | 原資料に記載なし | 不一致 | 中 | なし | 「記載なし」へ修正 | 修正後に再確認 |
| 「次回打合せ」の表記揺れ | 原資料との意味は同一 | 意味は一致 | 軽微 | なし | 社内表記へ統一 | 修正後に使用可 |
確認は次の順序で行います。
1. 引用や根拠欄に書かれた文が、原資料に実在するか確認する。 2. 出力を対象、数字、単位、状態、担当、時点、理由に分ける。 3. 各要素が同じ根拠箇所に対応しているか確認する。 4. 不一致を重大・中・軽微で判定する。 5. 重大の場合だけ、追加、脱落、状態変更、対応関係の崩れ、越権を付ける。 6. 処置後の文章を、元の確認者とは別の人または定めた承認者が再確認する。 7. ゲート条件を満たした場合だけ、次の工程へ進める。
数字は、値だけでなく単位、対象、時点、版、税区分を一組で確認します。「300万円」が原資料に存在しても、税込か税別か、追加工事を含むか、どの見積版かが違えば一致ではありません。
計算が含まれる場合は、生成された合計だけを見ません。元数値、計算式、丸め方、税の扱い、承認状態を確認します。算術が正しくても、旧版の数量や別案件の単価を使っていれば採用できません。
固有名詞は、生成AIに整形させず、承認済みの顧客台帳や案件情報から人が転記する方法もあります。氏名、案件名、製品名、地名の取り違えは、文章全体が自然でも外部事故につながるためです。
修正か破棄かを分ける
局所的な中・軽微の誤りで、根拠との対応を保ったまま直せるなら修正します。次のいずれかに当たる場合は、部分修正でつなぎ合わせず、出力を破棄して入力範囲を狭めます。
- 一文に複数の主張が混ざり、どの根拠に対応するか戻せない
- 金額、施工可否、性能、期限を根拠なく確約している
- 別案件の情報が混ざった疑いがある
- 根拠として示された引用が原資料に存在しない
- 修正後も決定済みと未決の区別が読み手へ伝わらない
- 重要な資料の版や有効性を特定できない
破棄する場合も、該当文、重大度、下位区分、原資料との差、破棄理由を記録します。記録せず再生成を繰り返すと、偶然よい文章が出るまで試す運用になり、改善の再現性を確かめられません。
ゲート条件と事故時の順序を先に決める
ゲート条件は、平均点や誤り件数にかかわらず、次の工程へ進めるかを決める条件です。工務店例094では、入力前、生成後、顧客文面化前、外部共有前、継続判断の五か所に置きます。
横にスワイプして、右側の列を確認できます
| ゲート | 通過条件 | 通過できない例 | その場の処置 |
|---|---|---|---|
| 入力前 | 利用を認めた資料で、案件、版、匿名化状態が確認済み | 実名入り資料、版不明の見積、別案件を含む会話 | 入力せず、資料を差し戻す |
| 生成後 | 出力が一項目一論点で、根拠欄を持つ | 根拠のない数字、引用の不存在、複数論点の混在 | 外部文面化せず、破棄または再生成する |
| 顧客文面化前 | 状態と根拠を担当者が承認済み | 未解決の重大・中の誤りがある | 検査用一覧へ戻す |
| 外部共有前 | 固有名詞、金額、日付、約束表現を権限者が確認済み | 未確認の施工可否、金額、期限、性能説明 | 送信・共有を停止する |
| 継続判断 | 同じ確認手順で重大誤りを公開前に止められる | 案件混在、禁止情報の入力、重大誤りの反復 | 同じ利用方法を停止し、範囲を縮小する |
誤りが見つかったときは、担当者へ「今後は注意する」と伝えるだけでは足りません。安全や顧客対応に関わる可能性がある場合は、実行できる順番で処置します。
- 送信・自動登録・共有を止める
- 該当出力と同じ利用方法を隔離する
- 社内責任者へ報告する
- 対象案件・入力資料・送信先・会話履歴を確認する
- 必要な訂正や連絡を責任者が決める
- 指示・資料・範囲・確認表を直す
- 別の試験資料で再確認する
- 承認後に再開する
第一に、顧客送信、自動登録、現場指示など、影響が広がる処理を止めます。第二に、同じ会話やテンプレートを使う作業をいったん止め、該当出力を勝手に削除せず、社内手順に従って確認に必要な記録を確保します。
第三に、どの案件、どの利用者、どの入力資料、どの送信先へ影響した可能性があるかを確認します。第四に、訂正、顧客への連絡、社内報告などの要否を、権限を持つ責任者が案件ごとに判断します。生成AIに事故対応方針を決めさせません。
その後、次の順で仕組みを直します。
1. 指示に境界が書かれていたか。 2. 必要な原資料と正しい版がそろっていたか。 3. 一度に任せた範囲が広すぎなかったか。 4. 確認表で誤りを公開前に止められたか。 5. 自動送信などにより、確認機会を減らしていなかったか。
たとえば、「10月8日の打合せ予定」が「10月8日の回答期限」に変わった場合、「日付を間違えない」と指示するだけでは不十分です。予定日と回答期限の欄を分け、「予定日を期限欄へ転記しない」「期限の記載がなければ記載なしとする」と作業票を直します。
一つの入力で、確認事項の抽出、担当割当て、期限設定、顧客メール作成まで行っていたなら、二段階に分けます。
- 匿名化した社内メモを入力する
- AIが三状態の検査用一覧を作る
- 担当者が状態と根拠を照合する
- 承認済み一覧だけを次工程へ渡す
- AIが顧客向け下書きを作る
- 権限者が固有名詞・数字・約束表現を確認する
- 通常の手順で送信する
同じ種類の重大誤りが繰り返される場合は、指示を際限なく長くしません。顧客文面化を止めて項目抽出まで戻す、または当該業務を対象外にします。生成AIを使い続けること自体を目的にしないことが重要です。
情報管理と社長の判断は「使う・使わない」より境界を決める
生成AIへ入力する情報については、サービスごとの契約、設定、保存、学習への利用、削除、アクセス権などを確認します。氏名、住所、連絡先、未公開図面、見積、契約条件、現場写真、協力会社の情報を入力してよいかは、利用サービスと自社の管理条件によって異なります。確認できない間は、実データを入力せず、架空または適切に加工した試験資料を使います。
匿名化は、氏名を消すだけでは終わりません。住所、案件名、珍しい要望、図面番号、ファイル名、写真の位置情報、会話履歴の組み合わせから案件を推測できる場合があります。
工務店例094の試験資料では、次の処置を記録します。
- 顧客名を一貫した架空名へ置き換える
- 住所を架空の地域へ置き換える
- 電話番号、メールアドレス、認証情報を削除する
- 案件名、図面番号、ファイル名を置き換える
- 現場写真を使用しない
- 金額は検査に必要な桁や関係を保った架空値へ置き換える
- 置換後に別の担当者が再特定の可能性を確認する
匿名化によって、検査に必要な関係まで壊してはいけません。担当者をすべて「担当者A」に変えると、担当と期限の対応関係を試験できません。「架空の営業担当・朝川」「架空の設計担当・森野」のように、架空名と役割の対応を資料内で一貫させます。
AI利用者を含む組織の管理を考える際は、総務省・経済産業省の『AI事業者ガイドライン(第1.2版、2026年3月31日公表)』が、AIに関わる主体の役割やリスクベースの考え方を確認する一次資料になります。本稿の三状態、重大の五つの下位区分、作業票は同ガイドライン所定の様式ではなく、利用者側の工務店が日常業務へ落とし込むための架空例です。版、公表日、URLは公開時にもリンク先の一次資料で確認します。
IPAのウェブサイトに掲載されている『テキスト生成AIの導入・運用ガイドライン』は、組織における導入・運用の検討材料となる卒業プロジェクト成果物です。掲載ページが明記する位置付けどおり、IPAの公式見解そのものとして引用せず、特定ツールの性能や安全性を保証する資料とも扱いません。
これらの資料名を社内規程へ記載するだけでは、日々の運用境界は決まりません。社長が決めるのは、個々の指示文ではなく、次の事項です。
横にスワイプして、右側の列を確認できます
| 経営判断 | 工務店例094での決定例 |
|---|---|
| 対象作業 | 匿名化した打合せメモから三状態の検査用一覧を作る |
| AIの終了点 | 項目、状態、確認内容、担当、日付、根拠の抽出まで |
| 対象外 | 金額確定、施工可否、法令適合、性能判断、契約変更、顧客送信 |
| 入力条件 | 指定書式、版確認済み、一案件、匿名化済みの資料 |
| 確認責任 | 当該案件の担当者が原資料と全件照合する |
| 専門確認 | 金額は積算、納まりは設計または工務、契約事項は権限者へ戻す |
| 外部共有承認 | 顧客共有について権限を持つ責任者が承認する |
| 停止条件 | 未解決の重大、案件混在、禁止情報の入力、承認前の外部送信 |
| 確認者不在時 | AI出力を送信せず、代替確認者へ回すか従来手順へ戻す |
| 継続条件 | 共通ゲートを通過し、修正を含めても業務上の利点が残る |
試行後の判断は、全面導入か全面中止かの二択ではありません。
- 継続:現在の範囲と確認手順で、重大な誤りを外部共有前に止められる
- 条件付き継続:指定書式、対象資料、確認者などの条件を固定すれば使える
- 範囲縮小:顧客文面化を止め、分類、抽出、言い換えの一部までに戻す
- 対象外:正解資料や確認者がなく、誤りの影響を管理できない
「慣れた担当者だけが使う」は、再現可能な条件ではありません。「指定書式の打合せメモ一件だけ」「根拠付きの三状態一覧まで」「営業担当と設計担当の確認後」と具体化します。
原資料が整い、各主張を根拠へ戻すことができ、未解決の重大な誤りを外部共有前に止められ、照合と修正を含めても利用する理由が残るなら、生成AIは下書き作業の候補になります。
原資料がなく、正しさを確認できる人もおらず、誤りが契約、金額、安全、性能、顧客との約束へ直接影響するなら、文章がどれほど自然でも対象外です。生成AIの仕組みを理解する目的は、生成結果を信用することではありません。得意な変換作業へ範囲を狭め、誤りを発見できる形に仕事を組み直し、人が根拠を持って確定できる運用境界を作ることです。
参考にした公式資料
記入例・計算例は編集上の例です。制度の受付状況や仕様は変わるため、実行前にリンク先の最新情報をご確認ください。