AIの数字はなぜ間違うか｜“計算は計算機・AIは言語化”の実務
AIに数字や資料づくりを任せると、作業はたしかに速くなります。ただ、生成された数字には「もっともらしい誤り」が紛れ込みます。これは使い方が下手だからではなく、いまの生成AIの仕組みそのものに由来します。私たちは毎月の業務レポートをAIで組み立てるなかで何度かこの壁に当たり、最終的に「数字はAIに推論させず、計算結果の出所を機械で照合してから載せる」という運用に切り替えました。この記事では、なぜAIの数字は危ういのか、そして中小企業が現実的に取れる検証のしくみを、自社の試行錯誤に沿ってまとめます。
なぜAIは数字を間違えるのか
結論から言うと、生成AIは数字の意味を計算しているのではなく、「次に来そうな文字」を確率で予測しているだけだからです。
人が「123×456」を見れば計算しますが、AIは学習した大量の文章から“それらしい続き”を返しているにすぎません。桁の多い掛け算や集計で答えがずれるのは、能力が低いからではなく、そもそも計算という処理をしていないためです。文章の生成では強力でも、数字の厳密さは別の話だと考えたほうが安全です。
そして実務でいちばんこわいのは、AIが自信たっぷりに、それらしく間違えることです。あからさまな誤りなら気づけますが、桁や単位がもっともらしく整った数字は、見ただけでは正誤を判断できません。「AIが言っているから合っているだろう」という前提が、そのまま事故につながります。
計算は計算機、AIは言語化に分ける
私たちが行き着いた原則は単純で、数字はプログラムで確定的に計算し、AIにはその結果を言葉で説明させる、という分業です。
具体的には、レポートに載るすべての数値を、AIではなく計算処理の側であらかじめ算出し、一覧（台帳）として持っておきます。文章のテンプレートには数字を直接書かず、「ここにはこの値が入る」という参照だけを置きます。AIに任せるのは、確定済みの数字をどう日本語で説明するか——つまり言語化の部分だけです。
こうすると、AIがどれだけ流暢でも、数字そのものをAIが“作る”余地がなくなります。速さは活かしつつ、数字の正確さは計算機に担保させる。役割を分けるだけで、ハルシネーションの入り口の多くは塞げます。AIに何をどこまで任せるかという上流の考え方は、AI活用で成果を分けるのは手順ではなく上流でも触れています。
正しい値が、違う場所に入る
ところが、これだけでは足りませんでした。一つひとつの数字が正しくても、入る場所を取り違えれば資料は間違うからです。
たとえば商品Aと商品Bの売上を並べた表で、Aの欄にBの数字が、Bの欄にAの数字が入ってしまう。値そのものはどちらも“正しい数字”なので、「その数字が存在するか」というチェックは素通りします。二つの正しい値が入れ替わっただけでは合計すら変わらないこともあり、目で見つけるのは簡単ではありません。
そこで検証のしかたを、「その数字が在るか」から「正しい場所に在るか」へ変えました。表の各欄について「この列にはこの定義の値が入るはず」と突き合わせる、いわば住所での照合です。試しに2か所の数値をわざと入れ替えてみたところ、2件とも「場所が違う」と検出できました。
「気をつける」をやめて、しくみで落とす
ここまでの経験から、もう一つ方針を決めました。人の注意力に頼るのをやめ、誤りは機械が自動で弾くようにすることです。
人は疲れますし、急ぎのときほど見落とします。「次から気をつけます」は再発防止になりません。そこで、つまずいた箇所はそのつど“通さないしくみ”に落としていきました。たとえば次のような点検です。
- 出所の分からない数字が一つでもあれば、書き出しを止める（＝必ず計算結果に紐づく数字しか載らない）
- 使ってはいけない言い回しや、社内で禁止した表現が混ざっていたら止める
- 担当者名や必須の項目など、「無いとおかしい・違うとおかしい」要素を機械的に点検する
担当者名の表記違いのような“うっかり”も、目視ではなく検査の対象にしてしまえば、毎回確実に捕まえられます。大事なのは、ミスを責めることではなく、同じミスが二度と通らない経路をつくることです。人の確認をどう運用に組み込むかは、AIネイティブなサイト運用の役割分担の考え方とも重なります。
しくみは「効くか」を試してから入れる
検証のしくみは、入れただけで満足すると危険です。わざと壊して、ちゃんと検出できるかを確かめてから採用する——これも実体験から得た原則です。
私たちは、手作業で作っていた過去の資料に、後から検証のしくみをかけてみました。すると、出所をたどれない数字が数十件も見つかりました。「これまで人の目だけで通していたものに、これだけ抜けがあった」と分かったことが、しくみを本格運用に乗せる決め手になりました。先ほどの“入れ替え”も、故意に仕込んで検出できることを確認しています。
テストは、緑（問題なし）になることより、仕込んだ誤りでちゃんと赤くなることのほうが大事です。赤くなる証拠を見てから信じる。これは数字に限らず、AI活用の検証全般に通じる考え方だと思います。
中小企業が今日からできる最小の一歩
ここまで読んで「うちにそんなしくみは作れない」と感じた方へ。全部を作り込む必要はありません。まずは次の二つだけで、十分に効果があります。
- AIに数字を“作らせない”。集計や計算は表計算ソフトやプログラムに任せ、AIには出てきた数字の説明や文章化を頼む。
- 「この数字、どこから来た？」に即答できる状態にする。重要な資料ほど、各数字の出所（元データ・計算）を一つずつ言えるようにしておく。
この二つだけでも、もっともらしい誤りが資料に紛れ込む確率は大きく下がります。慣れてきたら、繰り返し使う資料に自動チェックを一つずつ足していけば十分です。小さく始めて、つまずいた所だけしくみにする——それが、現場で続く検証のつくり方です。AIを日々の業務に組み込む具体例は、中小企業の“入力作業ゼロ”をどう実現したかで紹介しています。
まとめ
生成AIは、文章づくりや下調べでは大きな力を発揮します。一方で、数字の正確さはAIの得意分野ではありません。だからこそ、計算は計算機に任せ、AIは言語化に徹する。そして出てきた結果は、人の注意ではなく、しくみで検証する。この役割分担さえ押さえれば、AIの速さと数字の正確さは両立できます。
私たちは、お客様にお勧めするやり方を、まず自分たちの業務で試し、つまずきながら確かめています。AIの活用も同じで、便利さの裏側にあるリスクを実際に踏んでみたからこそ、安心して使える形をご提案できると考えています。