いまのAIにできること、できないこと 「予測」と「説明」の違いから考える使い方

AIの性能は年々上がっています。一方で、「どこまで任せてよいのか」という問いは、導入が進むほど切実になります。この記事では、AIの得意・不得意を考えるヒントになる研究を一つ紹介し、業務での使い分けに落とし込みます。

「予測」と「説明」は何が違うのですか？

天文学の歴史に、わかりやすい例があります。ケプラーは、観測データから惑星の動きを正確に描く法則を見つけました。その後ニュートンは、万有引力という一つの考え方で、惑星の動きもリンゴの落下も同じように説明しました。

ここには二つの段階があります。一つは「次に何が起きるか」を当てる段階、もう一つは「なぜそうなるのか」を一つの仕組みで説明する段階です。後者が手に入ると、見たことのない状況にも応用が利きます。

AIの研究では、この「仕組みの理解」にあたるものを世界モデルと呼ぶことがあります。世界モデルとは、物事がどう動くかについての内部的な理解のことです。AIが世界モデルを持っているのか、それとも大量のデータから当てはまりのよい規則を拾っているだけなのかは、研究者の間でも議論が続いています。

研究では何が確かめられたのですか？

2025年7月に論文共有サイトarXivで公開された研究があります。著者はハーバード大学とMITの研究者4名で、その後も改訂が重ねられています。

研究の流れを、要点だけ紹介します。

① 惑星の公転を模したデータを大量に作り、AI（Transformerと呼ばれる、いまの生成AIの土台になっている仕組みのモデル）に学習させます。
② AIは、次の時点の惑星の位置を高い精度で当てられるようになります。
③ そのAIに、惑星にかかる「力」を予測させる新しい課題を与えます。
④ AIの予測から、AIが内部で使っている「力の法則」を数式として取り出します。

結果として取り出された法則は、物理的に意味をなさないものでした。データの組み合わせを変えて何度か試すと、そのたびに違う法則が出てきました。どれもニュートンの万有引力の法則にはなりませんでした。

一方、正しい状態（位置や速度など）を直接与えたモデルでは、正しい法則を取り出せました。論文はこの差から、AIは位置を当てる精度は高くても、課題ごとに場当たり的な経験則を使っており、それが新しい課題には一般化しにくいと結論づけています。

この研究から何が言えて、何が言えないのでしょうか？

読み方には注意が必要です。この研究は、特定の条件で学習したモデルを調べたものです。「すべてのAIが因果を理解できない」と言い切るものではありません。AIの仕組みや学習方法が変われば、結果も変わりえます。

それでも、業務で使う立場から見ると、次の二つは心に留めておく価値があります。

• 正確に当たることと、仕組みを理解していることは別です。 過去のデータの範囲では高い精度でも、その理由が人の考える理由と同じとは限りません。
• 学習した範囲の外では、結果が不安定になりやすいです。 市場の急な変化、前例のない取引、新しい制度などは、まさに「範囲の外」にあたります。

生成AIがもっともらしい誤りを出す現象（ハルシネーション）も、同じ文脈で理解できます。文章としての自然さと、内容の正しさは別に評価する必要があります。

日本企業のAI活用はいまどこまで進んでいますか？

総務省の令和8年版情報通信白書によると、日本企業で生成AIを「積極的に活用する」または「領域を限定して利用する」方針の割合は68.9%で、前年度の調査の49.7%から大きく上がりました。業務別では、議事録・メールの作成補助での利用が約7割で、営業・販売が約6割と続きます。

使う場面が広がるほど、「どの仕事を、どこまで任せるか」を決めておくことの意味が大きくなります。

業務ではどう使い分ければよいですか？

AIの性質を踏まえると、次のような使い分けが目安になります。

① AIに任せやすい仕事

• 文章の下書き、要約、言い換え、翻訳
• 過去の資料やデータの整理、分類
• アイデアの候補出し、論点の洗い出し

いずれも、人が読めば正しさを判断でき、間違っても直しやすい仕事です。

② AIを材料づくりに使い、人が判断する仕事

• 需要や売上の見通し
• 投資や採用、取引の判断
• 顧客への提案内容の決定

AIの予測や分析は有力な材料になります。ただ、前提が変わったときに見通しが外れる可能性があるため、「なぜそう言えるのか」を人が確かめて判断します。

③ 人が中心になる仕事

• 前例のない状況での意思決定
• 社内外への説明と、その責任
• 価値観や倫理が関わる判断

このような判断では、筋の通った説明が求められます。AIは考えを整理する相手としては役立ちますが、説明の責任は人が持ちます。

任せるときに決めておきたいことは何ですか？

使い分けを決めたら、次の点を社内のルールにしておくと運用が安定します。

• 確かめ方を決める。 数字・固有名詞・日付・法令は原典で確かめる、といった手順を明文化します。
• 根拠を一緒に出させる。 結論だけでなく、どの資料のどこに基づくかを示すよう指示します。
• 範囲の外を見分ける。 過去のデータにない条件で使うときは、結果を慎重に扱う合図にします。
• 記録を残す。 重要な判断でAIをどう使ったかを残しておくと、後から見直せます。

総務省と経済産業省の『AI事業者ガイドライン（第1.2版）』も、AIの利用者を含む関係者に向けて、人間中心や透明性、アカウンタビリティ（説明の責任）といった共通の指針を示しています。2025年6月には「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）が公布され、同年9月に全面施行されました。社内のルールづくりは、こうした国の枠組みと照らし合わせながら進めると整合が取りやすくなります。

これから期待されることは何ですか？

世界モデルを持つAIの研究は、多くの研究機関で続いています。仕組みの理解に近いものを身につけたAIが実用になれば、未知の状況への応用や、科学の発見を手伝う役割も期待できます。

ただし、それがいつ、どの程度実現するかはまだわかりません。いま手元にあるAIの性質を正しく理解し、得意なところで成果を出しながら、新しい技術を見極めていく姿勢が現実的です。

AIの限界を知ることは、AIを遠ざける理由ではありません。どこで力を発揮し、どこで人が支えるべきかがわかると、安心して使える範囲がむしろ広がります。