説明可能性（XAI）
せつめいかのうせい ／ Explainable AI
定義
説明可能性（XAI）とは、AIがなぜその結果を出したのかを、人が理解できる形で示せる性質や技術のことです。
説明可能性は、AIの判断の理由や根拠を人が確かめられるようにすることを指し、その技術はXAI（説明可能なAI）と呼ばれます。ディープラーニングのような複雑なモデルは、内部の計算が人には分かりにくいため、どの情報が結果に影響したかを示す手法などが研究されています。融資や採用の審査など、人に大きな影響を与える判断にAIを使う場合は、結果を説明できるかが信頼につながります。生成AIでは、回答の根拠となった資料を示す仕組みも、説明のしやすさを高める工夫の一つです。