説明可能なAI（XAI）

説明可能なAI（XAI）

説明可能なAI（XAI）とは、AIがどのような情報をもとに、なぜその予測や判断を行ったのかを、人が理解できる形で示すための技術や考え方です。

XAIは「Explainable AI」の略称です。複雑な機械学習モデルやディープラーニングでは、高い精度を得られる一方、出力に至る過程が分かりにくい場合があります。そこで、判断に大きく影響した入力項目を示す、画像の注目した部分を可視化する、似た事例を提示する、簡単なルールに置き換えて説明するといった手法が用いられます。

説明の内容は、AIを開発する技術者、業務で利用する担当者、AIの判断を受ける利用者など、対象によって必要な詳しさが異なります。また、説明が分かりやすいことと、そのAIが正確または公平であることは同じではありません。説明方法によっては、複雑な処理を単純化して示すため、モデルの動きを完全には表さない場合もあります。説明可能なAIは、重要な意思決定における結果の確認、問題の発見、利用者への説明、規制への対応などに活用されます。高い説明性が必要な用途では、精度だけでなく、説明の再現性や利用者が理解できる表現も評価されます。