公平性

公平性

公平性とは、AIの予測、判断、サービスによって、特定の個人や集団が不当に有利または不利に扱われないようにする考え方です。

採用、融資、保険、教育、医療など、人の機会や生活に影響する分野では、とくに重要な原則とされています。AIの結果に差が生じる原因には、学習データの偏り、対象となる集団のデータ不足、評価基準の設定、モデルの設計、利用方法などがあります。公平性を確認する際は、AI全体の平均的な精度だけでなく、性別、年齢、地域などの集団ごとに結果や誤りの割合を比較することがあります。

ただし、公平性には複数の考え方があり、すべての集団で同じ結果の割合にする方法、同じ条件の人を同じように扱う方法、予測精度をそろえる方法など、目的によって基準が異なります。ある基準を満たすと別の基準を満たせない場合もあるため、何を公平とするかを利用目的や社会的影響に照らして定める必要があります。AIの公平性は、AIバイアスを把握し、責任あるAIを実現するための主要な要素の一つです。公平性の評価結果や判断基準を記録し、関係者に説明できる状態にすることも重要な管理の一部です。く、利用目的や影響を含めて検討されます。完全に偏りをなくすことが難しい場合には、残る影響を把握し、利用範囲や人による確認方法を調整します。