バイアス
ばいあす ／ Bias
定義
バイアスとは、AIの出力が、特定の属性や考え方に偏ってしまう傾向のことです。
AIのバイアスは、学習データに含まれる偏りや、データの集め方、モデルの設計などから生まれます。たとえば過去の採用データに偏りがあると、AIがその傾向を引き継いでしまうことがあります。本人が気づかないうちに不公平な扱いにつながることがあるため、人に関わる判断にAIを使う場合は、なおのこと注意が必要です。データの内容を確認する、属性ごとに結果を比べる、最終判断に人が関わる、といった取り組みで影響を小さくできます。生成AIの文章や画像にも偏りが表れることがあります。