敵対的サンプル

敵対的サンプルは、画像や音声、文章などに、人の目や耳ではほとんど気づかない小さな細工を加え、AIに誤った判断をさせるように作った入力です。たとえば、画像認識のAIが、少し模様を加えただけの画像を別のものと判断してしまう例が知られています。学習の段階でデータに細工をするデータポイズニングに対し、敵対的サンプルは使う段階の入力を狙う点が違います。検品や本人確認など、AIの判断がそのまま業務の結果につながる場面では、想定外の入力に対する強さ（ロバスト性）を確かめておくこと、重要な判断には人の確認を残すことが大切です。