【悲報】GoogleのAIが黒人の画像を「ゴリラ」と判別した事件から8年、未だに各社AIはゴリラ自体を扱わない模様

2015年、Googleの写真アプリであるGoogleフォトが黒人の写真を「ゴリラ」と
ラベル付けしてしまう事件が発生し、「AIが持つバイアス」の論争が巻き起こりました。
この事件から8年が経過した記事作成時点ではAIテクノロジーが格段に進歩していますが、
いまだにGoogle・Apple・Amazon・Microsoftなどの画像認識AIは「ゴリラ」とラベル付けするのを
避けていると、アメリカの日刊紙ニューヨーク・タイムズが報じています。

Googleフォトには「アップロードされた画像にAIがラベルを付ける」という機能がありますが、
2015年5月にソフトウェア開発者で黒人のJacky Alcine氏は、自身と友人が写った写真に
「ゴリラ」とラベル付けされていたと報告しました。この事件は、AIシステムのトレーニングに
使われたデータセットに十分な黒人の画像が含まれていなかったため、AIがうまく黒人と
ゴリラを識別できなかったことが原因といわれています。

ニューヨーク・タイムズはこの事件から8年が経過したことを受けて、大手テクノロジー企業の
画像認識AIがこの問題を修正したかどうかをチェックしました。まずは人や動物、日用品を
撮影した44枚の画像を選定して、Googleフォトを使って「猫」と「カンガルー」の写真を検索
させたところ、見事に一致する画像を発見することができたとのこと。その他の動物でも
Googleフォトはうまく機能しましたが、「ゴリラ」を検索したところ該当する画像を見つけることはできず、
ヒヒやチンパンジー、オランウータン、その他のサルといった霊長類でもGoogleフォトの検索は
失敗してしまいました。

次にAppleの写真アプリでも同様のテストを行いましたが、やはりほとんどの動物の写真は
正確に識別できるものの、ゴリラを含む霊長類だけは識別に失敗。MicrosotのOneDriveを
使用した写真検索ではすべての動物について答えがなく、Amazon Photosでは「ゴリラ」と
検索するとすべての霊長類の写真が表示されるなど、役に立たないほどのレベルで大ざっぱな
結果が返ってきたとのこと。なお、GoogleとAhttps://gigazine.net/news/20230523-google-photo-ai-prevent-labeled-gorillas/

ちゃんと見ればわかると思うんだけど、顔認証ってどうやってるんだろうな

本来なら延々と画像を読み込ませて、サル、ゴリラ、黒人、アジア人…と人が覚えさせていかないと認識精度が上がらんのに、プロジェクトを立てた途端に外にリークするヤツがおるから進めらんないんだろうな

今ならさすがに十分なデータはぶちこめるだろ
なに逃げてんだよ

技術者「ちゃんと調整しました。今度は大丈夫です。ほら、判定してみろ」
AI（う～ん…黒人とゴリラの違い教えられたけど、イマイチ自信無いんだよなぁ…多分ゴリラだと思うけど、また間違えたら炎上するしなぁ…
そうだ！この回答なら、正解がゴリラの場合はもちろん黒人でも間違ってない！）
AI「この画像は霊長類です」