｢アフリカの労働者｣と｢ヨーロッパの労働者｣で結果が違いすぎる…画像生成AIにつきまとう偏見の問題
Thomas Maxwell ［原文］ （翻訳：梅田智世／ガリレオ、編集：井上俊彦） May. 18, 2023, 11:00 AM テックニュース 86,473 ｢DALL-E｣をもとにした無料ツール｢Craiyon｣に出力させた、｢アフリカ人労働者｣のAI生成画像。 Thomas Maxwell/Insider ツールの高度化に伴い、AI生成画像の人気が爆発している。 しかしこの技術は、知的財産、偏見、デマをめぐる懸念をはらんでいる。 ｢Stable Diffusion｣などのAIモデルが生成する｢アフリカ人労働者｣の画像は、有害なステレオタイプを反映している。 OpenAI（オープンAI）の｢DALL-E（ダリ）｣や、｢Stable Diffusion（ステーブル・ディフュージョン）｣といった、画像を生成するAIモデルがつくった｢アフリカ人労働者｣の画像には、｢ヨーロッパ人労働者｣と
AIはレントゲン写真から人種を90％の確率で見分けられる、ただし見分け方は不明
人間の医師にとって、肌の色などがわからないレントゲン写真から患者の人種を見分けることは困難ですが、新たに医学誌のThe Lancet Digital Healthに発表された論文で、「AIは胸部X線画像から人種を90％の精度で見分けられる」ことが示されました。研究者らはAIが人種を見分ける方法についても調べましたが、今のところAIがどうやって人種を判別しているのかは不明とのことです。 AI recognition of patient race in medical imaging: a modelling study - The Lancet Digital Health https://www.thelancet.com/journals/landig/article/PIIS2589-7500(22)00063-2/fulltext MIT, Harvard scientists f
「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象
欧州議会が2021年10月6日に、法執行機関が顔認証技術や犯罪を予見する技術を使用することを禁止するよう求める決議を採択したと発表しました。欧州議会が人工知能(AI)を用いた捜査の禁止に乗り出した背景には、アルゴリズムの偏りにより差別が助長されることへの懸念があります。 Use of artificial intelligence by the police: MEPs oppose mass surveillance | News | European Parliament https://www.europarl.europa.eu/news/en/press-room/20210930IPR13925/use-of-artificial-intelligence-by-the-police-meps-oppose-mass-surveillance European Parliame
「モザイク画像の解像度を64倍にする研究」が人種差別の議論に発展、非難を集めた研究者はアカウントを停止
計算機科学の分野において功績を収めた人物に贈られるチューリング賞を2018年に受賞した、Facebookの人工知能部門におけるチーフ研究者、ヤン・ルカン氏は、人工知能および機械学習における人種差別の議論で多くの非難を受け、Twitterアカウントを停止することを発表しました。 Yann LeCun Quits Twitter Amid Acrimonious Exchanges on AI Bias | Synced https://syncedreview.com/2020/06/30/yann-lecun-quits-twitter-amid-acrimonious-exchanges-on-ai-bias/ きっかけは2020年6月20日に、デューク大学が人工知能アルゴリズムを用いた高品質の画像生成に関する研究結果をTwitter上で公表したことから始まりました。 Face Depi
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
YouTubeでの「チェス談義」が、“人種差別”として削除された事件の真相
研究者2人を解雇したGoogle AI倫理対立の深刻度 - 日本経済新聞