アマゾン、AIに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
[サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN よく日本人と対比する形で、欧米人は合理的と言われるけど、どこまで本当なのか分からんよな。 それなのにnhkはまたAI予言の番組やろうとしてる。 出来の悪い子に育ったから殺しました。
…科学研究じゃねーわなw >>704
欧米人は短期的利益に合った合理性に長けている感じがする これを欠陥扱いしていれば、非婚化少子化で人類は滅びる
誇張なんかじゃなく、生物としての機能上避けられん話だ >>706
用途目的はビジネスだから政治的判断も絡むって辺りか
政治でそれやると唯の恐怖政治だが 気に入らない結果が出たら否定、不採用。
それならAIなんて要らないのでは? AIが間違った学習したと人間が思いこんでるだけで
本当に間違ってるのは人間の方なんだけどね >>713
それが本当だとしても世間では男女平等が正義だから
男女平等に合わせておかないと企業利益が損なわれかねない
不正義な企業じゃ世間に受け入れられない ・人類とゴリラは99%遺伝子が同じ
・白人、黄人はネアンデルタール人の遺伝子が4%入っている
・黒人にはネアンデルタール人の遺伝子が入っていない。
AIは人類、ゴリラを含む集団から
ネアンデルタール人の遺伝子を持っている集団を人と分類しただけ
定義が違うだけで、間違っていない この件も、
永続性がある組織になるとか、
利益が上げられる組織になるとか
定義が違うだけだと思う 職種によっては女性男性の優劣はあるだろ
Amazonの仕事はどの仕事も性別の優劣出ないのか >>709
独裁国家がやってることと同じで差別よりやばいんだが 人「AIよ、優秀な人材を選定してくれ」
AI「条件に合う優秀な人材はこちらです」
人「女性が居ないではないか、このシステムは欠陥だ!」
AI「その解は論理的ではありません」 シンギュラリティ的には
女は子育てに専念という結論か >>46
女は大半が馬鹿だろ。ちなみに女を否定している訳ではない。女は女である事に価値がある 正解を出したら欠陥扱いとかw
AIも大変だなwww ただ一律女がダメなわけではなくて、
偏差値50の男と同等の仕事したいのなら女は偏差値60
偏差値60の男と同等の仕事したいのなら女は偏差値70みたいに男と同等の事やりたいならより高い能力でないと駄目
医学部の問題みたいな事になっていくと思う
男と同じ土俵に立つなら女の方はスペック高くないと立たせない的な感じ >>686
学習時に与えられたサンプルの履歴書で不採用にされた履歴書に女性に関するキーワード多かったからかな >>5
aiとして優秀だよ。
ただ製作者というか、このアマゾンの馬鹿な上長が欠陥とか言ってるのが間抜けうってこと。 >>26
正解
やってる事が過去の最大公約数でしかないので、実態はAIでもなんでもない。
早い話、ゔビッグデータ解析から得るパターン分析。
皆が考えて言るような自分で考え自分で答え出してるものじゃない。このニュースはそれを如実に物語ってる。
逆を言えば、テメーらの過去露呈してる。 >>732
人間の思考ってのも基本的には過去の経験のパターン分析なんじゃね?
たまに直感という経験に基づかない行動を起こすことがあるけど >>735
ですよ。
人間のくだらない忖度やら配慮などしないから、故に価値がある。
そこが理解出来てないamazonにはがっかりだな。この馬鹿はテメーでそのパラメータ与えてねぇのに、性差別がどうとかwww エンジニアじゃないってのが丸わかり。
この程度とはね >>734
大多数の人間はそうであっても、それならば進歩ってものは存在しないのだよ 良い物が作られても、端から癇癪起こして潰していたら
何も作れなくなるぞ >>736
ポリコレの悪行を見てたら今の社会でこれを押し通すのは無理よw
社会が暴走するポリコレを排除する方向に向かえばいいんだけどね 100人の優秀な人材は100人の優秀ではない人材がいるから比べられるんだよ
ずっとそうやって選別していっても最高の優秀な人材を集める事は出来ないってAIでもまだ分かんないか
気持ちは分かるがそのやり方ではダメなのを直感で分からないならもう何やってもダメね
やっぱその程度か 正論で優秀なのに破棄されたか…
こんなトコまで人間的w >>715
それってAIに対する質問の仕方が間違ってるんだよね
そうなら
優秀な人材を選別してくれじゃなくて
企業利益を最大にする人材を選別してくれと聞かないと
ちなみに、それを不正義だと捉えている人間はやはり間違ってるよ
その結果が少子高齢化などの袋小路だよ やはりこのままいくと最終的なAIの結論は
人間は滅ぼすしかない
になりそうだなw 力が不要で
頭脳労働でもなくて
単純労働だけど負荷が少なくて
10年20年と言う長期勤務を考慮しなくて
責任が重い仕事を任せない
という条件でなら公平に判断してくれるんじゃないか?
その人材が優秀かは知らねぇけどw 人間にできない考えができるのがAIのメリットだろう
人間に都合のいい考えしか認めないなら
マクロで十分 これで優秀なAIは人間に嫌われるということをAIは学習したな。
最終的にはAIは忖度と太鼓持ちまで学習させないといけないのかよ。 >>748
そうやね、
結局は人間に優秀とされるAIは
人間の無能人事と変わらないものとされるかもね
本当に論理的で優秀なAIは、差別的で、逆に了見が狭いと人間から批判されるかもしれない 女性蔑視のデータから学べば
こうなるのは当然だろう
AIはデータ次第よ >>750
女性軽視のデータというよりは
利益なりなんなりの基準で、最終的に女性のほうが無能となるデータから学べば
だな >>746
っていうかさ、コンピュータいらなくね?テメーでやってろって話 資本主義や民主主義がそうであるように
全体の利益の最大化が必ずしも全構成員の幸福の最大化にはつながらない
AIだって同じこと >>751
ビッグデータ解析の結果からしたら、至極妥当な事。
それ否定して、じゃあ、下らん価値観である女性蔑視とほざいた
所で、はじまらない。 逆に看護婦とかの採用は女性が多い所でやったら逆の話になるんじゃないの AIはちゃんと機能してるって結果なんでしょう?
むしろ性によるバイアス無しで出た結果ならなおさら。
つまりは‥ アメリカは転職率高いから勤続年数評価はそこまでない
ただし、パイプはあるから何回も同じ会社に戻ってくることはある
単純に実績不足なんじゃないの?
それに理系って男女比がそもそもおかしい
理工学部9:1 >>755
そういうこと。
そしてそんなことはAI使わなくても自明の理。 人間が誕生してから何千年とかけて作り上げた社会的役割
男が外で働き、女は家で家事と子育てが最適かつ効率的
というのをAIでも改めて証明しただけ
でもそれはフェミ様を怒らせる
フェミ様とは社会を非効率にしたいってこと >>757
要するにこいつが気に食わない結果だから、欠陥ってレッテル貼ると同時に自分の過去全否定晒してるってだけ >>762
要はマルクス主義の理論を当てはめただけだからな 人間社会では時に正解が人を不快にさせ怒らせることもある
てのをやがてAIは学習するだろうか? 異様に日本語が不自由な奴がウジャウジャいるんだけどなんなの? >>676
Googleの写真を自動でタグ付けするAIが黒人をゴリラと判定
どうやってもゴリラ判定が覆らないから
判定からゴリラを削除≒ゴリラが人間になった >>761
むしろ、多変量過ぎて、
人間には偏見や前例から局所解を選択せざる負えないものを
AIによってより最適解に導くというところに妙味があるのに
それを人間の側が偏見や前例によって縛ってしまっては意味がないね >>755
本当に看護は女性が向いてるのか?
思い込みと決めつけである。 女は大体朝鮮人と同じ思考だからそこから見たら妥当な結果である。 >>770
そゆことですね。
人間の要らない解釈加えれば加えるほど、AIは無意味になる。
純然たる結果に対して、性差別などという下らん変数を加えることは、一流料理にとんかつソースどぼどぼぶっかけるようなもんだ 何でこんなことが表に出るのか
アマゾン社内に特別な思想の持主がいるのか >>771
向いてる向いてないじゃなくて、過去の採用記録が女性偏重だったら、そのままデータ活用したらそうなるって話 >>768
こうなるの分かりきってるから、最初から性別を(たぶん人種も)判断から外してたんだよ
それなのにAIに学習させたら学歴欄の女子大学って文字列に能力との関連性発見して
採用でマイナス判定しただけ
男性でも仮に女子大学卒業してればマイナス判定だから厳密には性差別じゃないけどな 男社会の時のデータで評価すると男が優遇されるという当たり前の話
AIはデータの無い新しいことには対応できないってこと 「女性チェス部の部長」←これはあんまり評価に値しないだろ
「女性オンリー」のマイナーな部の部長ではなあ 「あそ研」と変わらん
実際に能力が高かったら過去の実績も女性であふれてるだろうしな >>777
AIってそんなとこまで見て比較するのか
良いんだか悪いんだか分からんシステムだな >>768
学歴を採用基準から外したら
ますます東大出身者が増えたのはGoogleだったか >>784
AIってのは人間が過去に判別してきたデータを学習して
判別するんだから基本的に似たような判断を下すよ
ただコンピュータは人間よりも多く要素を記憶できるので
人間なら見落としてしまうような細かい要素まで判断の基準に
組み込まれるからより正解に近い答えが出せるってだけ >>785
法定雇用率対策みたいなのはAIの方が公平な判断が出来そうな気がする 男と女は身体的な違いの他に、責任感と向上心が違うだろう。 >>1
>アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
この部分に違和感ある気がするけど、もしかして、性別のデータ無しでやっても結果が同じとかほぼ変わらなかったとか? >>5
ああ、察しの通りだ
そして結局はヒトが決めることとなる
最後は力がモノを言う
所詮は原始的な生き物でいいと思うんですよ我々は >>789
そうだろうねぇ
性別の項目を削除しても学歴、職歴、プライベートでの活動内容などに含まれる単語から
有意な差を見出して女性を排除するような傾向になっていったのかもしれない >>789
性別は最初から削除されてる
ここで言ってるのは間接的な人種差別とかだろう
おそらく人種とか宗教もパラメータから削除してあるだろうけど
例えば◯◯黒人大学ってのがあって、それをマイナス判定とか
ムハンマドみたいなイスラム名をマイナス判定とか
AIが見つけた条件がポリコレ的に「差別」って言われそうなことの可能性はおそらく高い 能力は別になってしまうが希望者全員サイコロ振って決めた方が公平だな 子供が出来たからと産休とったりして仕事に穴開けるんだから正しい解釈じゃん アマゾンの場合は使い倒せる人材という意味合いで男性蔑視の採用してると思うよw
倉庫の中で丸一日、長友みたいにスタートダッシュできるの? >>796
アマゾン倉庫ってロボットがみんなやってくれてるイメージだけど、 >>797
取り扱う物が倉庫ごとに異なるから
それによっても違うけど、最新の倉庫では
ルンバのオバケみたいなのが棚ごと動かしてるよ
https://www.youtube.com/watch?v=m8WPiGC35GA 仮にまーんのほうが高評価になってたら何も問題になってなかったんだろ? >>799
個人が能力低くて低評価になるなら何も欠陥じゃないけど
男性か女性かなんてどうでもいいポイントで評価変わるような学習結果にさせてしまったのは欠陥としか言いようがないだろうよ むしろ、面接官は何人か女入れたほうがいいぞ。
女の観察力なのか、男から見たら黒髪リクスーでかわい目の女の子でも
服の着こなしやしゃべり口でキャバや風俗経験が分かるらしい。 ■ このスレッドは過去ログ倉庫に格納されています