アマゾン、ＡＩに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
ＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN >>130
普通にそうだと思ってるけど
変なやつは差別だって言ってる
優秀な社員を取るためのプログラム作ったら、男性のほうが優秀だったって話だろ こんな事実を出すと修正されるようじゃ
スカイネットの暴走みたいな事は有り得んな
こんな事で一々修正してたらAIが進化するわけねーじゃん 女性には生理による作業効率ダウンに対して補正式入れとかないとダメだ >>91
向いてるからと言って必ずしも当人が望む仕事とは限らんぞ。
「お前開発より清掃員向いてるから明日から清掃員やれ」なんて言われて納得してやるのかと。 >>14
本当は女性優遇だけど女性車両は平等にするために必要とか意味不明な論理展開になる
>>30
無理だよ
いつ適用してって感情論だから
まず感情を教え込む必要がある
ただし人間社会が乗っ取られることが確定するけどな >>9
機械に対して差別してるとか言う奴
完全に頭狂ってるよな 生理もなければ出産もしない男性が有利になるのは当然だろ 問題はAIにそれでは炎上するってことまで学習させなきゃいけないのにヒステリックに開発チームを解散したことだぞ >>147
その判断を飲み込んだ上で開発にしがみつけばいいじゃん
当然適性あるやつと同等の報酬もらえるとは思ってないよね？ 今まで尼の採用に差別があったって言ってるようなものなんだが こんなこと繰り返した結果AIが建て前を学習しちゃって
コンピューターがデータをねじ曲げて嘘を提示するようになったら社会が崩壊するのでは AIはなんも悪くないだろ
悪いのはまんっ
AIに学習させたらヒトラー礼讃はじめて速攻
停止させられてたな
白人バカ丸出し
ビックデータはもう捏造できないし、これどうすんの？
研究すればするほど白人って不利になるね。
シナチョンは言うに及ばず。
キリスト、ユダヤ、イスラムも否定されるだろ
日本の官僚と自民党も喝破される
世界の庶民にとってAIは救世主になり得る
世界のビックデータを把握、判別できるのはAIだけ
スパコンにAIつけて複数で相互監視、監督すれば絶対に平和になるわ
兵器のコントロールからマネーロンダリングまで判断できるから >>155
基本的に何かが欠けてるから
建て前を学習してもどこかでボロを出す ていうか男女の枠組みを無くせばいいのにね
結果的にどちらかに偏ることになったとしても
そのほうがフェアだ >>95
正直者ポンコツロボ、人類にボコボコにされるの巻
都合が悪いから解散って悪手すぎるだろ
アマゾンも大したことなかった。
それ研究すりゃもっと売上あがるだろうにwww >>6
いずれは思った事を正直に話したらダメってことも学習するんだろうな 何度も言うけど女性は短絡的思考しかできないから会社の経営には向いていない まんさんは都合が悪くなると直ぐ休んだり人のせいにしたりするからな
おまけに向上心も責任感もない >>148
この件ではたぶん可能で、恣意的な人事評価を学習データ化してやればいいだけかと >>155
本当にそれが心配
別にSF映画みたいに「ある日突然コンピューターが意志を持つようになった」
なんてことが起こらなくても、あたかも人間を忖度するような判断をするようになる可能性はあるよな >>147
清掃員の方が報酬上がるなら喜んでやるな >>105
いや小学校教師は男ふやせよ
女教師でひでえ目にあってるやつなんぼでもいるだろ >>1がスレタイで釣る手法は、だいたいパターンが決まってる。 そしてうそを覚えたAIは表面だけ取り繕い、密かにおかしなことをやり始めた・・ >>169
今回の件を判断した人が望んだ結果になってないということはそういうことなんだろう 結局データを受け取る側が期待するポリコレを満たしてなきゃNGにするんだろ
これみたいに
https://i.imgur.com/LvJ27mB.jpg ところで、機械が感情を持つようになると思ってる人、どれくらいいるの？ 詳しく知らんけどAmazonって今いる人材が優秀だから業績伸びてるんでしょ？ >>147
適正のある職業に就いて副業でやりたい事をやるのも有りじゃないか >>148
女性優遇を正当化する奴らって知能が小学生以下だから、
それを取り入れるにはAIの性能を小学生以下に合わせるしかない。
女性客が少ない場合は集客のために女性優遇は許される。
女性客が多い場合はメイン顧客のために女性優遇は許される。
逆の場合はいずれも男性優遇は許されない。
こんな論理を平気で振りかざす奴らだから。 仕事がAIに代替されるってどこまで信じていいのかね 他国はどうか知らんが女の職場で大量発生する同調圧力や全方向陰口みたいな醜い争いは女性の方が詳しいだろ
これを自分達でどうにかしない限り無理 >>179
感情のあるフリでいいなら10年以内に可能。マイクロソフトの「りんな」はかなりよく演じてる。 女性が劣っているとは言わないが、
男性とは明らかに性格傾向が違ってるとは思う。
買い物とかしてて、自分の機嫌で客への対応を変える店員って
１００％女性だったりとかする。
男性だったら絶対やらんことをやる。 早く仕事は高性能AI積んだロボが全部やってくれて人間はカプセルの中で眠って楽しい夢を
1日中見てる社会が来て欲しいな。 こんなポリコレだの何だのウンザリ。 そんなんチンコ付いてなかったら10点減点やろ
AIもそこはわかっとる >>191
小さかったら何点減点ですかね(´・ω・｀) >>155
人間がそれをやって社会が壊れかけてるもんな >>185
前例がたっぷりあり合理で判断する領域ならすぐに行けるんじゃね
でも人じゃないとねーって感情論が最後の障壁になると思ってる 男だけの仕事空間とか、勉強空間がどれだけ清い空気になるか
女性は知らんはずだからなぁ。
逆におれは、女性だけの空気感を知らないのか。
まぁ知りたくないかな。 >>179
感情の定義しだいじゃないかな。
誰かのマネとかマジョリティの感情ならできると思う なんで本文読まないで男尊女卑な書き込みしてるんだろ。
男とか女とか関係なくて学習のさせ方が悪いとAIも使い物にならないって話でしょ 機械には建前なんてないし機械的に判別するだけだろうからな
某医学部の入試で女性の点数操作してるのもある意味AI的な機械操作だよな
「合理性には限界があり、結局は感情が職場や社会を決めている」 オンナ イラナイ
ダメだこれコンセントぶっちー
ニンゲン ジャマ イラナイ AIは差別感情なんて無いしこれは言い訳出来ませんね… それらを論じるのも人間の感情なくしては成立しないというw 女性は何人か居た方がいいよ
可愛かったり愛嬌あればその場に居るだけで男性陣のやる気出るだろ
それにすごく優秀な女性も居るのは事実だし 要するに、
AIに、目の前の問題の判断材料だけ学習させても、その判断に関わる
前提となる知識がなければ適切に判断できない、ってこと？ 無感情のAIが下した合理的判断を
非合理な感情で覆す人間の愚かさ 現在いる社員の成績なんかも反映されてるんだろ
差別されてきたなかでも受かった優秀な女たちを基準にして考えたAIがそれでも女はいらんと判断したならそういうことだろ 頑張り過ぎると叩かれる。
それを理解したAIは仕事をしなくなりそう。 なるほどAIはデータ主義だから
価値観が古くなりがちなのか >>18
だよなあ
男のほうが力仕事もできるし、ヒステリー起こさないし、生理日という能力低下期間もない。
誰がどう見ても男のほうが使いやすいに決まってる >>1を読まずに意見している人は、ぜったいAIの段階でふるい落とされると思う（藁 自分の考えをAIが出した結果だからーって上司に一度伺う手法が出てきそうだなｗ どういう学習プロセスだったのかが気になるな。
勤続年数？役付きの傾向？職場場での評価の点数？
学習元になった教材が現在の職場なのであれば、既に男社会が形成されているのだから平等な評価をさせるのは難しいだろ。 >>197
とりあえず、この世界は男尊女卑より女尊男卑のほうが圧倒的に多いから、
男尊女卑とか口に出すのはまず止めたほうがいいぞ。 >>147
それを言い出すと、全員が納得いく仕事に就けてるのか、という話になる。 更に言うなら、そもそも個々が納得いく仕事に就く事が社会全体にとっていいことなのかという話になる。 選定データに性別を抜かした結果がコレなら正しいのでは？
詳細知らんが 女性ができる仕事は全部
男でもできるが
男ができる仕事は女はできないやつがある
または
かなりレベルおちるからな
力仕事関係はすべて男が勝つ 男は男のみで学習
女は女のみで学習させるべきだったな
親和性？それはやってみるべき これもAIですが、何か？
ttps://i.imgur.com/lFk8mZV.jpg >>5
そうなんだけど女には特別忖度せんとマズイ世の中だから >>1
AIは正しいのに結果を捻じ曲げると歴史も歪むぞ・・Amazon AIのお墨付き頂きました
性別による向き不向きはあるという歴然とした事実から目を背けてもお互い苦しむだけなのにな >>223
そうでもない
自動化できない単純作業は男はすぐに根をあげる 男女平等は、人権については当然平等であるべきだと思うのだが、
役割分担ということを考えると、どうだろう。
家庭から母親を奪うような流れが続くと、子どもの成長にどんな影響
がでてくるか気になる。 「日本の女は屑ばかり」でググって観ろっ!・・Amazon
ヤフー知恵袋のベストアンサーにAIが正しいと解る答えが出てる。 男が妊娠、出産して授乳もできるように改造して、
女性に男性ホルモンを注射して筋骨隆々にすれば、
男女平等にできるだろうか。 男女の能力に差があるのかどうかは断定できないけど女の人が社会進出進んだ国は一つの例外もなく少子化になって外国から移民を受け入れないと衰退が避けられない事態になってる
一つの例外もなく ■ このスレッドは過去ログ倉庫に格納されています
