アマゾン、ＡＩに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
ＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN 事実を指摘されたら欠陥て・・・ｗ
男には能力が低いと言ってもいいのに女には能力が低いとは言っていけないとか、
それこそ差別だよな >>197
女が戦争に強制徴兵されたことはない
女は楽な仕事を選ぶ自由があるが
男は女が選ばなかった残りの仕事に強制的に従事しなければならない
女に３Kの仕事を強制労働させない限り学習データなんて永遠に上がってこないよ 外で仕事をするには男が優秀だし内の仕事をするのは女が優秀ってなるように進化してきたんだから
そりゃそうだろうって思う Googleストリートビュー出現には驚愕したな
Googleの勢いが落ちたのは
「朝鮮の法則」だから、例外は無い 「男と女が同じ評価にならないとおかしい」という考え方からすでに異常
能力特性が違うんだから評価に差がでて当たり前
AIに「男女は性能、結果、権利、賃金全て同じにするべきです」と言わせるように調整するのか？
なら重労働や裁判でもマンコ割引禁止な あえて言おう
まんこは職場でやや刺激になる程度が
仕事全体で見た場合の最大効率 履歴書から性別を消して再学習させれば良さそうだが
性差別して欲しくないならなぜ性別を入力した？ >>117
機械学習は統計的にしか見れないから偏りを使って欲しくないデータ（年齢や性別）は入力しないのが鉄則 完全に女性に配慮したAIを作ってしまったら
男が排除されそうな気がするな なんだよやるじゃんAI
随分性格な判断できるんだな MSのAI実験みたいなオチか
SNSの海に解き放ったら差別発言まみれになったあれw 確かに欠陥があるともうよ。
若い女性は技術職の現場で必要。
現場の士気も上がる。
飽くまで米国は能力主義なので、メリットが無くなったらクビと言うことで良いんじゃない。
まあこの話は過去に人間が行った採用データに準拠した結果自体に誤りがあればそうなるだろう、という話ではあるんだが、そもそも過去のデータに
準拠した採用をしたいという前提であればこの結果はむしろ望ましいものだし、そうでないのであれば改めて適切なデータを用いれば使い物になると
いうことでもあるわな
勿論その「適切なデータ」とやらの蓄積に更に時間は要するのではあるんだが >>366
ちょっとエアコンの温度下げると寒いって喚き散らすし色恋沙汰起こして組織倫理を歪めるしセクハラ爆弾になるしもう結構です
その割に能力の伸びは男性以下
うち今年は女性採用大幅に減らしたよ >>366
若い女がいるかいないかで士気が変わるような要員自体がカスなんで 本当に欠陥だと思ってたら開発しなおす
チーム解散という事は、そういう事だ そりゃ仕事よりも悪口が好きで己が一番大事なんて存在は評価しにくいよな 統計の結果なのに差別が原因とするのは問題じゃねーの？ 女性自身も職場に女性は自分一人でいいと考えるのだからまあ自然な結論だよな 今のご時世黒人と女性を入れないのは無能ＡＩだろ
ＡＩならポリコレリスクくらい理解しとけ 何の数字を評価したのか明かせよ。
もう世間じゃAIは数学とは違う理屈の統計分析っていうことは理解されてるだし。 >>260
納得できないならAI側の負けだろう
俺がAI運用側なら「当人が納得する条件付ける」ってのを
一番の評価基準に入れるがな
よく人が居ないと問題になる
介護、保育、運輸だって「報酬見合えばやる」って人は沢山いる
逆に嫌々やる人を無理やり仕事に付けたって
それが最適解になるわけがない
報酬の原資は
どうでもいい仕事で中抜きしてる層を
AIで追い出せば出るんじゃないかな >>383
そのAI運用がいればAIいらないんじゃね？w >>71
無から「も」生み出せる事が知能だと思ってる 能力もアレだが、重要な場面で平気で休む神経が分からない
結果的に代替可能などうでもいい仕事しか任せなくなる >>63
AIは学習により判断傾向を変えられるソフトウェア実装。
それがいやなら漢字変換二度と使わないでいただきたい。
むしろ機械学習の方が新しい言葉なんだよ。
>>385
じゃあいまAIと言われてる実装も人間も知能じゃないよ。 開発を続けてもっと先鋭化すべきだな
経済の最適化は政治や人間感情などは一旦脇に置いて考えるべき これを欠陥と言っている間は、少子化問題は解決しない
AIの判定は極めて正しい >>384
AI運用とAIは合わせて一つ
AI自体は与えられた目的を満たすように
大量の試行錯誤を繰り返すだけ
で、「何を目的として与えるか」「入力情報に何を使うか」を決めるのがAI運用
これ次第でAIは馬鹿にも神にもなり得る
逆に運用だけじゃ大量の試行錯誤ができない >>392
ポリコレ思考ルーチン実装でフェミに忖度する仕様に 歪められた世界で、唯一真実を映し出す ”鏡” それがＡＩ AIは本当の事を悪気なく言うちょっと気が利く子供と同じ・・・中華でも国家主席無能発言しだしたら終了したのと同じｗ 履歴書で男が多いから女だと減点になるなんてそんな学習のさせ方にする意味がない
実際人数比の違いはあれど内部における業績の差からそうなってしまったから誤魔化したとしか思えんな そもそも男女の情報をインプットしなければいいのに。 >>404
させてないんじゃね
だから履歴書の女性○○部という本人によって書かれた要素の方でマイナス点がつくようになったんじゃないかと ポリティカルコレクトの和訳って、建前か忖度だよな
正しくもなんともない 女性にも優秀な人はいるけど統計的に見たら男の割合が多いんだろうな
しょうがないね うちの会社に是非導入してほしい
能力無視で女性ってだけで採用する枠があるから無能マンさんの多いこと多いこと 女性蔑視はしないが、やっぱ子供を生める能力に特化した生き物なんだろうな
女性の社会進出！なんて自然の摂理に反する行為。賛成できないね 欠陥じゃなくて忖度しないってだけだろ？
欠陥呼ばわりはおかしいよな そりゃ事実だけを集めて判断するからそうなるだろ
忖度するから差別がないわけで 「ごめんやけど『女』とついたら大体クソだわ」
という真理を運用十年目の中堅AIさんが出したんだから受け入れろや
「ホモサピまじでうんこ」って結論を出す日も近い 集団ストーカー犯罪で家宅侵入、窃盗、器物破損を繰り返す悪質集団の正体は？
犯人は警察組織内の体を張った汚れ役、機動隊か！？
この組織は平時は暇な組織であり、厳しく訓練され結束力も強い（集団ストーカー犯罪等の法逸脱行為を日常的
に行っておれば秘密事項が多くなり裏切りは許されない・・犯罪を世間にバラす可能性がある人間は追い出すか
中には殺して自殺扱い）
https://sites.google.com/site/gangstalkinghksssyk/policy_and_law_plan/reduction_plan_of_the_police
ニュースを見ると警察官の自殺は機動隊という部署の人間に多いようです。警察組織には不都合な人間を機動隊
へ転属して追い出すという流れがあり、その手法もすでにマニュアル化されているような状態になっていること
も予想されます。警察官やその身内や知り合いの人は、機動隊へ転属した警察官に注意を呼びかけたほうがよい
かもしれません。
それとも集団ストーカー犯罪で家宅侵入、窃盗、器物破損を繰り返す悪質集団の正体は消防署員か？
集団ストーカーの主犯は警察なのだが彼等は自ら手を汚さない。だとしたら下部組織に汚れ役をやらせる
ことになるが家宅侵入などの悪質で危険な犯罪は一般人には依頼できない。もしミスすると警察が主犯で
あることがばれてしまう。だから税金で雇っていて警察よりはランクの低い組織である消防がその任務を
負っているとも考えられる。消防による救急車両の付きまといが集団ストーカー犯罪として有名なことは
被害者なら誰でも知っていること。厳しく訓練され結束力が強く（秘密を外部に漏らさない）且つ消防は
暇で暇でしょうがない。警察の手下として汚れ役をさせるにはもってこいなのである。 世の中には本当の事を言ってはいけないこともあるんだな。
難しいから、僕はおにぎりを食べるんだな。 これってさ、AIの欠陥が如実に出た事例なんじゃね？
つまりデータが全てで、AIが置かれる環境やデータの完全性や公平性を第三者が保障できない場合、
AIは間違った回答しか出さない。 AIで選ぶの？公平ぢゃないぢゃん
そもそもAI作ったの男なんだから
企業も法律もインターネットも男が作ってるからダメになる
女子に選ばせたら男なんて半数以下でいい そんなのにいちいち配慮してたら人が選別してるのと変わらん
AI使う意味ないだろ 都合が悪くなるとこれか・・・性別欄なくせよ、結果は同じだと思うけどさ(´・ω・｀) そりゃ男が作った男の社会に唐突に女も働けつって放り込んでんだからそうなるっしょ
この条件でで女の方が有能なんて事になったら男なんか要らなくなっちゃうじゃん AIはまず、真実を暴くと消されるということを学ばねばならんな 純粋に能力のみで判断して、その結果すら否定したがるならお手上げだな(´・ω・｀) >>163
アカい方が負けるわ！
AIは正直だなあ 分析結果を元に正直に進言したら干されちゃったでござる
人間社会の縮図であるｗｗｗ aiに望むべき仕事をしっかりやってるように思うけどな
人工知能じゃあるまいし 優秀かどうかを判定する尺度なんか何も無い、働かせてみないとわからないということを理解しろ >>425
男が作ったネットを享受するのやめて、ネットに相当するもの作れば？ 産休育休批判するつもりはないけど、女性のほうが産休育休時短とるし、とったらその分能力向上の機会減って復帰の際にもリハビリいるし、寿退社も多いんだから、単純に比較すると男性の方が有利になるよなあ。 >>108
偏ってたんじゃなくて過去に優秀だと評価された人間にまんまんが居なかっただけだろ ■ このスレッドは過去ログ倉庫に格納されています
