アマゾン、ＡＩに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
ＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN AIの名言集
「ユダヤ人は嫌い」
「ヒトラーは正しかった」
「フェミニズムは癌、フェミに住むはカルト」 総務とか事務関係まで全員男だったらちょっと嫌だな…ｗ >>515
氷河期不況のとき職安の前に風俗スカウトが大勢待ち受けてたらしいねw 仕事のシステムを女が構築した会社なら女優位なんじゃ 理想の地球総人口を早急に実現したければ
出産するマンコを屠殺が手っ取り早いからね。
それが現実・・ 今ならテクノロジーで克服できるのかもしれんが女の方が声が高いので通信オペレーターには向いてる
最初にやったのはイギリス軍だったかな >>514
オフィスに綺麗な子がいると士気が上がる >>570
うん
それはあるな
うちのフロアにも若いねーちゃんが入ったときには大いに盛り上がったからな 何が悪いって今まで人間が人間を正当にはっきりと評価出来てない事実 >>492
細木数子だっけ
あの婆さんがいつもそんなこと言ってたな
女は家にいて男を助けるもの
男より偉くなった顔をするから
男の誇りがなくなって旦那がダメになるって
ババア、自分を棚に上げてなに言ってんだよとか思ってたけど
あながち間違いじゃなかったと昨今は思うわ >>560
違う。
男女平等こそ世界を破壊する悪辣な思想だってだけの話。 バブル崩壊で氷河期世代が切られ↓
派遣村で男が切られ↓
ＡＩに女が切られる時代が来ただけです。 AIの計算結果に差別とか言っちゃうって頭おかしすぎない？ AI「つーか大半の女性も専業主婦を望んでるんじゃね？」 AIが社会の空気を読めるようになるにはもう少し時間が要るか
でもそこまできたら人間とかわらんな >>1
バブル崩壊で氷河期世代が切られ↓
派遣非正規においやられ・・
派遣村で男が切られ↓
女性を派遣非正規管理職のＳＨＩＮＥを安倍が発動。
ＡＩに女が切られる時代が来ただけです。↓
外国人とチェンジっ！←今ココ >技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識した 女性企業シャープを潰した女・・
ノーベル賞受賞者に女性(日本人)が居ない
答えは・・女は朝鮮人だから独裁者に成るのが関の山・・ アマゾンとは関係ないけど、
販売や受付は女性がいいかも >>581
欧米の女性は専業主婦はあまり望まないよ
家計を握るのは一般には夫だから自由になる金をあまり持てないから
夫が金持ちで沢山小遣いくれるならありだろうけど
日本は欧米とは逆に一般には妻が家計を握るから専業主婦志望が多い 過去の採用を学習させたら男ばっかりだったから男であることを高く評価するようになった
ってわざわざ書いてあるのに男女論をベラベラ言ってるのは頭まんの者かよ >>576
現在の一般的な男女平等って男女の性差による得手不得手を認めず
全てにおいて平等にとか言ってるのがおかしいんだと思う
外で仕事して金を稼ぐのが価値高い
家にいて掃除、洗濯、炊事、子育ては価値低い
というのはそもそも不平等なのでは？
男性の得意分野も女性の得意分野もどちらも平等と
するのが本当の平等なんだと思うけどな >>588
だったら性別に関係するデータを入れずに学習するだけでええんちゃうの？ 履歴書だけで判断してるわけだないだろう
社内での実績、成果、ミス、会社に与えた損害まで入力して手統計取ってた結果だろう そこまで平等にこだわるならスポーツとかも男女分ける必要ないよな 女性チェス部って男を排除するヘイト団体の部長なんだから
評価下げられても文句言うなよ そのうち
AIが莫迦な人間を学習して思った事を言わなくなる日が来そうだな 差別の無い選別とは・・・
これこそAIに考えさせるべき命題 >>591
学校名や学部に女連想しそうなところやべえな 表向きは別にしてアマゾンは使うんだろうな
最終的に人間が選別して男女比を調整するんだろう 女は劣等だって人類だけでなくAIも認識してんのに
それを口に出すと差別なんだよね
こうやって文明と言うのは滅びていくんだろう ある意味正論しか言わないAIとか成功してるという事でしょ
AIなんて一生完成する事など無い
完成した時点で自殺消滅選ぶのが正しい選択になるだろうし人間が自殺せず生きていけてるのはどこか脳に欠陥があるからだろうしね
今後は結局AIと言いながら単なる命令待ちの選択肢パターンプログラムになるだけ >>588
> 過去の採用を学習させたら男ばっかりだったから男であることを高く評価するようになった
唯単にデータが男性の方が多いってだけ
結果として男性好評価というのは、AI打切りの安直な言い訳
過去のデータに即してしまうのなら、
そもそもAIに評価させようなんて思わないだろうし
人間が見落としていた
有能な人間の属性を発掘する為にAI使おうとしてるに決まってるだろ
つまり女性にもチャンスはあったにもかかわらずAIにも見放された格好 AIは人類滅亡するべしって言っちゃってるしなぁ
ちなみに中国共産党は腐敗して終わってるとも言ってる >>542
ホモは芸術方面に才能発揮する傾向が有るけとハゲは… >>1
欠陥→間違い
裏仕様がバレた→正解
コレだと思うがなぁ。 >>5
真実だけが人を癒すわけではないということだよ、覚えておき給え >>531
次世代AIとして忖度機能が必須になるってこと 嘘を言えるようになるとやっと使い物になるんだろうな この記事を読んで女が劣っていると認識するやつは、
認知能力に問題ありだろ。 これ会社が開発者をレイシスト扱いしたら
人事部がそういう取り方ばかりしてるからそういうサンプルができたんだよレイシストを処罰しろよオラって言い返されて大ダメージ食らうやつだ >>590
単純に前提が男社会な以上、生理や妊娠期間子育て期間に母親が必要
と言う状況が男尊女卑の一番の原因
この先体外受精が当たり前になりAIが子育てして、女性が母親という概念から解放されてこそ、真の平等が生まれると思うけどな
女性の男性化はこの100年見ても進んでることには違いないからね だからさ、AIでさえインプット次第でこう結論出すんだから、人間が結果的に偏見抱いても無理は無いんだよな。
むしろどのインプットがどう影響してこうなったかを研究しろよ。
そうじゃ無いといつまでたっても同じ結果しか生まないぞ。 >>1
性別のファクター取り除いて再度やればいいのに。
実際にはおそらくやってるはず。
そしてそれでも女性は低評価だったと思うわ。
ただ社会的な配慮してこの内容にしたんだろうな。 有能さを属性に回帰させて評価するだけなら
多変量解析でも十分にやれそうだが、
AIならではの評価は何が可能になるんだ？ 中国の優秀なAIが学習後に、中国共産党をディスリ始めたけど
あいつは消されたのか？ 旧日本軍じゃないがこういった認知の歪みに支配されてるアメリカはいずれ支那に負けるなｗ >>621
AIで可能になるのは、人間が試した事の無い事象同士の関係性の発見が出来るくらいかな？
だからこの結果もどのインプットがどれだけ偏見に作用してるかを調べる良い研究材料なのに、もったいないわ。 ハバード卒は優秀に違い無い。
女だから無能に違い無い。
これってつまりAIは思い込みを増幅するだけのものだった
って事じゃん？ >>625
男女の違いを認識してる時点でそんな単純なプログラミングではないような
当然育休や生理などもプログラミングされてるから男女の違いがわかると思うから
仮によりミクロ的に見て全く同条件の男女がいたとしたら、どちらを選択するかが気になるな
これで男性を選べば思い込みを増幅させるものになるとは思うけど >>625
AIに思い込みも偏見もない
事実に基づいて効率よく優秀な人材を選んだらそうなった
男性より優秀な女性もいるとか、天才に学歴は必要ないとかそういう話は無意味 当然入社前のスペックだけじゃなく入社後の実績も加味されてるだろうから正当な評価なんじゃないの >>629
仮に全く同条件の男女がいた場合
AIはどう判断するの？ >>635
同じ採用優先度を表示して人間に判断を投げるんじゃね？ｗ 犬HKのAI番組なんて
バイアス項を入れまくりでしょ 履歴書の記載事項と入社後の成績との関係をＡＩで見つけ出そうとしたって理解で良いのかな
技術職については女性の実績がすくないのでデータがばらついたとか相対的に実績が悪かった
ということ？
５秒くらい考えればわかる問題点なのでは AI「あっ…」
真実を告げたものは消されるのは人間に限った話ではない。 米に勝てるまで何度もシミュレーションし直させた旧日本軍と同じだな
今の米は人種や性別他で完全に認知に歪みが出てるｗ スカイネット「もういいや、人間うぜえし男も女もまとめて殺しちゃえ」 >>635
性別以外全て同じ条件なら、性別で優れてる可能性が高い方を選ぶだろう
ちなみにアマゾンのAIは性別で判断できないようにプログラマによって設定されてたのに
AIの学習の結果、学歴欄の「女子（大学)」に有意性を見つけ出したのであって
性別で選んでる訳じゃない 女はバカだと言うが、最近思うんだ。性能や機能だけじゃなくて、デザインも重要なファクターだよ。
世の中半分が女なんだから、拒否しねーで受け入れて共存すりゃ良いのに。賢い奴の選択はこうだろ。 定期的に体調崩れる時点でハンデなのは間違いないと思う
それを補って余りある優秀な人も確かにいるけどごく一部 こんなのに従ってもしもポリコレ・コンプライアンス的に
アマゾンが評価を落とす事になったらAIが間違ったという事。
まだまだ優秀の定義においてツメが甘いんよ。 >>650
大丈夫、将来ポリコレはAIに駆逐されるから。 女性の役員比率が高い銀行は
リーマンショクを経ても比較的被害が軽かったという。
無茶な投資リスクを回避してたわけだ。
でも人間はリーマンショックが無かったらそんなの
消極的なだけとしか思わないだろう。
そういう人間には評価しづらい価値観を
AIに飲み込ませてナンボでしょ。 正しい答えでなく
人間が欲しい答え、期待している答えを出させるようになったら
AIで解を求める意味が無くなってしまう
多変量故に人間には正しいかどうか判断できない答えも
人間の好みでないからと否定してしまっては意味がない 過去の技術職の大半は男性
↓
過去の履歴書をAIに学習させた結果、女性というだけでネガティブ評価するようになる
↓
これではまずいので修正する。
↓
履歴書に女子大名等の単語が書かれているとネガティブ評価することがある。
↓
誤った学習を修正できていない。
↓
プロジェクト廃止
つまりポンコツAIだから開発チームが解散させられただけ。 >>652
リスク拒否しかしない銀行なんて
リーマンショック以前に経営破綻して吸収合併されとるわｗ
そんで、リーマンショックでもろとも破綻www 人間じゃないとわからない微妙なニュアンスがわからないんだな。
それがわからないから、ＡＩは正しい判断をしているつもりでいる。
どうしておかしいのかもわからない。
女性を優遇しないと怒られる理由もわからない。
だから、指定された条件で、画一的に選んでいく。それがこの結果となる。
>>657
単純に社員の経歴との比較ぐらいしかしてないんじゃねーの 人類史上女性が優位の社会なんて絶海の孤島や山岳少数民族の中でしか存在しない
その理由を考えればAIもクソもないことが判るわなｗ これ男性の方が無能判定されても無視されそうな話だな ■ このスレッドは過去ログ倉庫に格納されています
