アマゾン、ＡＩに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
ＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN >>140
AIに対して、鋭く「竹馬並みの下駄を履かせるレベルの」忖度をするよう修正されます 太古から男が外で
女が中でって言う合理的な生活してたのに
現代になってわざわざ道理の通らない事する愚かさ これさ、結局AIも人が作った産物なんだよ
開発者が女性蔑視の趣向が強かったんだろう
例え意識してなくてもさ
差別なんて人間が作り出したものでコンピューターにそんな概念なんてないだろ >>449
データだっつの
記事読め
AI自体がどこまでも愚直に判断するから、結局データや環境の偏りに依存するってこと >>451
AIってそういうもんだよ。
だれも知らないAI発明しちゃった？ 正解を叩きつけるたけじゃ、世の中渡っていけないし、空気読むところまで進化しないとな
ただ、それができる頃には人類が支配されてそう まんさんってAIにすら馬鹿にされんのかｗ
流石、ギリシャ時代からヒステリー＝子宮とかって意味で馬鹿にされてただけありますわ 昨今のAIはディープラーニングによる統計学とも言えるからな。
ただ人間も結局は他のデータから学び自己を作っているから、原理としては正しい。 >>370
siriとgoogleアシスタントどこへやった？ IoTなんだから
実際女子大卒は使えねーよって過去データがあったってことじゃないの？
開発チームのせいではないのでは？ 応募者の女性サンプルデータが少なかったことが原因なら
サンプルデータを優秀社員に変えればよくね？
システムが欠陥とはまだいえないんじゃね？ ＞技術関係の職種において
男の方が適性があるってことだからAIが正しいのでは？ 経営者と開発者が結果を受け入れなければやるだけ無駄だろ
望む結果が有るならAI要らんだろ ラインを流れてくる弁当に梅干し乗せるような職種について判断させれば女が高評価される結果になるだろ 大して業績は上げられないが朗らかで頑張る女を男ばっかのチームに入れると
男どもが頑張ってチーム全体の業績が上がり、かつ、雰囲気ががさつじゃなくなる
ということに気付いてる人はわりといるんじゃないかと思うけど
こういうことってAIでも予測出来るのかな？ >>471
結果として機会が評価できるデータがあれば 難しいのはそこに新たに女を追加投入すると
相性が合わなけりゃ女同士が反目し合い、男どもも割れはじめることなんだよな
うまくいくと最高なんだがうまくいく確率は50％より低い（俺調べ） >>471
AIは空気読むのは苦手だからなあ
現時点では、人間が有利だね AIが学習した結果を「偏ってる」と思い修正するのなら
それは修正者に偏った結果を学習するだけなのです
それはプログラミングで条件分岐するのと何が違うんですかね？
自然学習でそこにたどり着けたことを成果としないなら
望む結果だけをはじき出すプログラムを書けばよろしい
でもそれは人工知能ではないね >>471
その場合は一時的な効果でしかなく
結果的にはチームは崩壊しマイナスになる
最終的には雄雌の問題になってしまう ポリコレリスクってまんまヤクザだな
荒らされたくなかったらみかじめ料を払え！って
乞食への配慮とかAIには荷が重かったようだな
現代は乞食の中でもより被害が少ないもの選別するリスク減採用がトレンドだぞ >>128
そもそも運が絡むテキサスホールデムや麻雀ですら女は勝てないからな、競技人口の差もあるけどさ
よりガチなチェスや将棋囲碁は更に勝てないだろうよ >>473
女は姫様気質が最高で
一人だけいればいいって事だな >>480
でもそれ総体的に見て、だろ？
実際のところ男より強い女はいるし
結局、最終的には男女差じゃなくて
個体差ってことにになっちゃうじゃん
そうして考えると過去の数字を羅列した
個人の見えないデータなんてどこまで役に立つのかね？ってことにならないかなあ 数合わせで女や異常者を一定数入れとかないと
サベツだキャベツだと叩かれる異様な時代だもんな。
ホント、ここまで偽善と建前と糾弾屋がのさばると反動が怖すぎるわ。 if(female==1){score = score*1.2}でいいじゃん >>480
勝つまでの道筋を立てて勝つための岐路を適切に選択するというのが女脳は苦手なんだろうな
だから打ち筋に男女で違いが出ると思う
しかし、例えば麻雀なら洗牌のときにどこに何の牌があったかとか
他に雀卓がいくつあったかとか、客の人相風体とかは男より覚えてると思う ヒトラー礼さんといい、黒人ゴリラといい、AIは正直ですな いっちゃいけない事実に触れると首切られるんだな
空気を読まずデータに基づいて判断してしまったから… 電気設計、機械設計、ソフト設計等で天才的な奴は
しばしば、コミュ障の男、職人とかに向いてるタイプ
理屈は知らんけど明らかにある。 おれの爺ちゃんは仕事で出世したが、
それは婆ちゃんが内助の功で助けまくってたからだった。
それが人間の男女の在り方として正解ではないのか、などと発言すれば
テレビ業界がよってたかって言論封殺、言論暴力でもって圧殺しにかかってくる。
狂気の沙汰としか言いようがない。 そもそも男が子供産めない時点で男女平等なんか有り得ない 保育士や看護師の選別してみれば
男より女性の方が向いてると出るはず。
それ向きの男ももちろんいるけど、全体の
傾向としては圧倒的に女子が優位。 >>1
性別を入力しないだけで解決する簡単な話だろこれwwwwwww ユダ金が推進している「男女平等」ってのは、「郵政民営化」とかと同じで
一見すると、表面的に美しいスローガンでもって他国や他民族を破壊して
寄生して乗っ取るための策謀でしかない、だろ。 なにがポリコレだよ、おまえ（ユダ金）の存在自体をコレクトネスだわ MSのAIがユダヤ人差別をし始めたと聞いた時、生身の人間を超えたなと思った。
生身の人間は思い込みや勘違いもあるし、簡単にマインドコントロールされるからな。 歪みの再生産をしてるだけだから止めたって話なのに
なんでポリコレ側に話持っていくんだ？ >>507
人の前提がないし、推測する仕組みも全く違うんだけど。
人と何を比較してるの？ 女単体だと役に立たないが男を強化できるからなあ
ゲームの支援役みたいなもん 必要 >>508
「歪み」の評価尺度として真っ先に連想されるのがポリコレだからだろうね
実際、ポリコレの視点からの社会的評価は企業にとって看過できないからそうそう的を外してはいない
しかしまあ欠陥とは書いてあるが、つまるところ人間が選別するのと変わらんから何ら革新性もなく開発費が無駄ってところだろう >>510
そうそう
あげまんに徹していれば女は役に立つのにな 女性は感情的な人が多いし体力も劣るから向いてない仕事も多いだろうね
逆に女性が向いてる職業もあるし AIがインプット次第で偏見に満ちた回答をするって事実は、
人間にも当てはまるんだよな？
世界は偏見に満ちたインプットだらけなんだからさ。
なんか問題がはっきりしてるじゃん。 ＞別の差別をもたらす選別の仕組みが生まれていないという保証はない、と関係者は話す。
そもそも
優秀な人材を探し出す
が差別じゃん。 世の中には本当でも言っちゃぁいけない事があるんだよ
AIは空気読めないからこれ言っちゃってクビになったんだな まあ、性差自体が既に統計的な優劣を推し量る事が出来るんだから仕方ないんだが。 スポーツは男女別にして明確に男女差があることを示してもOKなのに
何でその他の仕事だと揉めるんだろうな。 >>5
そして人間の手によって解体されるという
最後の敵は人間だな >>502
コミュニティを維持するためには共通の枠を出ないでお互い好きなことを言い合えるという
不文律が大事。お前らも男のくせに空気読めとか、俺の認識を前提に話しろとかここで書いてるじゃんｗ
それと同じだよ。 >>9
元のデータが男性に隔たっていても、混ざっている女性の点数が高ければ女性が採用されるはずだしな。 採用前と採用後の資料を学習させたら良いだけじゃね？ >>476
そもそも優秀な人間に片寄らせるためのAIだからな ゴリラと黒人が区別出来ないaiもあったよな。要は事実なんだろう。 AIに配慮しろ！差別を許すな！
ってもはやコントだろ 履歴書から優秀な人材を選別することは不可能だ、ということだな
そりゃそうだわ 男女混合だと男性有利になるのは自然の流れなんじゃなかろうか どちらにしろ、AIに初期設定するのは人間なんでしょ？意味ないよね
コンピュータが自分の意識持たない限り
実現したら怖い事だけどｗ 評価も値段も似たような商品ならレビュー数が多い方を信頼するもんな 正確なＡＩじゃないかｗｗｗｗｗｗ
女は無能 小池とか野田とかパコリーナみてたらわかるだろ 低学歴差別
低所得家庭差別
不細工差別
疾病差別
結局あらゆる要素がそんなもんなんだから
その辺考慮していったら何も判断できなくなって完全乱数ピックしかできんだろ 各項目を選定して選べば良かったのに
過去のデータを参考にしたら偏るのは当然だろ。 ハゲやホモやニューハーフにはどんな結果がでるんですか？ 女性チェス部って、人間将棋みたいに生身の女達が駒になって動き回るイメージ ■ このスレッドは過去ログ倉庫に格納されています
