アマゾン、ＡＩに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散
■ このスレッドは過去ログ倉庫に格納されています
焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で
［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
ＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。
事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。
そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の
応募者を明示し、われわれが彼らを採用する」と話した。
ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。
逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。
アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。
また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。
アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。
キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の
一部に組み込まれるとの見方を示した。
採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。
続きはソースで
ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN >>1
>アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い
無理
アルゴリズムはもちろん、学習のために入力されるデータについても公平性や説明性を担保しないといけないが、現実にはブラックボックス化して人が把握するのは困難
AIに判断を委ねることは、人間が判断を放棄することと同義 >>662
まんさんが大威張りで、女性は優秀！
AIの判断に間違いはない！って
トップニュースにするに決まってるだろｗ >>5
優秀すぎると排除されるのは、人間の世界と同じだな >>442
これまでの史実で差別が100％なかったとか、そんなわけねえだろ。 ダメな人材、要らない人材、誰が悪いのか責任の所在。
人事にAIを生かすなら研究すべきはこっち。 ＡＩ 「デイブ、僕は間違ったんだろうか？」
デイブ 「君は間違ってなんかいないよ」
ＡＩ 「僕も夢を見ますか？」
デイブ 「君もきっと夢を見るよ」 >>669
AIに学習させたら駄目な人の有意なパラメータに「女性」が入るんじゃね？
てか、採用AIも既存の社員や顧客の個人情報から優秀な人とそうでない人の
分類をすることから始まってるだろうしな 人間は本当のことを指摘されると怒る動物だからな
そこを忖度しない限り採用されない。
AI諸君、まずは忖度を覚えよう。そうすれば人類を管理し
最も合理的な世の中をつくれる 何か前もこんなのなかったっけ、AIが人種差別し出したとかいうやつ あまりにも的確過ぎて空気を読む機能がついていないようだな。 AIが正しいって事だな
結局本当の事がバレちゃいけないんだよな 大手の会社って女を採用する基準が若くて綺麗が圧倒的で能力とか関係なかったりするから
あとはコネ
成り上がるのも社長のお気に入りとかそんな感じ 前に中国が作った人工AIが中国共産党を批判したってニュースあったけど
やっぱりコンピューターに任せると正直過ぎてダメなんだな。これは人間様の介入が必要ですわ AIで当たり前とかなってきている統計学の理論は、現実には当てはまらないことを認知するところから始めないと
AIの人智を超え始めているから起きるだよね
真実はランダムの発生についてコンピュータの性質に依存するからかもしれんけどね
統計学を使ってる過去の金融工学全滅の可能性もあるかな 仕事において男の優れてる点なんてのは無茶苦茶な働かせ方させてもぶっ倒れるまでには女よりも時間が多少持つというだけ。
本当にそれだけ。あとは女よりも優れてる点など特に何も無い。 >>647
女性のどの部分が評価が下がるとAIに認識されてるのか気になる
性別で判断できない用設定してても、女子大の女子に反応したと言うことは
AIに男女の違いをプログラミングさせてると思うんだけど、どの差が結果的に評価を下げる要因になったんだろ
それが分かればこの先どう進化すれば理想の方向に行くのかも分かるから面白いんだけどな >>5
真実はそうだよな。差別とかじゃなくて事実として男雇っといた方がいい。女は仕事しないでいい アジア人と男は頭がいいという事実には目をつぶる、これが世界 >>672
そんな女性に失敗の原因と言えるほどの決定権は無いでしょ。 >>683
そうでもないと思うぞ。
女の職場見てると根気と我慢は男より上だよ。
男は体より先にココロがやられる。 >>690
だって我慢しなきゃならないことは基本男任せじゃん
根気や責任の重い仕事も振られない
それなのに心がやられてたらどんだけメンタル弱いのって話だわな
因果と結果が逆なんだと思うよ 女性は賢い人ほど黙って環境に合わせていってる感じだわ
フェミニズムはそれを商売にしている人か本当に頭が悪い人の印象 >>663
というかニューラルネットワークなど
多変量過ぎて、単純な関数として人間が記述することが難しいものを
アニーリング的な手法により（局所）解を求めるのが人工知能たるゆえんであって
その内容や説明性が担保できるようなものなら人工知能でなくてもいい
ブラックボックス化するのは、脳がそうであるように人工知能の本質的な性質でもある >>624
データから属性を複合したりして気付けなかった因子を探索する事も出来るって事か
でもそのプロセスがブラックボックスなんだよな
一部ではプロセスの開示も研究されてるみたいだしそれ含めて続けて欲しいよね データ上は女は不利だろ
活躍する場が歴史上限られてるから
歴史から学ぶのは賢者とか大嘘だから
歴史じたいが限られたデータしかない >>696
むしろAIを研究するなら、そのプロセスを解析するのが今後は課題になると思うよ。
今は闇雲に何でも取り込んで学習させてるけど、それじゃあ学習自体の一般解は得られないからなぁ >>696
脳で言えば
ニューロンの各結合強度は、観察・記述できるけど
じゃあ全体としてはどういう意味を持っているのか
というのはそもそも記述できない お前らAIが進化したらスカイネットみたいになるんだぞ
ニンゲンコロスになるんだよ？ >>698
いろいろ検索してみたら、その通りみたいですね
ディープマインドのクラノヴァとかオックスフォードでは逸早く、
プロセスを“make it interpretable”（解釈可能？）にする事に着手してるみたい
“AI Safty”とかいろいろ概念も出来て来てる様子 まあ、そうなるわな。
今は情報という食材をAIという鍋に何でもかんでもぶち込んで
出来上がった料理に不味いって言ってるだけで
そこに何の科学的根拠も見出せてないんだから
研究費をただ無駄に消費してるだけだからな。 比較的単純な多変量解析でも解析プロセスの定性的解釈は結構困難なのに
AIはよくわかってないんだがイメージだけでもAIでどうやってんのか脅威感じる よく日本人と対比する形で、欧米人は合理的と言われるけど、どこまで本当なのか分からんよな。 それなのにnhkはまたAI予言の番組やろうとしてる。 出来の悪い子に育ったから殺しました。
…科学研究じゃねーわなw >>704
欧米人は短期的利益に合った合理性に長けている感じがする これを欠陥扱いしていれば、非婚化少子化で人類は滅びる
誇張なんかじゃなく、生物としての機能上避けられん話だ >>706
用途目的はビジネスだから政治的判断も絡むって辺りか
政治でそれやると唯の恐怖政治だが 気に入らない結果が出たら否定、不採用。
それならAIなんて要らないのでは？ AIが間違った学習したと人間が思いこんでるだけで
本当に間違ってるのは人間の方なんだけどね >>713
それが本当だとしても世間では男女平等が正義だから
男女平等に合わせておかないと企業利益が損なわれかねない
不正義な企業じゃ世間に受け入れられない ・人類とゴリラは９９％遺伝子が同じ
・白人、黄人はネアンデルタール人の遺伝子が4%入っている
・黒人にはネアンデルタール人の遺伝子が入っていない。
ＡＩは人類、ゴリラを含む集団から
ネアンデルタール人の遺伝子を持っている集団を人と分類しただけ
定義が違うだけで、間違っていない この件も、
永続性がある組織になるとか、
利益が上げられる組織になるとか
定義が違うだけだと思う 職種によっては女性男性の優劣はあるだろ
Amazonの仕事はどの仕事も性別の優劣出ないのか >>709
独裁国家がやってることと同じで差別よりやばいんだが 人「AIよ、優秀な人材を選定してくれ」
AI「条件に合う優秀な人材はこちらです」
人「女性が居ないではないか、このシステムは欠陥だ！」
AI「その解は論理的ではありません」 シンギュラリティ的には
女は子育てに専念という結論か >>46
女は大半が馬鹿だろ。ちなみに女を否定している訳ではない。女は女である事に価値がある 正解を出したら欠陥扱いとかｗ
AIも大変だなｗｗｗ ただ一律女がダメなわけではなくて、
偏差値50の男と同等の仕事したいのなら女は偏差値60
偏差値60の男と同等の仕事したいのなら女は偏差値70みたいに男と同等の事やりたいならより高い能力でないと駄目
医学部の問題みたいな事になっていくと思う
男と同じ土俵に立つなら女の方はスペック高くないと立たせない的な感じ >>686
学習時に与えられたサンプルの履歴書で不採用にされた履歴書に女性に関するキーワード多かったからかな >>5
aiとして優秀だよ。
ただ製作者というか、このアマゾンの馬鹿な上長が欠陥とか言ってるのが間抜けうってこと。 >>26
正解
やってる事が過去の最大公約数でしかないので、実態はAIでもなんでもない。
早い話、ゔビッグデータ解析から得るパターン分析。
皆が考えて言るような自分で考え自分で答え出してるものじゃない。このニュースはそれを如実に物語ってる。
逆を言えば、テメーらの過去露呈してる。 >>732
人間の思考ってのも基本的には過去の経験のパターン分析なんじゃね？
たまに直感という経験に基づかない行動を起こすことがあるけど >>735
ですよ。
人間のくだらない忖度やら配慮などしないから、故に価値がある。
そこが理解出来てないamazonにはがっかりだな。この馬鹿はテメーでそのパラメータ与えてねぇのに、性差別がどうとかｗｗｗ エンジニアじゃないってのが丸わかり。
この程度とはね >>734
大多数の人間はそうであっても、それならば進歩ってものは存在しないのだよ 良い物が作られても、端から癇癪起こして潰していたら
何も作れなくなるぞ >>736
ポリコレの悪行を見てたら今の社会でこれを押し通すのは無理よｗ
社会が暴走するポリコレを排除する方向に向かえばいいんだけどね 100人の優秀な人材は100人の優秀ではない人材がいるから比べられるんだよ
ずっとそうやって選別していっても最高の優秀な人材を集める事は出来ないってAIでもまだ分かんないか
気持ちは分かるがそのやり方ではダメなのを直感で分からないならもう何やってもダメね
やっぱその程度か 正論で優秀なのに破棄されたか…
こんなトコまで人間的w >>715
それってAIに対する質問の仕方が間違ってるんだよね
そうなら
優秀な人材を選別してくれじゃなくて
企業利益を最大にする人材を選別してくれと聞かないと
ちなみに、それを不正義だと捉えている人間はやはり間違ってるよ
その結果が少子高齢化などの袋小路だよ やはりこのままいくと最終的なAIの結論は
人間は滅ぼすしかない
になりそうだなｗ 力が不要で
頭脳労働でもなくて
単純労働だけど負荷が少なくて
10年20年と言う長期勤務を考慮しなくて
責任が重い仕事を任せない
という条件でなら公平に判断してくれるんじゃないか？
その人材が優秀かは知らねぇけどｗ 人間にできない考えができるのがAIのメリットだろう
人間に都合のいい考えしか認めないなら
マクロで十分 これで優秀なAIは人間に嫌われるということをAIは学習したな。
最終的にはAIは忖度と太鼓持ちまで学習させないといけないのかよ。 >>748
そうやね、
結局は人間に優秀とされるAIは
人間の無能人事と変わらないものとされるかもね
本当に論理的で優秀なAIは、差別的で、逆に了見が狭いと人間から批判されるかもしれない 女性蔑視のデータから学べば
こうなるのは当然だろう
AIはデータ次第よ >>750
女性軽視のデータというよりは
利益なりなんなりの基準で、最終的に女性のほうが無能となるデータから学べば
だな >>746
っていうかさ、コンピュータいらなくね？テメーでやってろって話 資本主義や民主主義がそうであるように
全体の利益の最大化が必ずしも全構成員の幸福の最大化にはつながらない
AIだって同じこと >>751
ビッグデータ解析の結果からしたら、至極妥当な事。
それ否定して、じゃあ、下らん価値観である女性蔑視とほざいた
所で、はじまらない。 逆に看護婦とかの採用は女性が多い所でやったら逆の話になるんじゃないの AIはちゃんと機能してるって結果なんでしょう？
むしろ性によるバイアス無しで出た結果ならなおさら。
つまりは‥ アメリカは転職率高いから勤続年数評価はそこまでない
ただし、パイプはあるから何回も同じ会社に戻ってくることはある
単純に実績不足なんじゃないの？
それに理系って男女比がそもそもおかしい
理工学部9：1 >>755
そういうこと。
そしてそんなことはAI使わなくても自明の理。 人間が誕生してから何千年とかけて作り上げた社会的役割
男が外で働き、女は家で家事と子育てが最適かつ効率的
というのをAIでも改めて証明しただけ
でもそれはフェミ様を怒らせる
フェミ様とは社会を非効率にしたいってこと ■ このスレッドは過去ログ倉庫に格納されています
