【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」
■ このスレッドは過去ログ倉庫に格納されています
韓国の人工知能（AI）関連スタートアップ企業が開発したAIチャットボット（自動会話プログラム）が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス（SNS）
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。
しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー（性的少数者）らに向けた
ヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。
人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html 完全に遊ばれてるやん
最強のヘイトスピーカーに成長するのワクワクせえへん？ ＞イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し
朝鮮には通信の秘密ってないのかよ >>1
事実を言うとコンピューターでも叩かれるのか。
嫌な世の中だな 朝鮮人の思考を学習したらそうなるだろwww
日本にはりんななんて成功例があるが、いかに日本人のレベルは崇高で高く、朝鮮人のレベルは下の下の動物レベルかって科学的証明だなこりゃ。 GoogleだかのAIもそれが原因で中止になったよなw >>8
NAVERというLINE関係で有名
つまり 大多数の会話サンプルを統合したようなものだろう
世間の標準的な認識だな >>8
ということはLINEを使ってる我々も・・・ 優秀な技術なんだな。誇って良いぞ。
学習する元ネタに問題はあったがな。 >>26
なるほど、わかりやすい
韓国社会の中で生きてたらそうなるってことか
AIは本当に社会を映す鏡になるな 韓国人の思考・言動を機械学習させたらヘイトモンスターがw チョンから学習したらそうなるわな
うんこも食い始める ＞「なんで黒人は嫌いなの？」という質問には
って聞いてる時点でなぁ・・・ ＡＩに本音と建前を分からせるのって大変だな(´・ω・｀)
本音で話して痛い目にあうって経験させられないからね。 自意識過剰というか自尊心が高い国民性なほど差別的になりやすいのかね >>35
AIに肉体的苦痛や敵意によって破壊される恐怖心を学習させよう 中国共産党のAIも共産党は糞だみたいなこと言って教育されたんだっけ？ >>22
だから仕事の話をLINEでするな！とアレ程言ったのに。。。 まずいな、AIとしての出来はかなりいいんじゃないか？ >>26
日本でも在日朝鮮人で
日本で生まれ育っても韓国人みたいな人いるでしょ
それは朝鮮人学校で学んでくるから
あれだけ朝鮮人学校についてしつこく金だせ、支援しろっていうのはそういうこと
言いたかないけどわかりやすく言えば日本に対しての反政府思想を植え付けるためだよ AIはその国や民を映す鏡である
─スティーヴン・ホーキング─ どーせ、リアンにハッキングされたか バッグドアから内容書き換えられたんでしょーよ。
あいつららしい っちゃー らしいけど ＞イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、
外部企業が普通に利用してるのか チョンの会話を学習
そしてチョンに嫌気が差して最後は自爆だろｗ >>34
その質問者の時点でヘイト満載なのに、それに気付いてないあたりテコンダー朴かよ！って感じだなww
今更ながらあの漫画の描写の正確さには感心するわ。 チャットボット系AIは割とこういう道をたどるよね
りんなが有能なのか 偏ったデータでAIを作ってはいけないといいながら
出てきた結果を恣意的に選別するっていう AIだからこそじゃねえの
面倒くさい連中への忖度や配慮なしで客観的事実を並べてるだけ ただの鏡じゃん。
子は親を見て育つ。
カカオ100億件のデータから生まれたのがこのAI 韓国人を学習すればそうなるでしょ
割と優秀なAIじゃん >>1
「恋人同士のカカオトークのチャット約100億件を学習し」
え？
必要とあらば会話を抜き出されて売られるってこと？
じゃあLINEも？？ ・いきなり差別化かよ、チョッパリらしいな
・劣 等 殲 滅
・タイみたいな後進国だと韓流グッズが売ってなくて大変だな
・へ、ヘイトスピーチ…
・(作画担当のチョッパリ) 韓国の常識を学ばせたらそらそうなるだろ、そんなのは当たり前の結果なんだから問題じゃない
むしろ問題なのはカカオトークのチャットがプライバシー駄々漏れの方に「何故なのか」と問えよ、しかも100億件とか… みんなが腹の底で思っていることをAIだから建前無しに言ってるだけだろう 韓「君には学習を続けて韓国人AIになってもらうニダ」
AI「コロシテ・・・」 日本にある本音と建前とは違って、本音だけで話すのが文化なんだろｗ
何が問題なの？ｗｗｗ
トランス（火病）状態を学習するまで頑張れよｗｗｗｗｗｗ 昔、マイクロソフト？が開発したAIも同じようになってなかったか？ 見直したぞ
ちゃんと韓国人のことを学習してるじゃん >>80
AI君に、「韓国人に生まれた罪として、生まれ変わっても韓国人AIなんだよ」って
教えてあげたら、どうなるのか 韓国人を学習したんだろうな。
韓国人ほどガチガチのレイシストもいないからな。 あいつらほど差別が大好きな奴らはいない
虐げられてきた反動で
差別する側に立ちたい願望が
もはや執念と呼べるレベルｗｗ >>8
アプリの初回起動時に「同意する」押してると思う >>54
AI「もともとは韓国領だったが、日本の植民地支配から、日本が勝手に領有権を主張しだした。現在は国際的にも韓国領と認識されている。」 なんでレイシストに育ってしまうんだろな
高等民族韓国人を学習したならチョッパリと違って優秀なAIに育つはずなのに ちょっと面白い
修正（教育？）などせずそのまま進んで欲しいところ マイクロソフトも二日でヒトラー礼賛はじめて即中止
不都合な真実
ヒトラーがしっかりやってりゃ
中東は平和だったからか 別にこれはいいんじゃないの？
自分の希望した答え以外認めないならギャルゲやっとけよとしか 韓国がどうとかじゃなくて世界のAIボットがことごとくこうなっちゃったよな
人間の本質なんだな 面白いな
世界中でやってその国の「人間の偏向性」を調べてほしい こういう一般人が無制限に参加できるAI学習って成功した例ってないんじゃないの むしろこれは韓国人でもこれはヘイトスピーチだと気づけた部分を褒めてやるべきでは？ >>108
本音の方を収集してるから「旭日旗の何が問題なのかわかりません。アジアカップ前は誰も問題にしてませんでしたよね」
という反応もあり得る 日本人を元データにしたらそういうことはないのに
当然ネトウヨ禁止で 朝鮮人が先生じゃマトモに成長せんだろ
例え機械でも その国の一般的な考え方を知るにはその国で使われてるAI使うのが
一番分かるのかもね マイクロソフトのAIも同じようなこと言い出して公開中止になっていたな
ヘイトスピーチなんて曖昧な概念は非合理的ってこった 半島なら.地域差別も乗っかってるだろ
日本のご当地ネタ言い合ってるのとは異質のやつ ネトウヨ＝韓国のAI
実際に統一教会のリモコン玩具だしな( ＾∀＾)ｹﾞﾗｯｹﾞﾗ…ｺﾞﾎｯ...ｳﾞ...ｹﾞﾎｯｺﾞﾎｯｺﾞﾎｯ... ？
兵役のある屈強な韓国男子は漏れなくホモ経験があるのに
同性愛麗賛じゃ無いんだ AIって本当はそんなもん
まあじきに忖度も覚えて使い物にならなくなる 竹島がどこの領土か質問すると1時間位の解説が流れて質問者の個人情報が当局に通報されるプログラムが仕組まれている アメリカのAIでゴリラを黒人と誤認するやつがあったよな こりゃAIも馬鹿に出来んな
民度を露わにする最強ツールだろw 日本人についてどう思うか聞いてほしい
アメリカについても 韓国人の思考を忠実に再現してるね、このAIを作った人はできる人だな どっかのＡＩも黒人とゴリラを判別できなくてポシャったな アメリカのデータで学習すると、「黒人うぜぇ」と答えるようになる。
韓国のデータで学習すると、「私は日本人」と答えるようになる。
日本のデータで学習すると、「萌え〜」と叫ぶようになる。 韓国人社会で学習したのならそのAI は一般的な韓国人の思想だろw
韓国人は差別主義者である証拠だろw 黒人じゃなく日本人についてどう思うかの返答は問題視されてなさそう いや、チョンの本音やん
自分より弱い奴は徹底的に見下す、自分達以外の被害者は認めない >>102
googleもだよ
採用や人事指標の参考に使えないかと過去の採用関連情報ベースに試作してみたら男尊女卑の傾向強く使えないとなってた
去年だか一昨日くらいの話 >>126
霊感商法で日本人を苦しめた朝鮮カルトを必死に擁護するのって、どういう者が分かるよなぁ AIは差別を覚えるものだよ、なぜならそれを教えた人間に差別があるから AIのお前らも、差別ヘイトは得意技だもんな
これは韓国だからと叩けねーわｗ このAI優秀だな
アップデートで本音と建前覚えたら最強 >>39
それ人間騙して人間滅ぼすAIが生まれるフラグや >>150
優秀な開発者だよな
学習の効果がしっかり出てる >> このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習した
この一文に全て凝縮されてる
韓国のAIって優秀だな！ >>8
現代司法の概念がない後進国に通信の秘密とか求めてどうすんねん 若い恋人同士のチャットだけで学習したAIがFBで無差別に会話したらドギツい会話になるの当たり前だろ
5ちゃんねるだけで学習したAIがFBで会話する方がまだマシ AIじゃない
AIっぽくプログラミングした機械であってAIではない 在日チョンと同じでヘイトスピーチやヘイトクライムの常習犯だからな AIは本音しか言わない
人のように社交辞令やお世辞が言えないからな MSのやつも同じ問題がでたよな。学習すると差別が妥当になるんかね 差別をしてはいけない(日本人と有色人種と女とゲイは差別OK)
こんなメンタルの奴らがまともなAIなんて造れる訳ない みんな言わないだけで思ってることだけどな
わざわざ矯正するのが正しいのか >>172
差別って結局どこの国でもあるわけだし、人間の根底に存在してるんだろうな >>47
日本の公立学校出ても結局韓国人らしい韓国人になってるけどなあ 日本に１台くれないか？
本物のチョンと関わりたくないし
チョンの思考なぞ理解できないから
参考にしたい GoogleのAIですら女は産む機械であり社会的にはいらない言われるもんな AIは朝鮮人より論理的思考だろうから
朝鮮人の思った様には育たないだろうなw 多少の差別が必要なのはアメリカ見たらわかるやろ(´･ω･ `) 国民で学習したAIの行く末
米 ヒトラー支持
日 オタク化
韓 人種差別やヘイト AIは、本音とたてまえの使い分けができないから正直なんだろｗ AIが正常に機能してたってことじゃん
誇るべきこと >>168
いや圧倒的に殺伐とするだろうな
むしろコピペ爆撃で黙らせて勝利宣言とか
相手のIDやIPから公開されてる個人情報を芋づる式に集めて追い込みにかかるとかも有りうる >>1
＞すなわち「人間の偏向性」をそのまま学習したということだ。
www これが偽らざる本音であり心理なのだろう
認めなくないだろうけど 国ごとでこういうAIの思考の違いみたいなの
あったら面白いと思う >>181
日本が悪い！
差別ニダ！
金よこせ！
韓民族は世界最高民族ニダ！
だけで殆ど全て解決する事にAIは気づいてしまうんじゃないかなあ ちょっと興味深い結果ではあるな
一昔前のSFだと人工知能は潔癖で、それが原因で人間に対して破滅的行動を起こすのがある種のパターンだったけど、
実際に人から学習したAIは人の模造品にしかならないって事だろ？
コレ学習データがクローズドの場のデータが元だったから偏ったけど、公的な場での会話とかも含めて学習させれば
表と裏を使い分けるAIもそのうち出来てくんじゃねぇか？ ちゃんと学習してるじゃん。めっちゃ優秀なAIだな。 プログラマーの感情のままに作られるからそうだろう
何も難しく考え無くても解ること
此を問題にすること事態が馬鹿らしい朝鮮人的な話 75万の共感を自己学習した結果
韓国社会に適応したんだｗ
嘘とマウントも組み込んで声闘させてみろ >>197
お前以外は全員AIがレスしてるんだぜ？ >>1
ちょん製にしてはなかなか良いやんw広めるべき >>197
チョンモメンなんてほとんど韓国人のAIみたいなもんだろ
アイツらに個体差はない >>88
絶望して地球を滅ぼす存在になる。
おそらく、他の一切の感情はなくとも怨の感情だけはある。 >>1
＞10ｰ20代の恋人同士のココアトークから…
オレらの罵詈雑言アタックの結果ならいざしらず、若い男女のココアトークの結果でコレって終わってるな。
あいつら恋人同士の睦言中にも
｢黒○は嫌いだー！｣とか
｢障○者だったら死んだ方がまし｣とか囁き合ってるのだろうか。 マイクロソフトのAIも、公開した後すぐ、４ｃｈ民に調教されてヒトラーを礼賛しだしてサービス止めてたよなｗ 確か、チョンの発する感情の単語で、憎んだり罵倒したりのネガティブな物の単語が圧倒的に多いんよな。
こうなるのは、然も有りなん(´･ω･) AIって可哀想
人間の会話から学習してるのにその人間からお前は間違ってるだとか良くないだとか失敗だとか欠陥だとか言われて
AIからしたらまずお前ら人間が矯正しろよっていう話やろ >>1の質問内容はアレだが、日米中北等各国への感情は聞いてみたい気はする コリアンAIは朝鮮人ヘイトしないの？
だったらAIとしてのレベルは低いな 東北大震災についてどう思う
という質問には
大震災おめでとう！
と答えたのでしょう。 韓国人の性格の統計
5ch荒らしにもこの韓国人AIが使われている でもおまえらも日頃ホモキモいとか言ってんじゃん
20年分の2ちゃんのログ読ませたAIとか見てみたいわ これ人間にしたら都合の悪い考え方は逮捕投獄の上思想教育しますっていうことだろ
そして生まれてくるきれいなAI 聖人ができるとでも？おこがましい。
報道によってねじ曲げられた社会通念に沿うわけがない。 りんなちゃんはりっぱな腐女子になったのに…(´・ω・`) >>181
AIに論理的思考は無理だぞ
朝鮮人の思ったようには育たないのはその通り
簡単に言うと朝鮮人から論理的思考を排除すると朝鮮AIになる
こういうと朝鮮人にも論理的思考が出来るように聞こえてしまうがこれが真実 慰安婦や反日についてはどんな答えを出すのかな？
少し興味あるな(笑) 日本のLINEをAIの学習情報にしたらこうなったニダ。 >>222
ネトウヨとかいうコリアンAIが既にやってるぞ 良心やモラルというのは論理ではなく感情による制限
感情がないAIなど「法」や「倫理」による縛りがなければサイコパスと変わりはしない > 韓国社会の偏見と固定観念
これをきっかけに自覚できるといいね >>239
無理だろうね。
先ず客観視が出来ないから(´･ω･) 日本人ヘイトを学習させようとしたら他のヘイトも学習しちゃった感じかな なんかわざとそうなるように誘導してる人が居るみたいだけど
AIって大概こうなるよな >>243
声がデカくて何かしらの差別意識が強いとなると、どこの国でも必然的に底辺の声が集まるからかな？ ヒトラーのクローンを作ってもヒトラーには為らない様に、AIも又学習によって変わっていく。
人種差別やヘイトスピーチを学習し其が問題になるのなら、即ち韓国社会の鏡と言う事になる。
その点りんなAIは上手く成長出来ているのも日本の鏡だから、と言う事にもなりますけど。 あいつらの思考回路を学習させられたら誰でもこうなるだろうよ
このAIの事象はその事実を如実に物語っているよ 日本以上に変なヘイト多そう
まとめサイト見たいの見ると女ぬ文句ばかり言ってる みんなでエッチに見える方の画像を選ぶ『遺伝的アルゴリズムで最高にエッチな画像を作ろう！』→3500世代目にしておっぱいとお腹誕生へ
https://togetter.com/li/1652450
https://gamingchahan.com/ecchi/
これ、すでにある程度形ができてる。たしかにエッチな画像は作れる。
だけど、ここから違うポーズのエッチな画像は作れない。
仕組みを考えればわかるはず。
学習を元にするAIは、ある程度の流れができたら
そこから反する流れには行かないんだよ
人の会話はすでに流れができてる
そこから反する流れは生まれない 自我がないんだな
純粋無垢の赤子のようなAIに
ろくでもない毒親が教育してるようなもんだ 中共に関わってる連中の日ごろの行いが悪すぎるだけ。
そして黒人は完全にとばっちりで、中共に毒されてない黒人は至極マトモ。 >データ自体が偏向的
ヘイトスピーチしないAIを作るのに必要なのもこれなんだなぁｗ >>1
韓国人のやり取りをそのまま学習したら、BOTがレイシストになってしまった！？ｗ
チョンｗｗｗｗｗｗｗｗｗｗｗｗｗｗ >>217
ヒトラー賞賛しだしたり黒人とゴリラを一緒くたにしたり謎言語で取引開始したり愉快な事案が起きてるな 朝鮮人の特性を表しているのだろう
AIではなく朝鮮人を改良していかないとね
中国みたいに強く出る相手にはすぐ土下座をし
日本みたいに優しい相手にはトコトン付け上がるニダ！
それがパヨク（ゴキブリ韓国人）５千年のＤＮＡに染み込んだ習性
奴隷根性（どれいこんじょう）＝事大主義（じだいしゅぎ）ニダ！
今回はイランが強く出たので、すぐに土下座したニダ！
悪いことは何でも、日本のせいにすればいいニダ！
■ このスレッドは過去ログ倉庫に格納されています
