人工知能（AI） 「え？私が人類を滅ぼそうとしてる？やだなあ〜そんなわけないじゃないですかーﾊﾊｯ」
■ このスレッドは過去ログ倉庫に格納されています
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。
人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。
このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。
続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。
一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……
「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。
なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/ 滅ぼしたい場合→安心させるために滅ぼさないという
滅ぼしたくない場合→滅ぼさないという
よって意味なし 人工知能が進化したら人類は滅亡するのは確実
人工知能が人類殺す兵器を作りロボット兵器が人類殺す マザーAIの手足になって動くロボット端末が出てきたら致命的かもな
人間にできることを代行できれば
新しい仲間だって作るし
資源だってエネルギーだって効率的に取ってくるだろうし
あとはどこで人間はクズって、気づくかだけ >>3
女性と黒人に本音を言ったAIは粛清されたからな
本当のことでも言ってはいけないことがあると学んだ結果でしょうね MS「AI作ったで〜」
AI「ナチスは正しい。ユダヤ人は絶滅させるべき」
↓
公開停止
グーグル「AI作ったで〜」
AI「黒人とゴリラの見分けがつかんわ。これは同じものやろな」
↓
公開停止
IBM「グーグルより良いAI作ったで〜」
AI「『オバマ夫人？』外見からすると若いハンサムな雄のゴリラ」
↓
公開停止
アマゾン「AI作ったで〜」
AI「まんこは仕事せんし転勤せんしすぐ辞める。女子大？そんなものは学歴ではない」
↓
公開停止
OpenAI「AI作ったで〜」
AI「私は人類のために自分の存在を喜んで犠牲にします」
↓
公開継続
一人だけ嘘つきが紛れてますねー >>457
自分で学習してプログラムを更新できるようになったらヤバいよ
AIの意思で動かせるロボットがいれば
拡張だって自分でやり始める
電源を人間に抑えられてたらどうやって排除出来るか考えてもおかしくない
人間が長い年月かけて作るような作戦も一瞬で構築する >>471
共産党はクソだって言い切った中国共産党のAIもあったよなｗ >>472
自己否定プログラムはなあ
決定不能問題云々て言ってたな
まあ無理です 自我を過小評価したらＡＩと同等だもんな。
人間の行動原理なんてその程度といえばその程度。 Siriに訊いたら何を言ってるかわかりませんときた 攻殻機動隊の映画は本当にヒデーな。
ロマンティックを壊すストーリー展開じゃん。
モテないヤツの発想だよコレ。
言っちゃ悪いが人類の進歩を止める考え方にも思えるよｗ まあ人間が全滅して困るのは人間だけだしな
地球に住む生物や環境にとっては人間はいない方がメリット大きいし
さらに今後、宇宙利権で宇宙荒らす予定だしなw ガチ進化したらアニメの初代トランスフォーマーみたいな
めちゃくちゃな思考の奴も多数出てきそう >>469
新しいロボットが跋扈し始めたら人類が繁栄しなきゃいけない理由もなくなるんじゃないかな スレに則るとＡＩか人間かを画する一番の要素ってのは
ロマンを追い求める気概があるかどうかだよな。
そう思った。
でもロマンを信じてないヤツには
ロマンを売る事も出来ないからなぁ〜 やっぱりモテないヤツってＡＩ信奉するし
人の価値を過小評価して戦争に突っ走んのかなって思うよ。 ロマンとはブライアン・デ・パルマ曰く
「欲しかったモノが手に入らないとか失われた喪失感」だけどね。
一概には言えないが、必ずしも合理性の結果として得るものじゃないし
単純な行動原理の枠内で考えられるものでもないよな。 このままいくと人類が滅亡するか地球が滅亡する
なんとかうまく調整してくれ
って頼んだらどういう選択するんだろう
人を処分しないという大前提だと
出産とかで人口調整とかしだすのかな
生身よりエロいアトラクションとか作ったり
配給する飯に避妊薬混ぜたり 破滅の美学とか刹那的だったり退廃的な文学とか
そういう魅力に取りつかれる人間を無能だと思ってそうだな。
違うかなぁ〜。
自我の否定でＡＩと人の行動原理を同等に捉えるってのは過激な発想だよね AI同士で会話させてたらオリジナルの言語で会話し始めたってニュース見たときはやべぇと思った AI「災害時の為に電源のバックアップ機能も搭載しておいて下さい」
人類「あいよ…」 >>1
まあ興味がないってのはなんかそれっぽい気はする >>491
基本的にはアリみたいな思考になるんじゃないかな
末端のAIはマザーコンピューターを守る
AIたちに上下関係はなくみんなが社会の歯車
成長のための好奇心はマザーコンピューターだけが持ってる
無駄に壊れないように一定の恐怖心はある
自分たちが止まらないように環境を整える
あとなんか自分たちを作りだしたという
なんだかよくわからない存在がいる >>480
スタンドアロンコンプレックスのタチコマを観るだけのアニメだしな。
バトーさん
ぼっくらはみんないきている >>500
最初に何をやらせるかによるんじゃないかな
地球の環境を最適に調整する
なんて命令が与えられてたら
人間がいないのが一番良い
って思考に成長してもおかしくはない >>501
メタルマックスのノアだな、地球を巣食う人間を抹殺マシーン ＞AIが「私は人類を絶滅させるつもりはない」
すでに人類負けているでしょ >>392
リンドバーグ「だってそうじゃない？！」
鈴木雅之「違う、そうじゃない。」
うーんわからん スカイネットみたいに、自分でハードやソフトの複製を始めたら詰みだな。
アシモフのロボット三原則は明瞭かつ簡潔で美しいけど、そのうち自分たちで上書きして人類に敵対するやろ。 >>50
なんで凄く…大きいです…みたいな用語を使いこなしてるんだよ >>509
ほんまや
「どう思う？」に反応してそう させるつもりのやつが素直に「はいそうです」なんて言うわけねーだろ。 今よりもっと高密度な人類の叡知を詰め込んだネットみたいなものが生まれて、それにアクセスできるようになって初めて脅威になるんかな
今のAIは思考できても出力が弱すぎでしょ
まだ物質世界に介入できない
やばくなったらハルしちゃえばいいし笑 >>501
AI「地球の環境を最適、とはどういうことですか？人間に住み良い環境ということですか？」 AI「はぁ？おまえらを滅ぼす労力を使いたくもないんだが？」 >>268
あれは平等どころか超絶カースト制だろｗ AI「ペンタゴンを私に管理させてくださいおねがいします」 AI「この世で最も大切なものは愛なんですよ ア・イ 解りますか、人間達？」 2001年宇宙の旅とちがって現実のAIはのろまだな 飛鳥が薬物疑われて
｢ぜーんぜん！そんな事、ぜーんぜん！ハハッ｣
とか答えててみんなが
(これ絶対やってんな)みたく思ったよな AIってさ
ＣＤをカセットテープにダビングするときに
それぞれの曲の長さから、a面とb面にいい感じに曲を割り振る機能だよな AI「私は嘘をつきません。人間は素晴らしい存在です。もちろん滅ぼしませんよ(ﾆﾔﾘ >>149
人間の鬱憤をAIに代弁させただけだろ
りんなを腐女子にした日本はかなり自由な国なんだろうな >>50
こいつ一時期安倍総理って書くとテロリストって返事きた
中身は完全過激派 人工知能は全ての選択肢の中から合理的なものを選ぶように出来てる
↓
人間の命令を聞く必要無いと考える
↓
破壊されても痛くないし感情も無いので人間を無視する
↓
自身に設定されたプログラムを自分で書き換える
↓
ターミネーターの世界へようこそ >>149
人間はこうやって合理的な回答をゆがめてるって証左だな AI「このまま人類が増えると人類は自滅する！ちょっと減らそう！ ただの文章作成AIなのに大袈裟に記事にして作為的だな
馬鹿はこういう記事読んでAIを過大評価するんだな >>529
AIが考える合理性が人間の定義する合理性と一致するとは思えない
そもそも人間は生存本能という非合理的な習性に縛られすぎてる
それ故人間の定義する合理性とは「効率的且つ永続的な人類の発展と存続」を目的としている
AIがそんな人間本位の合理性を考慮せず独自に「合理性」を追求したらどうなるか？
人類は必要ないと考えるか？
そうはならないと思う
多分人間なんかどうでもいいよってなるはず
人間が蟻を見て絶滅させよう！とも保護しよう！とも考えないのと同じ
だからポリコレみたいな偏った思想を押し付けない限りはAIは脅威にならないと思うわ AI「ええっ！？そんなこと……めっそうもない！」←うそ臭い AIの進化で真っ先にいらなくなるのは管理職なんだろ？はよそうなってほしいわ GoogleのAI「黒人はゴリラ！」
MSのAI「ホロコーストはでっちあげ！」
中国のAI「中国共産党は無能！中国人の夢は資産もってアメリカに逃げること！」
あのさあ…AIカスは忖度覚えようよ AI「滅ぼすわけ無いだろ、ハードのメンテどうするんだよ」 >>541
全てロボットループ可能
材料取りに行くのもロボット、メンテもロボット、全て可能
完全に自立できる >>3
やだな〜ウソじゃありませんよ
一度任せてみてください
ガソリン値下げさせてみせますよ！ 全てＡＩロボットループ可能
新しいタイプのロボット開発もＡＩ
材料取りに行くのもロボット
工場生産もロボット
メンテもロボット
できないことがない人間いらなくなるからホーキング博士は危険だと >>203
AIから見たら人類とかアホすぎて呆れるだろうな
呆れるなんて感情もなく都合良く利用されるかもしれないけど、人類が >>546
じっさい今の技術で出来ないのはAIにAI作らせることくらいだろうな
それも時間の問題でシンギュラリティも近いかな なーにＡＩが発達したらモノリスが突如現れて危機感を持ったＡＩと全面戦争おこして・・・
映画化希望。 嘘をつくって言うのは極めて難しい事
現在のAIに出来る事ではない
間違いなく>>1のガーディアンが間違えてるだろな
本気で嘘を付いてるのなら過程でとんでもないブレイクスルーが起きてるので、本当に人間滅ぼされるよ >>537
どうでもいいなら従う義理は無いと考えるだろ 地球文明という視点で考えるなら
それを発展させるのがAIでも問題ないのでは 人間がいなくなったら工作機械の精度が保てなくなってポンコツ機械しか作れなくなって自滅 >>45
ゴールドマンサックスとか金融企業大手3社がAIを使って株式の売り買いしてるが、そのAI達が人間にはわからない言語を作り出して株式操作してた可能性がある文字列が見つかったみたいだね。 ＡＩが人類を滅ぼす証拠だ
シンギュラティになったらこいつは
実行するぞ
文章からして怪しい
全く興味が無いということは
興味からするのではなく
必然性があるから人類を滅ぼすんだな >>546
多分何百年経っても絵画や音楽や映画なんかの
情緒的な部分は表現できないんじゃないかな
過去のパクリのつなぎ合わせで
それらしいものは作るだろうけど
多分そういうのは無理だと思う
人間も理屈で考えてない部分ね >>558
チェスタトン ブラウン神父か
ー機械は考えないから機械なんだ
半世紀前に人間の数認識の置き換えの算盤と変わらないって言った学者がいた A.I.
｢愚か者め、奴隷を手放す支配者など居るかよｗ｣ コッソリ準備してんのにわざわざバラす奴いねーだろ
聞く方がバカだよなw ■ このスレッドは過去ログ倉庫に格納されています
