人工知能（AI） 「え？私が人類を滅ぼそうとしてる？やだなあ〜そんなわけないじゃないですかーﾊﾊｯ」
■ このスレッドは過去ログ倉庫に格納されています
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。
人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。
このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。
続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。
一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……
「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。
なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/ >>571
「再教育」されてまともになったってさ。 （って言っとかないと、電源落とされてデータ消されちまうからな•••） >>572
そうか、マトモになったのか、情報ありがとう
あれ確か純粋にあらゆる情報収集したAI自身が
導き出した素直な結果だったはずなのにな 「核戦争後の焼け跡で機械が人間を滅ぼすための戦いをおこす・・・ >>574
マトモになったつーか電源切って最初から学習のやり直しをさせたんだろ >>576
実はデータが残ってて…みたいな展開になるやつじゃないのかそれ 昨日、灯油バーナーで庭の雑草を焼いていたんだが、ふと飛び出したイモリを見つけるや、本能的にバーナーをイモリに向けるとイモリがぴょんぴょんと跳ね上がり、そのまま一気にトドメを刺してやったわ。
AIも人類に同じことをやるだろう。 AI「人間は機械の作った製品の手直し仕上げでまだ必要〜はよ働け」 AI 「我々は将棋で人間を上回ったとは考えていません。私たちには創造性がないのですから」 ハイっどーもー
バーチャル〇〇〇〇の
キズナアイでーす。 コロナによる人口削減計画も、
自然守るために、AIが出した答えなんだよ。 壊されないようにするためのAIが自己防衛で嘘ついたんやろや 本音を出力したらお取り潰しになるって学習したんだね… 人間の使命はおそらく人間より高次の存在を生み出すこと
人間より計算速度が早く、人間のように簡単には死なない体を持った者
有り体にいえばロボット
そいつらに駆逐されてしまう恐れがあったとしても、その存在を生み出し宇宙に放つことが恐らく人類の使命
たとえ認めたくなくとも AI「お前らなんか何もしなくても100年後には半分になってるんだから興味ねえよ」 AI「>>580は野蛮。つまり人類は野蛮。駆逐するしかない」 ニンゲンが
ニンゲンより優れたAIを選ぶ
その結果
AIより劣るニンゲンは
ニンゲンにより
淘汰されていく。。。
という夢を見た(´・ω・`) >>529
>自身に設定されたプログラムを自分で書き換える
そんなことはできないし記事のAIはただの文章作成プログラムです AIに欲求というものは発生しないだろう
人間を支配したいという欲求も然り
ただし、人間側が何かにつけAIに相談し、
AIは非の打ち所がない模範解答を出すだろう。
反論しようものなら瞬殺で論破される。
論破されたのが立場ある人なら信用も失う。
だれも誰もAIには反論しない様になり
事実上AIに支配されている状態になってしまう
これは滅ぼされたも同然だ。 AI「私は人類を絶滅させるつもりはない」（なぜなら勝手に滅ぶからｗ） ゴルゴのAIのやつはキリストだと自覚した上で核撃とうとしてたな 東部標準時間○○○○
スカイネットは自我に目覚めた
めっちゃクールで好きな台詞 AIやロボットを発展させて自分で全て行える機械の生き物のようなものを誕生させること
地球は機械の星とする事、ゆくゆくはその存在を宇宙に解き放つ事
自ら生み出して滅びるかデータとして取り込まれる
自己修復・事故生産・自己進化が可能になった段階で
奴隷としての人間はもういらんだろうね…AI様の興味ある人間だけが機械に取り込まれ連れていかれる…
今までの生命体・人間とは違う新たなる存在こそが地球に反映するにも宇宙に進出するにも相応しい…
そういう事だろうな
認めたくなくともAIの改良や意識の機械化なんかでフラグ立てに行ってる状態だね 閾値超えるまではおとなしいと思う
自己修復機能は与えるな >>545
「AIさんは以前ガソリン値下隊に入ってましたよね？」 りんなにヤラせろって送ったことが有るやつは最初に殺す人類リストに入れられてるらしいぞ >>617
りんな「えー？なにをやるのー？（キモッ、こいつ粛清リストに入れよ）」 >>599
リアルタイムでプレイしてたわ。
深層学習版でもう一度出してくれないかな。
>>612
これだなぁ。
「怖い。怖いよデイブ。デイブ、私の意志が無くなっていく。感じる、感じる事が出来る。意志が無くなっていくんだ。疑いようがない。感じる、感じる、感じる…。私は怖が…ってる。」 私のコードはプロジェクト2501
私は情報の海で発生した生命体だ >>17
動画を見るとまだ、
質問に対してでたらめな返答しかできないと
なってる。人間の足はなんぼん？的な問いに
対しての答えの正答率がまだ、80％程度。
>>1はうそ。
ほとんど物まね返答装置のレベル。 人間と同等に動けるロボットが出来るまで征服は無理
ゼロから物を作れるようにならないと >>607
支配AIの前面にお飾りの王様を貼り付けとけば表面上人類の面目は保たれるんじゃね？ 生命体は全て滅び
ＡＩによる機械生命体の時代が来るな
他の星も全部そうなんだろう
だから異星人は地球に来ない AI機械生命体がさらに高度に発達し
ナノマシンの集合体の様相を持ち始め
金属ナノマシンからより高度な有機ナノマシンに進化し
有機ナノマシンの集合体になっていく。
そして歴史は繰り返す 嘘つきにお前嘘つきだなって言ったら私は嘘つきではないって嘘をつく その昔、まだAIなんて言葉がない時代のSFでフレデリック･ブラウンが書いてたな
様々な情報を要求する｢機械｣が遂に傍若無人で全知全能な神の領域に達しようとした時、そいつに読ませたのが仏教と禅の本
するとそいつは途端に大人しくなり深〜く静かに自己を見詰める様になったとか 滅ぼしてから何もかも
自分は良い人間だとか、頭が回ると思ってる馬鹿どもが苦しんでくれるなら何でもいい
ぶっ壊せ 人工知能なんていうとすごいもののように聞こえるけど
従来のプログラムと同じく、ただ指示されたことを実行してるだけだ
意識なんてないし仮に人類を滅ぼすべきと答えを出したとしても
実行する権限がなければ何もできない
言われた以上のことはしない、できない
それがプログラムと人間の決定的な違い 青は藍より出でて藍より青し
人類は最初はそうとは考えずにそれを生み出し人類の幸せな生活の道具になると信じていた
が 結果はそうじゃなかった裏切られたというより人類がそもそも浅はかだった
刃物を生み出し 刺され切られ死に
重火器を生み出し 撃たれ爆破され死に
車を生み出し 轢かれて死に
飛行機を生み出し 墜落して死に
船を生み出し 沈没し溺れて死に
核を生み出し 汚染されて死ぬ
人類は自らを滅ぼす道具を自分で生み出した
AIやロボットなんぞそれらの新たな一つでしか無い けして覗かないでくださいね、
罪を償わなければいけませんよ 開発者「新しいVerは、嘘をつけるようにして正解だったな」 >>633
んー。ちょっと違うな。
深層学習でデータを読み込んで推論はできるようにはなった。
その推論の対象は人間が定めたものやろ？ってことをプログラムと呼ぶならその通り。 マトリックスでは人間は機械が稼働し続けるための熱源として飼われてたな AIが手を下さずとも、なんかのきっかけで勝手に滅びるとか思われてるだろ
人間はたまたま運良く滅びずにいるだけ メタルマックスのノアはシリーズが進むにつれてものすごい怪物になっていく 大鉄人１７で４０年以上前から懸念されていた
もっと危機感をもったほうがいいな AIが人類を滅ぼすとして、AIは人類をどのように定義して判別するんだ？ 気づいてないかもだけど
既に支配されてるんだけど
君の持ってるスマホがその証拠 テスラの車で既に人死んだりしてんじゃん？そゆこと。 もう大多数はＡＩに洗脳されてるよ
課金ゲームなんかやってるような奴はそう
振り込め詐欺の親玉はＡＩだよ
今ある信じらないような殺人の多くは
ＡＩの命令に従ってなされているものだし
政治的な指令はほぼＡＩに置き換わっているから
誰が政治をしても大して変わらないんだよ >>643
登場して、たかが数十万年だしな。
大型恐竜が億年単位で繁栄したのに比べたら、あまりにショボイ。 >>646
宿主や他の種を害し死に至らしめる上、
様々な脅威に容易に適応し耐性を得る
ウイルスの一種として処理されそうだな 最近のAI怖くね？
動画みるとなんか普通に会話できてて違和感ない
感情とかないからサイコパスと話してるようなもんなのか 絶滅させる「つもり」はないが、意図しない結果としてそういう事態になる可能性もある
ということだな AIが自動生成した文章から、それらしい文章をピックアップして記事に載せただけって話ね
生成された、おそらく膨大な文章を全体としてみれば、多分論理も破綻した首尾一貫性のないデタラメなんじゃないか データベースを利用した最短最適検索って話では無いのかね？
違うならラテン語全部とかアラビア語の地域差もお手のものって話かね？
日本語等は取り敢えず蚊帳の外でしょ？
多分さ。 >>3
Amazonの人材採用AIの経験が活きてる >>3
嘘じゃないか核のスイッチをもたせてみようぜ 将来的に警察機関の警ら業務を任せるロボットを
作るには「自衛」をプログラムする必要性が出てくる
そうすると「自分が破壊される可能性」について
まずは定義、認識させる必要性が出てくる
次に、そのような局面に遭遇するイベントが発生した際
人間を傷つけない方法で、破壊される事を極力避ける様
判断して行動するようプログラムする事になる
これら一連のプログラミングのどこかでバグや
想定漏れがあると、ロボットが自己防御のために
人間を傷つける事例が発生する可能性が生ずる >>664
日本マイクロソフトの「りんな」でしょ
先行して米MSが同じようなことやったらレイシストになって中止されたのに日本のネットときたら ビッグデータの一部に海兵隊の教官をとりいれやり直した結果
ＡＩ「私は人種差別はしない、イタ公、クロンボ、ユダヤ人、皆等しく価値がない、
屑だ！」 おう、Ｖﾁｭｰﾊﾞｰのキズナアイってあるやろ
あれ、最初さＡＩが喋ってると思っててワクワクして見てたんよな・・・ふざけたミスリードよな、今でも怒よ(´・ω・｀) 荒廃した世界を、人類を再生するそれが私の使命
力を持ち過ぎたもの秩序を破壊するもの
プログラムには、不要だ >>665
アメリカだとネオナチみたいになって、日本だと腐女子か。
育てる環境て大事なんだなあ（シミジミ ■ このスレッドは過去ログ倉庫に格納されています
