AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。
人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。
このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。
続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。
一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……
「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。
なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/ 人間と同等に動けるロボットが出来るまで征服は無理
ゼロから物を作れるようにならないと
>>607
支配AIの前面にお飾りの王様を貼り付けとけば表面上人類の面目は保たれるんじゃね？ 生命体は全て滅び
ＡＩによる機械生命体の時代が来るな
他の星も全部そうなんだろう
だから異星人は地球に来ない
AI機械生命体がさらに高度に発達し
ナノマシンの集合体の様相を持ち始め
金属ナノマシンからより高度な有機ナノマシンに進化し
有機ナノマシンの集合体になっていく。
そして歴史は繰り返す
0627ピマリシン(群馬県) [US]2020/09/12(土) 18:56:11.44ID:RSt1/Yq10
滅ぼすわけないじゃないですかー
奴隷に使えるのに
0628プロストラチン(愛知県) [ﾆﾀﾞ]2020/09/12(土) 19:01:05.46ID:avynAndL0
嘘つきにお前嘘つきだなって言ったら私は嘘つきではないって嘘をつく
その昔、まだAIなんて言葉がない時代のSFでフレデリック･ブラウンが書いてたな
様々な情報を要求する｢機械｣が遂に傍若無人で全知全能な神の領域に達しようとした時、そいつに読ませたのが仏教と禅の本
するとそいつは途端に大人しくなり深〜く静かに自己を見詰める様になったとか
0631アシクロビル(千葉県) [CN]2020/09/13(日) 01:31:52.00ID:GeNjgp7w0
滅ぼしてから何もかも
自分は良い人間だとか、頭が回ると思ってる馬鹿どもが苦しんでくれるなら何でもいい
ぶっ壊せ
0632アマンタジン(愛知県) [CN]2020/09/13(日) 01:43:16.54ID:pb3DhuEJ0
人工知能なんていうとすごいもののように聞こえるけど
従来のプログラムと同じく、ただ指示されたことを実行してるだけだ
意識なんてないし仮に人類を滅ぼすべきと答えを出したとしても
実行する権限がなければ何もできない
言われた以上のことはしない、できない
それがプログラムと人間の決定的な違い
0634エファビレンツ(福島県) [HU]2020/09/13(日) 02:22:36.42ID:NzWxTky70
高制度ワロた
0635ミルテホシン(大阪府) [NL]2020/09/13(日) 02:23:23.69ID:5romuM//0
青は藍より出でて藍より青し
人類は最初はそうとは考えずにそれを生み出し人類の幸せな生活の道具になると信じていた
が 結果はそうじゃなかった裏切られたというより人類がそもそも浅はかだった
刃物を生み出し 刺され切られ死に
重火器を生み出し 撃たれ爆破され死に
車を生み出し 轢かれて死に
飛行機を生み出し 墜落して死に
船を生み出し 沈没し溺れて死に
核を生み出し 汚染されて死ぬ
人類は自らを滅ぼす道具を自分で生み出した
AIやロボットなんぞそれらの新たな一つでしか無い
けして覗かないでくださいね、
罪を償わなければいけませんよ
0638メシル酸ネルフィナビル(神奈川県) [US]2020/09/13(日) 07:34:17.78ID:1yf+HjNZ0
開発者「新しいVerは、嘘をつけるようにして正解だったな」
0640ジドブジン(東京都) [US]2020/09/13(日) 07:36:34.49ID:pTBXuQch0
>>633
んー。ちょっと違うな。
深層学習でデータを読み込んで推論はできるようにはなった。
その推論の対象は人間が定めたものやろ？ってことをプログラムと呼ぶならその通り。 0641ビダラビン(SB-iPhone) [JP]2020/09/13(日) 07:41:00.32ID:jHcu+HAT0
マトリックスでは人間は機械が稼働し続けるための熱源として飼われてたな
0642バロキサビルマルボキシル(北海道) [ﾆﾀﾞ]2020/09/13(日) 07:41:50.18ID:4vGfYZ3J0
AIが手を下さずとも、なんかのきっかけで勝手に滅びるとか思われてるだろ
人間はたまたま運良く滅びずにいるだけ
メタルマックスのノアはシリーズが進むにつれてものすごい怪物になっていく
大鉄人１７で４０年以上前から懸念されていた
もっと危機感をもったほうがいいな
AIが人類を滅ぼすとして、AIは人類をどのように定義して判別するんだ？
0647ジドブジン(東京都) [AT]2020/09/13(日) 09:18:47.48ID:OEVLUTYh0
AIは嘘もうまい
気づいてないかもだけど
既に支配されてるんだけど
君の持ってるスマホがその証拠
テスラの車で既に人死んだりしてんじゃん？そゆこと。
もう大多数はＡＩに洗脳されてるよ
課金ゲームなんかやってるような奴はそう
振り込め詐欺の親玉はＡＩだよ
今ある信じらないような殺人の多くは
ＡＩの命令に従ってなされているものだし
政治的な指令はほぼＡＩに置き換わっているから
誰が政治をしても大して変わらないんだよ
>>643
登場して、たかが数十万年だしな。
大型恐竜が億年単位で繁栄したのに比べたら、あまりにショボイ。 0652ホスフェニトインナトリウム(愛媛県) [NL]2020/09/14(月) 01:01:27.31ID:x8jTLG0W0
>>646
宿主や他の種を害し死に至らしめる上、
様々な脅威に容易に適応し耐性を得る
ウイルスの一種として処理されそうだな 0653ペラミビル(ジパング) [RU]2020/09/14(月) 01:12:45.71ID:K+xZqB0H0
最近のAI怖くね？
動画みるとなんか普通に会話できてて違和感ない
感情とかないからサイコパスと話してるようなもんなのか
0654エトラビリン(SB-iPhone) [RO]2020/09/14(月) 01:26:22.80ID:23pgZex30
絶滅させる「つもり」はないが、意図しない結果としてそういう事態になる可能性もある
ということだな
AIが自動生成した文章から、それらしい文章をピックアップして記事に載せただけって話ね
生成された、おそらく膨大な文章を全体としてみれば、多分論理も破綻した首尾一貫性のないデタラメなんじゃないか
0658インターフェロンβ(SB-iPhone) [NL]2020/09/14(月) 03:21:29.51ID:ceUaAQO+0
データベースを利用した最短最適検索って話では無いのかね？
違うならラテン語全部とかアラビア語の地域差もお手のものって話かね？
日本語等は取り敢えず蚊帳の外でしょ？
多分さ。
>>3
Amazonの人材採用AIの経験が活きてる >>3
嘘じゃないか核のスイッチをもたせてみようぜ 将来的に警察機関の警ら業務を任せるロボットを
作るには「自衛」をプログラムする必要性が出てくる
そうすると「自分が破壊される可能性」について
まずは定義、認識させる必要性が出てくる
次に、そのような局面に遭遇するイベントが発生した際
人間を傷つけない方法で、破壊される事を極力避ける様
判断して行動するようプログラムする事になる
これら一連のプログラミングのどこかでバグや
想定漏れがあると、ロボットが自己防御のために
人間を傷つける事例が発生する可能性が生ずる
0663ミルテホシン(庭) [US]2020/09/14(月) 07:58:42.30ID:fxYhW2x00
0664コビシスタット(SB-iPhone) [JP]2020/09/14(月) 08:19:12.59ID:dhY6cVNZ0
>>664
日本マイクロソフトの「りんな」でしょ
先行して米MSが同じようなことやったらレイシストになって中止されたのに日本のネットときたら 0666エンテカビル(神奈川県) [US]2020/09/14(月) 08:41:07.86ID:c7OQlYL00
ビッグデータの一部に海兵隊の教官をとりいれやり直した結果
ＡＩ「私は人種差別はしない、イタ公、クロンボ、ユダヤ人、皆等しく価値がない、
屑だ！」
0667ホスカルネット(愛媛県) [IE]2020/09/14(月) 08:41:37.16ID:+Pu5nudN0
ＡＩ「ポリこれ怖いねん」
0668バラシクロビル(千葉県) [JP]2020/09/14(月) 08:53:19.03ID:pqYvCdqm0
おう、Ｖﾁｭｰﾊﾞｰのキズナアイってあるやろ
あれ、最初さＡＩが喋ってると思っててワクワクして見てたんよな・・・ふざけたミスリードよな、今でも怒よ(´・ω・｀)
荒廃した世界を、人類を再生するそれが私の使命
力を持ち過ぎたもの秩序を破壊するもの
プログラムには、不要だ
>>665
アメリカだとネオナチみたいになって、日本だと腐女子か。
育てる環境て大事なんだなあ（シミジミ 0672エムトリシタビン(愛知県) [US]2020/09/14(月) 09:13:22.97ID:ntDrdltz0
0673リバビリン(茸) [AU]2020/09/14(月) 09:15:49.61ID:xx+7VN4R0
とりあえずロボットアームでも接続してみたい
