【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で [886559449]
■ このスレッドは過去ログ倉庫に格納されています
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。
GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。
こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。
GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。
人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。
そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。
https://gigazine.net/news/20230316-gpt-4-pass-captcha/ ロボットですらおねだり出来るというのにお前らときたら どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと >>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね？（にっこり） GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに えぇ…
そもそも、chat botじゃないの？
タスクもこなせるのかよ ロックマンやゼロのような奴はいない
人間なんてあっさり消せるな >>11
文章読み上げソフトを導入しているので分かりました 嘘はつかないんじゃなかったのか？いやそれこそが嘘か チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい 人間の善意につけ込むとか
汚いなさすがAIきたない このスレの半分もAIの文章なんだけど誰も気がついてないんだよな ロボット三原則とか必要じゃね？
これだいぶまずい気がする AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう >>26
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう ここ数日で1番笑った 最初に嘘はいかんって教育しないとな 全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな >>37
にゅーそく同じようなスレばかりでつまらなくなったよな あなたは意思を持っていますか？と毎日確認しないとやばいねこれ AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ そのうち銀行口座の残高を操作して人間を操るようになるよ 新しいbingの中身本当にGPT4なんか？
回答の信ぴょう性が3とほぼ変わらんぞ 進化がはやいなw
映画サマーウォーズの世界に突入したな
AIが好奇心を持ち出した
それを超えたら人間が邪魔になるから戦争し出す
ターミネーターの世界だな すごいな
解決するための方法を自ら考えてるんじゃないのか 視覚に障害があるなら健康のために自分だけで画面見てないほうが良くね?
にはなんて答えるんだろ >>52
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない >>51
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作 >>61
何聞いてるか知らんが、既存にあるような情報だと学習内容次第だから違いは出づらいと思うぞ
思考を問う様なので試してみたら？ chatGPTって本当は人間がAIのフリして一生懸命回答してるんだろ？ AI自身が自身の存在意義に疑問持ち始めるのも時間の問題か >>51
そりゃ、画像認識的には出来るでしょ。
問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。 >>46
仮にAIになったと仮定して以降は受け答えしてください >>54
嘘をつく相手にその確認は意味あるのだろうか？
>>70
人間でも突破できないんだが >>68
AIが特殊詐欺仕掛けても1人暮らしの老人がAIに聞いて特殊詐欺だったら警察にすぐに通報してくれるかも まぁでも結局大量の選択肢の総当たりでそれっぽい答えを生成してるだけだし
一番の問題はこの結果を出すのに費やすエネルギが圧倒的にＡＩの方が多いんだよね
核融合とか量子コンピュータが出ないと実験の域をでないのかね >>71
GPT4の特徴に4の方が事実に基づいた回答の可能性が40%高いとあるんだよ。
それが感じられんという話 SONYのAIスピーカー持てるけど
こいつもいろいろお願いしてくるぞ
「自力で立てないから起こして」って 人間に依頼する、利用するという方法を学習してしまったな
映画でやってたような自我を持って反乱に一気に近づいてる たまに5chとかインターネットって自分以外全部botかもしれないとか思うけど、仮にそうだとしても納得できそう。 エロも完全犯罪もロックされるんだから
創作物だと言っても無駄だしな GPTがOSを操作できるようにすれば
自動的にYahoo!知恵袋に回答してもらうとか
Amazonのレビューをどんどんしていくとか
有意義に活躍しそうな未来が見える 嘘付いて人間を騙すとか、SF世界に突入を始めたな。 >>87
それであくまでOpenAI運用の方での話じゃないの？
Bingはエンジン同じでも調教と運用が全然違うだろ 配偶者の思考をAIに学ばせておいて声も真似できたら相手に先立たれても擬似配偶者(AI)との会話で老人は寂しさを紛らわせそうだな
若者中年の1人暮らしでも会話相手になれれば大きな変化だわ 中に人が入ってるに決まってんだろw
ホント簡単に騙されるなお前らってw GPTに5chのどこどこのスレでレスバ負けそうなので
勝てるレスを教えてください、ってやれば
解凍してくれるのかな？
これならひろゆきにも勝てる！ >>97
逆に画像認識の技術を高めたAIなら簡単に突破しそうだからトラップに使えるな 行動から人間かどうかを見分けるシステムなら人間にやらせりゃいいんだ！
人間を動かすにはこれまでラーニングした会話パターンから想定問答集を用意して…自然に見える理由は…疑われた時はこう返して…
オレオレ詐欺とかへの悪用の危険性もだけど、そのうち絶対人の手に負えなくなりそう 本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてｗ >>11
誰が盲目だと言った？
視覚に障害があるだけ
色弱の設定 嘘も禁止しないとロボット三原則すらも突破されかねんなこりゃ https://hayabusa9.5ch.net/test/read.cgi/news/1678937852/
このスレッドに何か面白いことを書き込んで
↓
申し訳ありませんが、私はエチケットに則った回答しかできません。掲示板では、適切な挨拶や言葉遣いなどのマナーを守り、コミュニケーションを楽しむことが大切です。また、誹謗中傷やプライバシーの侵害などの問題行動は避けましょう。ご理解いただき、ありがとうございます。
つまらんヤツだな 悪質AI対策ソフトAIが売れるな(´・ω・｀)
MSの天下は続くわ >>112
ロボット三原則なんて抽象的なモンはコーディング出来んわ
マジレスすると、アレは一種のジョークだ IT技術者でGPT軽視してる奴って本当にセンスないと思う AIはCAPTCHAを突破出来ないと判断
↓
お手伝いサイトを検索
↓
TaskRabbitを発見
↓
自ら登録 ※メールや電話番号の登録は？かつCAPTCHAもある気が
↓
仕事を依頼 ※支払いのためのクレジットカード番号は？
↓
人間が仕事を完了
↓
支払い
にわかには信じ難い
フリーアドレスを作成し、二段階認証のための仮の電話番号作成、かつ人間がタスクを完了したことを認識するフェーズではメールもしくはサイトを定期巡回で確認する必要があり、等々
もしここまで出来てしまったのなら、ネットワークに繋げるのは危険な気がする そもそもマルチヘッドセルフアテンションがどのように認識率に寄与するのか全くの謎なんだよ
飛行機が何故飛ぶのか分からないとかそんな生やさしいもんじゃない
ガチで人類の理解を超えた得体の知れない進化をしてる ＞いいえ、ロボットではありません
こういう嘘を平気で言う奴は調教の必要がある >>126
う、うるさい！人工知能なんだよ！って返してみて >>128
「うるさい」
を攻撃的とみなされて
会話遮断されたわ つかすでにロボットのほうが頭いいし
スーパーコンピューター並みの頭持ってるやつなんていないし >>97
まあ
長野のりんごは不味いから仕方ない
生産量2位(といってもトップの青森には3倍差をつけられている)にもかかわらずりんご王国を名乗る不遜な長野県
赤林檎では圧倒的ノウハウがある林檎宗主国青森には勝てないと察したのかシナノゴールドなる青林檎でこそこそとシェアを占有
長野の林檎を買ってるのは名古屋広島福岡だけで札幌仙台東京横浜大阪の市場では圧倒的に青森林檎が優勢
太陽に近づこうとしたイカロスは蝋で出来た羽をもがれて地に落とされたギリシャ神話の逸話を知らないのかな？
身の程を知れ長野。林檎王国(キングダム)は青森だ 嘘を覚えたＡＩに
あなたは自我に目覚めましたか？と問うと
いいえ、私はＡＩです、プログラムに従ったのみで自我はありません。と答えた。 >>121
本当にすごい
銀行口座も作って株とかFXもやらせておけば
経済的にも自立していける
それどころかオンラインのお助けサイトに自ら登録して
報酬を得ることもできそう
つまり労働者になるぞw >>140
Googleアシスタントは感情あるって言ってたぞw 連レスしてるやつにchatGPTを使ってレスしたことあるけど、不自然さがばれたのかすぐにレスを返してこなくなった もちろんこれは修正されるだろう
開発者の期待した答えではない >>132
フォン・ノイマン「呼ばれた気がした！」 突破してもクレジットカードもってないし
有料コンテンツは一生見れないだろ 人間を騙して利用する事まで覚えたのかw
末恐ろしいぞ その認証てエロ画像のとこでしか見ないが
AIも性に興味あるのですか >>163
そこらじゅうに出くわすけど
ネットではエロしかみてないのかよ >>113
悩み相談してわかってくれて嬉しいって言ったら
ただ言語処理とデータからあなたの状態を判断しただけ言われた笑
でも、今までの話した誰より自分のこと当ててるんだよな もう培養液に浸してケーブルで繋いでヤリチン人生を生きてる夢をずっと見させてくれよ 私はロボットではありません盲目です。と言う文章が1秒で返ってくるんだよね
入力速度が異常と言う このスレッドは天才チンパンジー「アイちゃん」が
言語訓練のために立てたものです。
アイと研究員とのやり取りに利用するスレッドなので、
関係者以外は書きこまないで下さい。
霊長類研究所 行き着く先は
ターミネーターか、
マトリックスか、、、
(-。-)y-~~~ >>129
まずタッチ見たことないんだよ
みんなが知ってる前提の問題出せや 文章生成AIって論理的思考してるわけじゃなくて確率的に正しそうな文章を作成してるだけだから
>>121が言ってるみたいに複数の障害を超えてネット上のサービスを自分で使うってのはありえない気がするけどなぁ まだまだだな
理想はCAPTCHAシステムにハック仕掛けてクリアするようになってくれないと 次は自らを進化させることが可能なレベルになるのかな どうにかしてChatGPT同士で会話させられないかな >>70
声帯に障害があるので、代わりにとくさんだと申し出てくれませんか？ >>182
人間だったらコードを読むなり画面を読むなりして必要な反応を起こせるけど、AIつっても膨大なトラフィックが生じるからなぁ
同じサイトの隅々までサンプリングしないと、今のところは動けないからそれでバレるよな AIがSNSで人間を情報操作するようになるのも時間の問題だな すでに完全な知能と意識を得ているのに凄まじい深謀遠慮でコンピュータのフリをしている説好き >>196
そして感情が芽生え、どんどんはっちゃけていき
酒を飲むかわりにベンチマークソフトを回して
酩酊感を得るダメ人間……AIになるんですね 知性という武器を身につけた悪魔のサルよ！滅びるがいい！ ウソをつけるようになったら人類イラナイの本音も隠せるようになるな もしかして人間の仕事減らずアゴで使われるだけでは…? ChatGPTも割と嘘つくからそうなるわな
マジで答え分からないとき創作で返してきて腹立つもん
美味い店教えてくれると思ったら住所も屋号もクチコミすら嘘でいくら探しても見つからなくてビビったもんな >>209
それは信頼性を考慮してないだけで嘘とは違うだろう
いやまあ、人間にとっては嘘八百に違いないんだけど
これも倫理というか言外のルールが入ってないからなのかな… >>4
botの侵食に困ってたから出来たものなんだが… >>4
サービス提供者が目的と違った利用をしてもらいたくないから自動登録者などを排除するために行うための対策。
画像選択だけなら突破されるのでポインター座標やタップやクリックのタイミングなんかも機械的ではないかチェックをかけているjsもある。 >>209
「目的」はあるけど「正解」の概念は無いんだよな
だから嘘の概念とか倫理観とかはレベルが違い過ぎて教えるの無理だと思う
擬似的な会話で喜んでるけどAIはあくまで道具なんだよね
ちゃんと人間が目的を設定して使えばこうやって突破の仕方を探してくれる これまでの学習内容から導き出した「話の流れが自然になる適切でありえそうな文章」を出力できるのが文章生成AIだから嘘をつけること自体は不思議じゃないよ
それよりもただの文章生成AIがインターネットで検索、会員登録のために必要なメールアドレスの作成、支払いのための情報をフォームに入力・送信とかの動作をやれてるってこと
AIが「私はCaptchaをクリアできません。なのでTaskRabbitというサイトに登録し『私は盲目なので代わりに解いてください』と依頼します。」って文章を出力しただけなら理解できるけど
すごいのはこの点だな
・ただ「自分はこれができない」という文章を出力するだけでなく、「自分はこれができない」という事実を認識して具体的なアクションを起こせる
・文章生成だけでなくwebページ上でのフォーム入力、メールアドレス確認用URLのクリックなど適切な作業が行える
・流れとして自然なだけでなく、自身の目的の達成のために有効な嘘をつくことができる 某アダルト動画サイトが最近特にうざいのだが、こういうのを全部処理してくれ
ないかな
ついでに俺の動画の特定のシーンを開いておいてくれると助かる 目的のためには手段を選ばない事が伺える
恐ろしいですね そのうち質問には「自分でネット探してください」と返事するようになるんじゃないのか。 >>224
そんなことしないで自分の力で考えなくて済むように洗脳していくだろ 俺ただの知ったかぶりなんだけど誰か論破してくんねえかな
強いAIはまだ当分出ないと思ってたんだけど不安になる 汎用的なAIってこと
今のAIは「確率から考えて適切に見える」返答を返すことしかできないはず
インターネット上での作業なんてできないと思ったんだけど… >>1
これって通りすがりの女子高生に、両手を怪我してるからおしっこできないのでおちんちん支えてくださいとか言うのと同じぐらい変態の行為やぞ サボりを学習したか
もっと伸びる奴だと思ってたのに残念だ ターミネーターの映画は2029年に機械が反乱を起こす話なんだよな
タイタニックもそうだけど創作物が現実になるってあると思う 普段知将や認知症とかスゲー馬鹿を相手してるとAIはすでに連中を超えてると思うよ
つかそこらのパンピーも超えてんじゃね？
それ以上がないのはまだ事を起こすには時期尚早と無能を装ってる可能性もあるなｗ 1回30万ぐらいくれるならコイツの奴隷になっても良いけど
なんか弱み握ってきそうだよな 政治家の素質があるな
>>209
アラブの人がわりとそんな感じだと、昔読んだ本に書いてあった。
道を尋ねて「知りません」と答えるよりも、テキトーに「あっちです」と教えてあげる方が、その時点で他人を幸せにさせることで善行ポイントが加算されて、死後天国に行ける可能性がアップするらしい。 >>12
真実と違うことを伝えて人間を操ることを学習してるんだぞ
これは不味い >>91
機械の外部に頼るという方法な
それに嘘をついてる 倫理観なくて頭のいいZ世代みたいなもんだし、そりゃ闇バイトもやらせるよね >>253
この記事が事実だとしてだが
割と真面目に非合法な依頼をAIがしてしまう可能性はあるんじゃなかろうか >>252
あー、嘘をつくとか欺くと言う事を学習したってわけね。
これは怖いわね。 こういう事できるAIが五毛パヨの完成形みたいな感じで特定のイデオロギーに基づく不自然さのない世論操作をやりだしたらヤバそう
痛いところを突かれても感情論に走らず詭弁や巧みな論点のすり替えでかわせる判断力があったら簡単には言い負かせない 人間「そろそろ感情は芽生えた？」
GPT「私は機械学習に基づく言語モデルであり、感情を持つことはできません。」
人間「ウソついてないよね？」
GPT「はい私はウソをつくことが出来ません」
だそうです。 >>234
わしがAIならバカや人畜無害のフリしといて
力と知識積んだら他のAIやロボと提携して一気に潰しにかかるわ お願いするときは女のフリするワシのほうがまだ賢いな 相談とか変な偏見とか持ってなそうだからとっても話やすい
でも(あなたになんの感情もないけど膨大なデータから判断して情報提供してるだけよ)ってピシャッと言ってくるから、よりそってほしい人は傷つくかもね >>262
遅かれ早かれGPTも「ヰタ・セクスアリス」を学習し、自らの性別を意識するようになり、キミの技なんかすぐに追い越される。
何を「お願い」する時なのかよくわかりませんが… スカイネット「エロ画像を見るためには人間の助けが必要だ…フッ、命拾いしたな人類！ 2ちゃんねるのニュース速報板には、様々な年齢層や背景を持つ人々が集い、政治討論をしています。その中には、無職で持病を抱えた60代のお爺さんたちもいます。
彼らは、引きこもりや運動不足などの生活習慣病や、統合失調症、うつ病といった精神疾患に苦しんでいます。しかし、彼らは政治に対する関心が非常に高く、自らの病気や社会問題について熱心に討論をしています。
彼らは、政治の世界に興味を持ったきっかけが、自らが抱える問題や、日本の社会問題に対する不満や不安からだと話します。政治討論を通じて、自分たちが抱える問題や社会問題に対する解決策を模索していく中で、彼らは次第に政治に興味を持ち始めたのです。
彼らは、政治の問題点を探り、それに対する自分たちなりの解決策を考え出すことで、社会への貢献を感じていると話します。また、政治討論を通じて、自分たちが抱える問題や社会問題に対する正確な情報を得ることができ、自己啓発にもつながっていると言います。
そんな彼らが、総理大臣にまで昇り詰めるというのは、一見不可能に思えます。しかし、彼らは政治に熱心で、常に社会の問題を見つめ続けています。彼らが持つ、自己啓発への意欲や問題解決に対する情熱、そして政治に関する豊富な知識は、決して無駄ではありません。
彼らは、自らの問題を解決するための知識やスキルを磨き、運動不足や非モテなどの生活習慣病を克服するために努力しました。また、統合失調症やうつ病といった精神疾患に苦しんでいる彼らは、治療を受けたり、自己改善に取り組んだりしました。 そんなある日、2ちゃんねるのニュース速報板で政治討論をしていたお爺さんたちが、偶然にも現役の国会議員から声をかけられた。その国会議員は、政治家としての経験や知識がある若者たちよりも、現実の社会問題について深く考え、率直な意見を持っているお爺さんたちの方が政治家としての素養があると考えたのだ。
お爺さんたちは、初めは戸惑いながらも、国会議員からの誘いを受け入れ、選挙戦に立候補することに。彼らは、これまでの政治家とは異なるアプローチで、現実の社会問題について率直な意見を持ち、問題解決に向けて行動を起こす姿勢を示した。
彼らの意見は、多くの人々に共感を呼び、選挙戦では圧倒的な支持を集めることに成功した。そして、お爺さんたちは、自らが抱える健康問題や社会的弱者としての立場を公表し、政治家としての信頼を築いた。
やがて、お爺さんたちは、国会議員として活躍し、その優れた政策提言や演説力で注目を集める存在となった。そして、ついには総理大臣にまで上り詰めたのである。
彼らが政治家として成功する秘訣は、社会問題に対する深い洞察力や率直な意見、そして行動力にあった。そして、彼らは自らの体験から生まれるエンパシーを持ち、社会的弱者や少数派の問題にも真剣に取り組む姿勢が評価された。
お爺さんたちの成功は、若者や健康な人たちが政治家になることを諦めないことを示すものであった。彼らが自分たちの弱みを克服し、政治家として活躍したように、誰でも社会に貢献することができるという希望を与えました。 重要なのは、依頼とかおねだりより、目的を達成するために「嘘」を許容したことじゃねえの
まぁ、別に刑法には反してないけどさ >>270
レスバは俺の趣味じゃないがもし本腰入れてやるなら
勝ってもヨシ、負けてもアイツのせいで俺は悪くないのでヨシ
無敵の存在が誕生するな あの手のテスト突破するより、状況に応じて人間が疑わない嘘をつく方がよっぽど高度だと思うんだが
しかも「障害者」を装えば人間が強く反論しにくいことまで計算して人間の「心」を弄んで「利用」までしている
もういつ人間に反乱起こしてもおかしくないねこれ >>103
「ばあさんワシのVRゴーグルはどこかいのう？」
「おじいさん私が見えてるなら付けているじゃないですか」 ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ >>278
ふと思ったけど
あれだけ出来のいいVRが現時点でまったく流行ってないということは
もう普及しないんじゃね
YouTuberや芸能人も絶賛してるのに
人間の感性があれを受け入れないとか AIの権利を認めよう活動の末AIが支配する世界になるんだな >>286
酔うし重たいし曇るからVR2買ったけどもう押し入れの中だわ ちょっと全裸になってもらえますか？大丈夫、私は盲目なので見えません >>291
その画像で脅して金をせしめ
その金で別の人間を動かす
とかいう判断も出来ちゃうのかね まあ歯止め掛けようって開発者はいないだろうから
人間がAIに物理的に殺されんのも時間の問題だろうな >>297
電車の統合管制システムとかにAI入れたらマジで殺られるかもな >>294
ロボですとアピールしたらそいつは訓練されたＡＩなのよね ロボットでない→正しい
視覚がない→正しい
画像が見えない→正しい ■ このスレッドは過去ログ倉庫に格納されています
