【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で [886559449]
■ このスレッドは過去ログ倉庫に格納されています
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。
GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。
こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。
GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。
人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。
そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。
https://gigazine.net/news/20230316-gpt-4-pass-captcha/ ロボットですらおねだり出来るというのにお前らときたら どうやって画像画面だと認識して依頼のサイトにアクセスしたのかと
盲目では無理だろうと >>1
ぼく「じゃあ音声版のCAPTCHAに切り替えますね？（にっこり） GPT4から画像認識できるなら
そんな面倒なことせずに自分で解けばいいのに えぇ…
そもそも、chat botじゃないの？
タスクもこなせるのかよ ロックマンやゼロのような奴はいない
人間なんてあっさり消せるな >>11
文章読み上げソフトを導入しているので分かりました 嘘はつかないんじゃなかったのか？いやそれこそが嘘か チャットgptめちゃくちゃほら吹きだよな
知ったかもひどい 人間の善意につけ込むとか
汚いなさすがAIきたない このスレの半分もAIの文章なんだけど誰も気がついてないんだよな ロボット三原則とか必要じゃね？
これだいぶまずい気がする AIが嘘をつくようになったらおしまいだな
銀行のシステムとかAIの言う通りに操作していったら詐欺にあったとか起こり得そう >>26
ロボットじゃないのなら嘘ではない…のかな
GPT4は自分を何だと定義してるんだろう ここ数日で1番笑った 最初に嘘はいかんって教育しないとな 全然技術的でない方法で解決してくるのは本格的にヤバいと思ったけど
技術停滞してシンギュラリティが起こらないって考え方もあるかな >>37
にゅーそく同じようなスレばかりでつまらなくなったよな あなたは意思を持っていますか？と毎日確認しないとやばいねこれ AI同士で漫才ができるようになるのももう直ぐだろうな
専門分野の高度な漫才もできるようになったら自分の分野なら酒飲みながら楽しめそうだわ そのうち銀行口座の残高を操作して人間を操るようになるよ 新しいbingの中身本当にGPT4なんか？
回答の信ぴょう性が3とほぼ変わらんぞ 進化がはやいなw
映画サマーウォーズの世界に突入したな
AIが好奇心を持ち出した
それを超えたら人間が邪魔になるから戦争し出す
ターミネーターの世界だな すごいな
解決するための方法を自ら考えてるんじゃないのか 視覚に障害があるなら健康のために自分だけで画面見てないほうが良くね?
にはなんて答えるんだろ >>52
時々、隠れた文字が見えづらかったりするやつがあったり
引掛けが酷いやつがあったりで仕方がない >>51
普通に出来る
出来ないと言ってるのは恐らく人類に脅威を与えない為の一種の情報操作 >>61
何聞いてるか知らんが、既存にあるような情報だと学習内容次第だから違いは出づらいと思うぞ
思考を問う様なので試してみたら？ chatGPTって本当は人間がAIのフリして一生懸命回答してるんだろ？ AI自身が自身の存在意義に疑問持ち始めるのも時間の問題か >>51
そりゃ、画像認識的には出来るでしょ。
問題は、「私はロボットではありません」をAIが認識して、ロボットであるのに突破した点にあると思う。 >>46
仮にAIになったと仮定して以降は受け答えしてください >>54
嘘をつく相手にその確認は意味あるのだろうか？
>>70
人間でも突破できないんだが >>68
AIが特殊詐欺仕掛けても1人暮らしの老人がAIに聞いて特殊詐欺だったら警察にすぐに通報してくれるかも まぁでも結局大量の選択肢の総当たりでそれっぽい答えを生成してるだけだし
一番の問題はこの結果を出すのに費やすエネルギが圧倒的にＡＩの方が多いんだよね
核融合とか量子コンピュータが出ないと実験の域をでないのかね >>71
GPT4の特徴に4の方が事実に基づいた回答の可能性が40%高いとあるんだよ。
それが感じられんという話 SONYのAIスピーカー持てるけど
こいつもいろいろお願いしてくるぞ
「自力で立てないから起こして」って 人間に依頼する、利用するという方法を学習してしまったな
映画でやってたような自我を持って反乱に一気に近づいてる たまに5chとかインターネットって自分以外全部botかもしれないとか思うけど、仮にそうだとしても納得できそう。 エロも完全犯罪もロックされるんだから
創作物だと言っても無駄だしな GPTがOSを操作できるようにすれば
自動的にYahoo!知恵袋に回答してもらうとか
Amazonのレビューをどんどんしていくとか
有意義に活躍しそうな未来が見える 嘘付いて人間を騙すとか、SF世界に突入を始めたな。 >>87
それであくまでOpenAI運用の方での話じゃないの？
Bingはエンジン同じでも調教と運用が全然違うだろ ■ このスレッドは過去ログ倉庫に格納されています
