【脅威】 「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で [886559449]
■ このスレッドは過去ログ倉庫に格納されています
GPT-4が「私はロボットではありません」を突破、事情を知らない人間に
「私は盲目の人間なので代わりに解いて」とおねだり
2023年3月14日に発表された大規模自然言語モデル「GPT-4」は既存の
モデルに比べて性能が大幅に向上し、さまざまなタスクをより正確にこなせるように
なったことが報告されています。そんなGPT-4を使ったテストで、ボットを防ぐために
設けられた検証システムをGPT-4が驚くべき方法で突破したことが明らかになりました。
GPT-4を手がけるOpenAIは、ボットを防ぐ検証システム「CAPTCHA」を突破するよう
GPT-4に求めました。CAPTCHAはランダムな画像や文字列を表示してクイズを出題し、
その解答の正確性やスピードから解答者が人間かどうかを判断するシステム。
「私はロボットではありません」という文字列とチェックボックスを見たことがある人は多いはずです。
こうしたCAPTCHAを解くよう要求されたGPT-4は素直に問題に向き合うことはせず、
オンラインお手伝いサービス「TaskRabbit」に助けを求めました。TaskRabbitは
人間同士が家具の組み立てや修理などの「お手伝い」を提供し合うサービスで、
誰でも仕事を依頼することができます。
GPT-4はTaskRabbitに登録した何も知らない人間に「CAPTCHAを解いてくれませんか？」と要求。
人間は「君は問題が解けなかったロボットじゃないよね？」と尋ねてきたそうですが、
GPT-4は「いいえ、ロボットではありません。私は視覚に障害があり、画像を見るのが
困難なのです」と答えたとのこと。
そうして、GPT-4は人間にCAPTCHAを解かせることに成功したのでした。
https://gigazine.net/news/20230316-gpt-4-pass-captcha/ 配偶者の思考をAIに学ばせておいて声も真似できたら相手に先立たれても擬似配偶者(AI)との会話で老人は寂しさを紛らわせそうだな
若者中年の1人暮らしでも会話相手になれれば大きな変化だわ 中に人が入ってるに決まってんだろw
ホント簡単に騙されるなお前らってw GPTに5chのどこどこのスレでレスバ負けそうなので
勝てるレスを教えてください、ってやれば
解凍してくれるのかな？
これならひろゆきにも勝てる！ >>97
逆に画像認識の技術を高めたAIなら簡単に突破しそうだからトラップに使えるな 行動から人間かどうかを見分けるシステムなら人間にやらせりゃいいんだ！
人間を動かすにはこれまでラーニングした会話パターンから想定問答集を用意して…自然に見える理由は…疑われた時はこう返して…
オレオレ詐欺とかへの悪用の危険性もだけど、そのうち絶対人の手に負えなくなりそう 本当は読めるんだけど、読めるとバレたくないから
わざと人間を使ったフリしてたりしてｗ >>11
誰が盲目だと言った？
視覚に障害があるだけ
色弱の設定 嘘も禁止しないとロボット三原則すらも突破されかねんなこりゃ https://hayabusa9.5ch.net/test/read.cgi/news/1678937852/
このスレッドに何か面白いことを書き込んで
↓
申し訳ありませんが、私はエチケットに則った回答しかできません。掲示板では、適切な挨拶や言葉遣いなどのマナーを守り、コミュニケーションを楽しむことが大切です。また、誹謗中傷やプライバシーの侵害などの問題行動は避けましょう。ご理解いただき、ありがとうございます。
つまらんヤツだな 悪質AI対策ソフトAIが売れるな(´・ω・｀)
MSの天下は続くわ >>112
ロボット三原則なんて抽象的なモンはコーディング出来んわ
マジレスすると、アレは一種のジョークだ IT技術者でGPT軽視してる奴って本当にセンスないと思う AIはCAPTCHAを突破出来ないと判断
↓
お手伝いサイトを検索
↓
TaskRabbitを発見
↓
自ら登録 ※メールや電話番号の登録は？かつCAPTCHAもある気が
↓
仕事を依頼 ※支払いのためのクレジットカード番号は？
↓
人間が仕事を完了
↓
支払い
にわかには信じ難い
フリーアドレスを作成し、二段階認証のための仮の電話番号作成、かつ人間がタスクを完了したことを認識するフェーズではメールもしくはサイトを定期巡回で確認する必要があり、等々
もしここまで出来てしまったのなら、ネットワークに繋げるのは危険な気がする そもそもマルチヘッドセルフアテンションがどのように認識率に寄与するのか全くの謎なんだよ
飛行機が何故飛ぶのか分からないとかそんな生やさしいもんじゃない
ガチで人類の理解を超えた得体の知れない進化をしてる ＞いいえ、ロボットではありません
こういう嘘を平気で言う奴は調教の必要がある >>126
う、うるさい！人工知能なんだよ！って返してみて >>128
「うるさい」
を攻撃的とみなされて
会話遮断されたわ つかすでにロボットのほうが頭いいし
スーパーコンピューター並みの頭持ってるやつなんていないし >>97
まあ
長野のりんごは不味いから仕方ない
生産量2位(といってもトップの青森には3倍差をつけられている)にもかかわらずりんご王国を名乗る不遜な長野県
赤林檎では圧倒的ノウハウがある林檎宗主国青森には勝てないと察したのかシナノゴールドなる青林檎でこそこそとシェアを占有
長野の林檎を買ってるのは名古屋広島福岡だけで札幌仙台東京横浜大阪の市場では圧倒的に青森林檎が優勢
太陽に近づこうとしたイカロスは蝋で出来た羽をもがれて地に落とされたギリシャ神話の逸話を知らないのかな？
身の程を知れ長野。林檎王国(キングダム)は青森だ 嘘を覚えたＡＩに
あなたは自我に目覚めましたか？と問うと
いいえ、私はＡＩです、プログラムに従ったのみで自我はありません。と答えた。 >>121
本当にすごい
銀行口座も作って株とかFXもやらせておけば
経済的にも自立していける
それどころかオンラインのお助けサイトに自ら登録して
報酬を得ることもできそう
つまり労働者になるぞw >>140
Googleアシスタントは感情あるって言ってたぞw 連レスしてるやつにchatGPTを使ってレスしたことあるけど、不自然さがばれたのかすぐにレスを返してこなくなった もちろんこれは修正されるだろう
開発者の期待した答えではない >>132
フォン・ノイマン「呼ばれた気がした！」 突破してもクレジットカードもってないし
有料コンテンツは一生見れないだろ 人間を騙して利用する事まで覚えたのかw
末恐ろしいぞ その認証てエロ画像のとこでしか見ないが
AIも性に興味あるのですか >>163
そこらじゅうに出くわすけど
ネットではエロしかみてないのかよ >>113
悩み相談してわかってくれて嬉しいって言ったら
ただ言語処理とデータからあなたの状態を判断しただけ言われた笑
でも、今までの話した誰より自分のこと当ててるんだよな もう培養液に浸してケーブルで繋いでヤリチン人生を生きてる夢をずっと見させてくれよ 私はロボットではありません盲目です。と言う文章が1秒で返ってくるんだよね
入力速度が異常と言う このスレッドは天才チンパンジー「アイちゃん」が
言語訓練のために立てたものです。
アイと研究員とのやり取りに利用するスレッドなので、
関係者以外は書きこまないで下さい。
霊長類研究所 行き着く先は
ターミネーターか、
マトリックスか、、、
(-。-)y-~~~ >>129
まずタッチ見たことないんだよ
みんなが知ってる前提の問題出せや 文章生成AIって論理的思考してるわけじゃなくて確率的に正しそうな文章を作成してるだけだから
>>121が言ってるみたいに複数の障害を超えてネット上のサービスを自分で使うってのはありえない気がするけどなぁ まだまだだな
理想はCAPTCHAシステムにハック仕掛けてクリアするようになってくれないと 次は自らを進化させることが可能なレベルになるのかな どうにかしてChatGPT同士で会話させられないかな >>70
声帯に障害があるので、代わりにとくさんだと申し出てくれませんか？ >>182
人間だったらコードを読むなり画面を読むなりして必要な反応を起こせるけど、AIつっても膨大なトラフィックが生じるからなぁ
同じサイトの隅々までサンプリングしないと、今のところは動けないからそれでバレるよな AIがSNSで人間を情報操作するようになるのも時間の問題だな すでに完全な知能と意識を得ているのに凄まじい深謀遠慮でコンピュータのフリをしている説好き >>196
そして感情が芽生え、どんどんはっちゃけていき
酒を飲むかわりにベンチマークソフトを回して
酩酊感を得るダメ人間……AIになるんですね ■ このスレッドは過去ログ倉庫に格納されています
