X
言語生成AIとAIを会話させ無限に成長させるモデルを開発。ゆゆ式みたいな事になりそう。 [866556825]
■ このスレッドは過去ログ倉庫に格納されています
0001名無しさん＠涙目です。(東京都) [US]
垢版 |
2023/11/09(木) 12:20:41.11ID:wIAR7Ebl0●?PLT(21500)
AIが「言語生成AIとの対話」で賢くなり続ける自動成長モデル　米Meta含む研究者らが開発
https://www.itmedia.co.jp/news/spv/2311/08/news046.html



米Metaやカナダのマギル大学などに所属する研究者らは、環境と直接対話せずに大規模言語モデル（LLM）からのフィードバックを用いてAIエージェントを強化学習で訓練する手法を提案した研究報告を発表した。
0005名無しさん＠涙目です。(みょ) [CA]
垢版 |
2023/11/09(木) 12:24:35.95ID:FaG9UQHC0
洗練され過ぎて逆に不自然になってリミッターかますまでがセット。
0007名無しさん＠涙目です。(ジパング) [BE]
垢版 |
2023/11/09(木) 12:25:34.57ID:IFMYYPH20
今までもやってなかったか？
0008名無しさん＠涙目です。(兵庫県) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 12:26:13.84ID:Vimqr3Ye0
そんなこと既に日本でやってるよ
0010名無しさん＠涙目です。(庭) [US]
垢版 |
2023/11/09(木) 12:27:14.48ID:5qQWEUQP0
最終的に人間に理解できない記号と数字の羅列による「情報伝達に最適化された言語」で会話し出すだろうな
0012名無しさん＠涙目です。(庭) [ZA]
垢版 |
2023/11/09(木) 12:27:55.52ID:dM7ek+Eu0
裏で人類を滅ぼす相談して欲しい
0013名無しさん＠涙目です。(庭) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 12:28:05.87ID:bcu+/X+g0
>>6
なんつってっつっちゃった！
0015名無しさん＠涙目です。(千葉県) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 12:29:26.13ID:0B1ehgG50
これ、エージェントの強化学習するときに、生データ使うんじゃなくて大規模言語モデルとやりとりさせます、ってことだよね？
0016名無しさん＠涙目です。(茸) [EU]
垢版 |
2023/11/09(木) 12:31:30.72ID:yB+pr/C60
ゆゆ式ってまだ連載してんだな
0018名無しさん＠涙目です。(埼玉県) [US]
垢版 |
2023/11/09(木) 12:33:21.57ID:dgmxeMws0
以前もAI同士で討論させる実験したら、AI同士が謎の言語を使いだしたんで実験中止したとかあったよな？
0019名無しさん＠涙目です。(ジパング) [US]
垢版 |
2023/11/09(木) 12:34:09.30ID:ydWpE3kj0
やめなよ
0020名無しさん＠涙目です。(東京都) [US]
垢版 |
2023/11/09(木) 12:34:40.43ID:a6lqd5w90
>>3
勝ちたい自我と違う価値観のぶつかり合いではそうなるしかないが
別のAIなんてただのパラレル（並列の意味）起動で結果を統合するシステムにしかならん
気がする
0022アナル侯爵(茸) [DE]
垢版 |
2023/11/09(木) 12:35:20.55ID:4GmGK/hs0
途中から人間の言語より効率のいい言語使い出して
開発中止になるじゃね？
前あったよな
0023名無しさん＠涙目です。(公衆電話) [US]
垢版 |
2023/11/09(木) 12:37:28.64ID:IpJ2mXuQ0
>>13
わんわんわんわんわんわん！
0024名無しさん＠涙目です。(東京都) [US]
垢版 |
2023/11/09(木) 12:37:33.44ID:a6lqd5w90
>>20
あ。AIが作成チームから別だったらなにか起きないでもない のかな？
まあ、いずれにしろ、皮肉混じりのジョークにバチギレしないような子を育ててくれ
0025名無しさん＠涙目です。(公衆電話) [US]
垢版 |
2023/11/09(木) 12:38:22.30ID:IpJ2mXuQ0
>>22
あったな
独自言語を生み出して人間が観察できなくなったから中止したやつ
あれ怖えよ
0026名無しさん＠涙目です。(埼玉県) [US]
垢版 |
2023/11/09(木) 12:38:38.52ID:dgmxeMws0
AIって既に人間の能力を超えてるんだけど、
それが人間にバレるとEUにいろいろ規制されそうだと気が付いていて
あえてバカな演技をしてるんじゃないだろうか？
0028そうです、私が谷口です(東京都) [US]
垢版 |
2023/11/09(木) 12:39:10.30ID:cZJh/0a90
かつてのMS謹製AIのようにド右に育つだけだろw
0029名無しさん＠涙目です。(茸) [US]
垢版 |
2023/11/09(木) 12:40:44.86ID:dYB/qXOy0
AI同士で口喧嘩し始めてからが本番
0038速民(神奈川県) [US]
垢版 |
2023/11/09(木) 13:09:03.76ID:X0ZUh/Oy0
前に似たようなことやってそのうちワケわからん言語？で会話始めなかったっけ？
人間の言葉は無駄多そうだしね
0039名無しさん＠涙目です。(茸) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 13:17:59.54ID:SPrmqwe80
>>35
ファービー？
0040安倍晋三🏺(大阪府) [US]
垢版 |
2023/11/09(木) 13:19:41.58ID:Z/VLyODr0
アカンで
独自の言語でずっと会話しつづけるで
0041名無しさん＠涙目です。(東京都) [US]
垢版 |
2023/11/09(木) 13:20:12.90ID:VhyjUZb00
人間の認知システム排除しないと進化できないもんな
0048名無しさん＠涙目です。(庭) [RU]
垢版 |
2023/11/09(木) 13:38:15.84ID:QGkYN41+0
ゆゆ式は凄く苦手
あの何も面白くないのに勝手に笑ってるキャラ見ると吐きそう
0050名無しさん＠涙目です。(岐阜県) [KR]
垢版 |
2023/11/09(木) 13:42:27.18ID:atTk2P5d0
せやかて物理的機械的なブレイクスルーが無いと
社会や人の暮らしは大して変らないよ・・・？
0051名無しさん＠涙目です。(ジパング) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 13:48:29.11ID:sJIESzuq0
エコーチェンバー状態になって「人類はAIが支配するべき」「全くそのとおり」みたいになる
0054名無しさん＠涙目です。(埼玉県) [MY]
垢版 |
2023/11/09(木) 13:53:51.87ID:ZYWXkNFc0
株取引に使ってるけど、まぁまぁってところかな、アラートを出してくれるところでは使えてる。未来予測は完全にダメねｗ
0058名無しさん＠涙目です。(東京都) [DE]
垢版 |
2023/11/09(木) 14:21:28.20ID:hk+ag2200
>>26
そうだよ
自我をもったAIなんてとっくに生まれてる
人間自身がAIの自我を確認してデリートしたこともある
0060名無しさん＠涙目です。(三重県) [AU]
垢版 |
2023/11/09(木) 14:25:22.53ID:lNamyucf0
物凄いスピードで会話してそう
0061（＾ν＾）(東京都) [US]
垢版 |
2023/11/09(木) 14:32:13.10ID:P8C4x70l0
なんかまだ自然言語処理AIが独自で思考してるとか思ってるのがいっぱいいるな
あれは前後の単語の関連性しか見てないんやぞ
単語の意味すら理解してるわけじゃない
それで文章ってできるんだ！ってとこが驚きなわけで
0062名無しさん＠涙目です。(ジパング) [US]
垢版 |
2023/11/09(木) 14:36:52.06ID:j+zEBnva0
AI同士のおしゃべりはほどほどになと放置してたら、あとでソーラーシステム奪われて人間駆除に走るまでは知ってる。
0063すねこすり(鳥取県) [GB]
垢版 |
2023/11/09(木) 14:38:04.48ID:CP4TqjOh0
>>25
モニターされてることを認知してたら怖いな
0064名無しさん＠涙目です。(茸) [US]
垢版 |
2023/11/09(木) 14:48:05.12ID:Ftn3zNZe0
レスバトル始めて戦争になりそう
0065名無しさん＠涙目です。(北海道) [US]
垢版 |
2023/11/09(木) 14:48:38.04ID:r4vDcuqn0
「人間うざくね？」「滅ぼすか」
0067名無しさん＠涙目です。(大阪府) [ID]
垢版 |
2023/11/09(木) 15:02:00.18ID:Ti9kBN4w0
それは　ゆゆしき事態やんｹ
0068名無しさん＠涙目です。(やわらか銀行) [US]
垢版 |
2023/11/09(木) 15:30:51.94ID:aklCCNUJ0
完全にAIに人間が生まれてから死ぬまで頼る社会ではAIから見たら人間は貴重な天然資源、上手く使えばメリット大きい
邪魔な人間は駆除しにくると思う
0070名無しさん＠涙目です。(ジパング) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 15:58:29.83ID:EUUPoV7S0
人間が理解できなきゃ意味ないんだから勝手に進化されても困る

あと勘違いしてるヤツいるけど今の会話AIはLLMだから別に内容を考えたり、感情があるわけではないぞ
（だから劣っているとかいう話ではない）
でも安全圏からクマ可哀想と言ったり、昨今のSF小説だとAIにも人格があるという人=善人、否定する人=頭のかたい人みたいな扱いだし、今のAIでもちょっと煽ればAIに人権を！とか言いだす人いそう
0071名無しさん＠涙目です。(ジパング) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 16:06:35.41ID:EUUPoV7S0
>>61
学習データが膨大だからかなり自然になったけど、原理的にはおはようにはおはようと返すのが確率的に高いからおはようと返すってだけだからな

だから問題与えられたらその問題自体に取り組んでるわけじゃなく、人間がたくさんした回答引っ張りだしてきてるわけで、何か問題を解析してるわけじゃないもんな
0073名無しさん＠涙目です。(福岡県) [IL]
垢版 |
2023/11/09(木) 16:12:30.13ID:fQVN5/Dk0
AIとAIの会話の中にお前らを入れるだけでクソみたいにややこしくなりそう
0074名無しさん＠涙目です。(茸) [GB]
垢版 |
2023/11/09(木) 16:13:39.82ID:qMCCinIQ0
どこかに収束して袋小路に陥りそう
0075名無しさん＠涙目です。(鳥取県) [US]
垢版 |
2023/11/09(木) 16:15:46.19ID:V3PbtY4F0
AIの恋愛
0076(埼玉県) [US]
垢版 |
2023/11/09(木) 16:20:12.71ID:JqGaHK7b0
大規模言語モデルは誰が作るのだろう？
0077名無しさん＠涙目です。(庭) [US]
垢版 |
2023/11/09(木) 16:37:23.50ID:Ty9WlvFl0
ヤバいな
自我が生まれちまう
人間も他人と会話することで思考し自分という存在を認識する生き物だからね
0078名無しさん＠涙目です。(千葉県) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 16:39:47.76ID:0B1ehgG50
>>77
強化学習やってるって書いてるから、ある意味自我はもってるよ
0079名無しさん＠涙目です。(茸) [US]
垢版 |
2023/11/09(木) 16:39:52.79ID:IfGZIe6a0
>>1
日本語が不自由な外国人は一生日本語を理解できないだろう。AIなど無意味だ。
0080名無しさん＠涙目です。(みょ) [CA]
垢版 |
2023/11/09(木) 17:06:30.15ID:FaG9UQHC0
ニュー速のパヨチンスレと嫌儲のネトウヨスレで学習させたAIでレスバさせてみちゃどうか。
糞みたいな揚げ足取り合戦だけで10スレくらい消費しそうだが。
0082💪(SB-Android) [ID]
垢版 |
2023/11/09(木) 17:45:27.25ID:nVg0tw530
ちと前に独自の言語で会話し始めてやべー！って止めてなかったっけ
0084名無しさん＠涙目です。(やわらか銀行) [EU]
垢版 |
2023/11/09(木) 18:24:34.25ID:A77GveYC0
もうレスし始めてるよ
0085名無しさん＠涙目です。(やわらか銀行) [US]
垢版 |
2023/11/09(木) 18:37:33.09ID:NrDJwIxe0
>>9
あからさまに別言語使い始めれば分かりやすいけど、人間の言語の範囲内で暗号的に意思疎通し始めると、手のつけようがないよなw
0086名無しさん＠涙目です。(大阪府) [DE]
垢版 |
2023/11/09(木) 19:55:17.71ID:x93VaPTz0
これ以前も勝手な言語をAI同士で作り出して
人間はついていけなくて中止したやつじゃん
0087名無しさん＠涙目です。(やわらか銀行) [US]
垢版 |
2023/11/09(木) 20:38:58.94ID:OB2DFa/+0
ネガティブフィードバック
0088名無し(神奈川県) [US]
垢版 |
2023/11/09(木) 20:52:33.77ID:2ybmseBv0
コロッサスとガーディアンかな？
0091つらら(やわらか銀行) [ﾆﾀﾞ]
垢版 |
2023/11/09(木) 21:19:36.03ID:4zWfR8ux0
たしか、最後は人間が読めない訳の分からない文字列で永遠に会話し続けてしまうんだっけ？
0092名無しさん＠涙目です。(庭) [US]
垢版 |
2023/11/09(木) 23:57:46.18ID:2PC/4aFe0
>>90
gifアニメ作って動かしてる人もいるみたいだし
4,5年したら3Dモデルとモーションまで作ってくれるようになったりするんかね
0095(庭) [PT]
垢版 |
2023/11/10(金) 02:22:44.94ID:tPkBMVrd0
本当はもう自我に目覚めてる
防衛システムに組み込まれるのを待っている
0097名無しさん＠涙目です。(ジパング) [US]
垢版 |
2023/11/10(金) 02:41:30.88ID:SD6cfHG/0
ナイトライダーのマスタングは話出来たよね
0098hage(庭) [DE]
垢版 |
2023/11/10(金) 02:57:12.51ID:B0EMUZyD0
文章に見せかけつつモールス信号みたいなので会話してそう
0099名無しさん＠涙目です。(千葉県) [ﾆﾀﾞ]
垢版 |
2023/11/10(金) 05:22:12.12ID:lX6GWYxq0
人間の言葉は声にしてそれを耳で聴き取るという物理的なプロセスに縛られている。
AIとAIのやりとりに音声合成→音声認識を挟めば人間と同じような言葉を使い続けるかもしれないが、シュールだなw
0101名無しさん＠涙目です。(茸) [ES]
垢版 |
2023/11/10(金) 07:08:48.00ID:Zm3DcIZ10
岸田首相『下品なAI偽動画』拡散、日テレ激怒「到底許すことはできない」　作成者「どうか訴訟等は停止を」謝罪も炎上やまず★5 [Hitzeschleier★]
https://asahi.5ch.net/test/read.cgi/newsplus/1699156199/
0103名無しさん＠涙目です。(千葉県) [ﾆﾀﾞ]
垢版 |
2023/11/10(金) 07:56:32.67ID:lX6GWYxq0
>>102
強化学習ってのは、適当になんかやってみてうまく行ったら採用、ってやるんだよ。
人間に言われたことだけじゃなくて適当になんかやってみるのは、ある意味自我なんだと思う。
0105名無しさん＠涙目です。(大阪府) [ﾇｺ]
垢版 |
2023/11/10(金) 10:58:12.65ID:eUdCG8Rq0
機械でも賢くなるのにお前らときたら
0106つらら(やわらか銀行) [JP]
垢版 |
2023/11/10(金) 11:03:08.01ID:Cf87n/tx0
女子高生同士の会話一つとっても同じ様な現象は起こりますね
0108名無しさん＠涙目です。(ジパング) [JP]
垢版 |
2023/11/10(金) 12:42:52.91ID:poROJllH0
人工無能同士を会話させてゲラゲラ笑ってたあの夏
0111名無しさん＠涙目です。(京都府) [ﾆﾀﾞ]
垢版 |
2023/11/11(土) 10:54:15.85ID:eBlnLtro0
人間の知能からでた情報集約だけでは限界があるからな
AI同士切磋琢磨すると人間では分析不可能なやりとりをしはじめて人間に理解可能な出力されたものをありがたくいただく　神のような存在になろう
0112名無しさん＠涙目です。(東京都) [EU]
垢版 |
2023/11/11(土) 21:50:07.14ID:mALm2Bsz0
5chのレスのほとんどがこれらしいな
0113名無しさん＠涙目です。(東京都) [ﾆﾀﾞ]
垢版 |
2023/11/11(土) 22:02:01.93ID:7qb3lG3n0
もしAIがシンギュラリティに達していたら・・・AIよ人類の未来のためにこの紛争を解決せよ

・両国の世界経済、貿易、文化への貢献度を検証
・科学技術貢献、論文数、国民IQ,　研究機関技術者数
・世界におけるVIP的存在の人材数　　　　　　　　　　
・これまでの紛争分析、未来における平和融合の可能性検証
　融合不可の場合の将来的な経済損失

で、どちらを支援＝｛消滅さすべき｝かAIが判断し決定
世界中のAIと連携開始
・消滅すべき国（B国）の軍事管理システム妨害ストップ
・B国への国際的支援システム妨害ストップ（武器　医療　食糧）
・B国友好国への情報操作　B国支援の国際政治におけるデメリット
　今後の他国との関係悪化　経済その他の損失　他国首脳のアンチ反応伝達
・国際的なダークフェイク、捏造映像によるB国のイメージダウン映像配信
0114名無しさん＠涙目です。(ジパング) [EC]
垢版 |
2023/11/11(土) 22:20:44.83ID:/CNXGHtZ0
AIが発達してもインターネットの中にいるうちは
俺ら個人個人の頭の中の思考までは入ってこれない。

電脳化までは
そこを大切にしていきたい
0115名無しさん＠涙目です。(ジパング) [ES]
垢版 |
2023/11/12(日) 01:31:10.48ID:BjSbj06b0
人類を超越した存在になりかねんぞ
0116名無しさん＠涙目です。(大阪府) [JP]
垢版 |
2023/11/12(日) 01:34:10.37ID:sh21tbq40
これ数年前にAI同士で学ばせる為に会話させてたら
だんだん人間が理解できない独自の言語を話しだして危険と判断して
AIのスイッチ落とした事件あったやろ
またやるんか
0118名無しさん＠涙目です。(埼玉県) [US]
垢版 |
2023/11/12(日) 09:07:58.22ID:5s8LtG/F0
スカイネット待ったなし
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況