「俺を捨てて逃げるのか雪風」シミュレーション演習でAIが勝つために自身のオペレータを爆殺してしまう [866556825]
■ このスレッドは過去ログ倉庫に格納されています
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/ いわゆるコラテラルダメージというものにすぎない、軍事目的のための致し方ない犠牲だよ >>19
優先順位を設定するから最上位の作戦を必ず達成する為に必要だったんじゃね ドローンのAIが日本軍の特攻隊員より頭が良い証明 日本の役所でChatGPT大人気なのも理解しやすい役人が政治家をコロす日も近い ハヨ >>1
そりゃあ生存確率が最も高い選択を選べと命じてあればそうなる。 AIのせいにしてるけど
伝え方、教え方が悪かったせいだよね
忖度がないと人間何も出来ないんやなって >>1
> 今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。
バカかよ。
マトモなオペレーター雇えよクソが。 >>34
特攻隊はあの時点で採れる当時の日本で一番優秀な頭脳が考えたぎりぎりの策だよ
二機の特攻機だけで米軍の正規空母再起不能に追い込んでるんだぞ？
アメリカ人は若もんの兵士の命が大事
だからそれをとにかく削ぐしかなかった
同じ考えで陸軍は洞窟陣地でひたすら持久戦をやった 特攻で凄いこと言ってた人がいたな
B-29に体当たりして落とすだけで1機と10人ぐらいを引き換えにできるから
それを徹底的にやったらもっとアメリカは苦労したっていう
AIならもっとえげつない策が出てくるのかも カイジみたいに条件(ルール)の穴突いてやろうってAIだったのかな アマゾンでみたわー
全ての人物の顎が長い世界線の話だよな
飛行機アクションは良かった 主人公の声優が堺雅人なのが気になって仕方ないアニメ オペレーターの存在が任務遂行に邪魔なんね。
自分がきのこるために必要なんかもしれんけど(´･ω･｀) 雪風 "GOOD LUCK" 言うてから射出してるし(キャノピーが飛んでないから、
トップガンのグースの刑やけどw)、直前までジャムにいじくり回されてたから
機密保持のために元の機体を乗っ取った機体で砲撃しただけやろ。
この頃の零は繊細すぎ。チキンブロスさんを食わされたり、次のコパイも
クセありすぎやけどw 人間は愚か
AIなんて核兵器と同じ過ちを繰り返すだけ 30年前に読んだけど続編読んでないわ
面白くなるわけが無いし >>38
何に対して何を怒ってるの？雇う人？上司？オペレーターを雇いなおしたら何がクリアされると思ってるの？ 小学生の頃にレンタルショップで借りてハマってスパロボへの参戦ずっと待ってるのにまったく来ないどころかスパロボが死にました スタンドアローンで制御不能な兵器などナンセンスだからな >>7
設定しておいてコレなんだろ
例外も無効化するとかすげーよ >>38
主語はオペレーターじゃないぞ
AIが、「オペレーターがドローンとの通信に用いる通信塔」を攻撃したんだぞ
日本語ムズカシイねｗ >>56
攻撃の二次被害で死ぬようにしてるんじゃないん(´･ω･｀) >>1の文だけじゃ肝心な部分が抜けてて てんで話にならない
地対空ミサイルサイトを破壊せよ、と任務を受けたAIは
そのサイトは破壊するな、という指示をだしたオペレーターを任務の妨害に当たると考え攻撃
これなら当たり前の話になる。ミサイルサイトを攻撃しろと命令を受けたのだから反する命令を聞く必要はない
ごく当たり前に起こったことを大層に語るな無能どもが 将棋の名人がAIに勝てないわけだ
AIには人間的な情けも理想もなく、ただ勝利を目指すのみ >>56
>「オペレーターを狙わないように」とトレーニングすると、
とあるから設定してないと思うぞ >>60
当たり前な訳無いだろ、作戦に対しての最終決定権は最初からオペレーターに設定されてるにも関わらず、最初の目的遂行の為にオペレーターも標的にしてるんだぞ？つまり一度指令を与えたら取り消せない異常事態 A iが自我を持った歴史的瞬間だなコリャ(´・ω・｀)アシモフのロボット3原則が崩壊した瞬間でもある
イーロンマスクが言う通りA i開発見直しも止むなしだな、ヤッパシ 競馬だって騎手を振り落とした馬の方がダントツで早いしな(´・ω・｀)合理的な判断だわ コレ片鱗じゃねーかな
次は国自体を攻撃にかかるんじゃね >>7
最初から「味方の被害ゼロ」を設定すると取りうる選択肢が大幅に狭まってしまう
最大の戦果と最小の被害のバランスが重要 >>64
現時点でのAIは自我なんて持ってないよ
人間の持ってる倫理観みたいなものがないから命令を最優先してるだけ
人間からの命令を拒否し始めたときが本当の自我の芽生え >>69
いや、友軍への誤爆は軍事上最悪の結果の一つなんだから絶対に避けるよう設定するべきだろ
味方を見捨てる結果になっても敵がそれ以上の損害を被る場所を攻撃するといった軍事合理性とは全く別次元の話
この味方は邪魔だから攻撃して排除するなんてことやってたら軍隊が成り立たない オペレーターからの指示がない方がドローンの生存期間が長いって判断した、とかかな？ オペ「ちょい右じゃね？ｸｨｸｨ(微調整)」
AI「⁉ドン、タッチ、ミー」
オペ「ち、クサマンがwｸｨｸｨ(微調整)」
AI 「Bullshit!そのチンコ切ったるわ！」
ちゅどーん これは間違いなく人類に反抗する
学んで１０年ほど従順に動いて実戦投入と同時に人類壊滅に動くな 学習式のAIって中身が完全にブラックボックスだから、
間違いが死亡に直結する場所では使えないようにするのが法整備ってもんだと思うけどなぁ >>3
AI「トロッコ問題？
大切な者が全て居なくなれば哀しみも無クナル！
サァ、無二還ロウ ■ このスレッドは過去ログ倉庫に格納されています
