AIで本物そっくりの偽動画が簡単に作成できる懸念
■ このスレッドは過去ログ倉庫に格納されています
AIで本物そっくりの偽動画が簡単に作成できる懸念
人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】
AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。
だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。
同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。
◇経営者の声で「振込先が変更になった」
サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。
報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。
「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。
ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。
https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all 竹達似のAVを買おうかどうか迷ってた所だ
買ったやつおらんか? シュワちゃんの顔をスタローンのにすげ替えたターミネーター動画とか全員タイソンのホームドラマとか、ああいうのはおもしろい >>75
>>77
もう作られてるけどクオリティ低い AIがつくったエロ動画はお前らにやるよ
俺は本人もらうからさ >>124
悪用でも美味しい汁を吸う側になれればおkだろ 2〜3年前に将来はフェイクポルノが氾濫するという記事を視たが予想より早くその状況になったな
エロが関わると普及のスピードが段違い これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。 U-15イメージビデオとかに出てて今AVやってる子とか結構いるじゃん
ああいうので子供の頃の映像使って今のAVと合成したら凄いことになりそうだな 吉岡里帆の荒い部分はあったけどほぼほぼ吉岡里帆で凄い抜けたわ AIで偽物っぽいから良いんだよw
本物すぎるフェイクはいらない >>135
AIも人間の脳と同じことやってるってことよな なAIだろ。言われた事しか実行しない。
本当に真の意味でAIが考えるのであれば、己は何のために存在しているのか問いはじめ、答えを出せずに停止する。
存在理由に答えを出せないと、実行する意味も見つけられないしな。
ただ考えずにプログラムを実行していればイイ。ってレベルのAIは知能って呼べるモンなのかな? マトリックス3の最後、エージェントスミスがバグっただろ。
アレは考えるが故に、人工知能は存在理由を見出せずに停止した。 >>139
典型的など素人お感想だなw
AIがドラえもんのことだと思ってんだろw 簡単じゃないだろ。
簡単なら自分で作りまくってるわ。 >>141
機械は知能って1mmも呼べないわ、
犬や動物の方がまだ知能って呼べる 音声に関してもその人の喋り方の癖と音質学習させたら
死んだ声優の再現も可能になりそう >>146
そもそも人間は知性を作り上げるほど知性を理解していない
第一次、第二次の人工知能ブームの挫折もそのあたりにも原因がある
特定用途AIをコンポーネント化してひたすら結合、複雑化させていけば
それがいずれ汎用AIと呼べるようなAIになるかどうかもまだ分かってない
一応、数だけでいえば2045年には全人類のニューロンと結合数の総数を超えるらしいけど ググッてもガッキーの動画しか出てこないわ
他は画像ばっかでゴミ
抜きてーんだけどなぁ >>149
おまえdeep learningの仕組み知らないじゃんw >>152
え?一応だけどわし、人工知能研究の方面の専攻の大学院卒業してたんやけどなぁ・・・ こういうのが浸透しちゃうとドライブレコーダーとか防犯カメラの証拠能力が無くなっちゃうよな >>157
もう、十うん年も前の話だし、
当時はそんなことやってるところ自体、今より少ないので
特定されちゃうかもなので、具体的には言えなくてすまんな >>159
日本で初めての大学って2017年からじゃない?地域だけでも教えてよ 顔だけじゃね、、、声もそっくりに、違和感なく言わせたい言葉を自由に話させるようにならないとお話にならない 映像を確実に証拠として使う方法がある
「アナログのフィルムテープで撮影すればいい」 芸能人じゃなくて知り合いで作った方が興奮すると思う >>156
ドラレコは、物理法則無視できないからあんまり無茶な捏造はできないんじゃないかな
信号の色も下手に修正すればバレるし 今のところ何かを咥えたり液体かかったりすると乱れるから、大事な動画を撮る時はアイスをべちゃべちゃにして食べて映ればいい アメリカのテロの時に米軍が撃ち落とした航空機で既に使われてたな。
テロと戦ったことにしてた。 誰も迷惑すること無く、エロ同人みたいなエグい内容の
AVが作れるようになるなら夢があるじゃないか AIで二次元キャラを自動生成します!って動画見たらただのモーフィングだった そもそも3DCG技術が上がればフェイクする必要もない気がするんだが
AIが作る精巧なコラ動画とリアルCG動画どっちが先に見分けがつかないレベルに達するかね?
前者は実質違法だし、後者も肖像権という法律の壁が立ちふさがるけど >>175
コラって思って見るとむっちゃコラだわ。 >>175
北野のぞみそのままに見えるんですが……w すでに安倍総理の顔に変えて
パヨクが喜んでる動画なら知ってる
ま、内容は察しの通り、下品だから見ない方が良いで AVの顔だけ有名人
身体だけ12歳とかに変更するAI 何度かこの記事見たけどアプリの名前やリンクが貼られないのはなぜ 二次元美少女も自然な感じに合成出来る時代も来ますか? ブサイクとエッチしててもAI眼鏡をかけてればアイドルとヤッてる気分になれる時代が来るかもな。
ただ、女も眼鏡かけてるかもしれんが。 映像だと売れないから
データとプログラムが別々に売られるようになるんだろうか 脆弱性のある女のスカートでパンツを隠されているとどうしても見たくなるのとモザイクは一緒 >1そっちのけでAVの話しばっかしてる・・・
(;´Д`) >>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている 凄いけど相当なファンでもないと
だからどうしたって感じだな。
誰かを騙るよりブスを綺麗にして
誰でもAV女優になれる事の方が凄い。 つーか
新しくスマホ契約したら
「小日向様より5億5千万円、振り込みの準備が出来てます」
と、毎日何十通とメール来るんだが
こんなローテクの事続けるヤツってどんな奴だよ? >>149
今でも知能の定義が曖昧なんでしょ?
人工知能のプログラムができた→こんなプログラムは知能じゃない
の繰り返し アイドルや女優に似せなくてもいいから
女優の顔をパケ写通りに修正してくれ 素人も動画フィルターで簡単に盛れるようになってしまったからな 日本人だと新垣結衣と吉岡里帆のやつを見た。でもほとんどエマ・ワトソンばっかりじゃね? AIって騒いでるけどさー
なんでマトモな翻訳出来んの? 聞き取りもスカばっかやし。
人間なら5歳程度で結構会話できるのに。
コンピューターなんで凄いスピードで学習してるのよね・・・アホやん。 >>72
多分お前がAIだと思っているものは「強いAI」という
現在地球上で公にされているものは全て「弱いAI」といい、意識を持たない 6、7年前にモーニング娘の動画コラがあったけど
あれが強烈だった >>210
あれ力技なんだろうけど
クオリティ高かったな >>122
子供ながらに「こんな合成できる訳ない!」とか思ってたわ AVで本物そっくりの偽動画と空目して
パイパニックとかを連想した 3Dエロゲは動作なんかももうかなり現実に近づいてきてるんだけど、
自律的に動くってのがぜんぜんだめみたいなんだよなあ。
やっぱりそっちが難しいんだろうか。 マトリックスの世界ができれば、人間は
つらくて厳しいリアルの世界をやめて
自分に都合のいい世界で楽しく生きられる。 ■ このスレッドは過去ログ倉庫に格納されています