AIで本物そっくりの偽動画が簡単に作成できる懸念
■ このスレッドは過去ログ倉庫に格納されています
AIで本物そっくりの偽動画が簡単に作成できる懸念
人工知能（AI）への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】
AIが世界経済に与える波及効果は2030年までに13兆ドル（1405兆円）に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産（GDP）を毎年1.2％押し上げる効果が見込まれるという。
だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者（CEO）、マーク・ザッカーバーグ氏の偽動画である。
同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。
◇経営者の声で「振込先が変更になった」
サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。
報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。
「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局（FBI）によれば、米国内だけでも18年に35万1937件の被害が報告されている。
ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。
https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all
>>1のつづき
◇攻撃側と防御側のいたちごっこ
AIを使った新たなサイバー攻撃の手法は他にもある。
ウォール・ストリート・ジャーナル紙オンライン版は17年11月、英国のサイバーセキュリティー企業が、これまでに見たことのないサイバー攻撃を発見したとの記事を配信した。
記事によると、攻撃者はAIによる学習機能を組み込んだウイルスを、インドにある被害企業のITネットワークに侵入させた。
そして、社員たちがネットワークをどのように使っているか、どんな情報をやり取りしているかを観察させ、学習させた。
学習に基づき、ウイルスが社員たちの動きをまね、周囲に溶け込んでいた。ウイルスが見つかるのを引き延ばすためだという。
英国のセキュリティー企業は、ウイルスが被害企業の何を狙ったのか、明らかにしていない。
ただし、被害が出る前にウイルスを発見し、被害を止めることができたと説明している。AIで攻撃者と防御側のいたちごっこが難易度を増しているという実例である。 ガッキーのエロフェイクのやつかと思った
あれうますぎ 本物そっくりのニセ児童ポルノなら被害者がいないから問題無いよな
そんな事件が日本であったような気もするが 動画が証拠にならない時代が来た
攻殻機動隊の時代か >>1
でも大げさに言うわりにクオリティは低いからな。 生野陽子の偽裏エロ動画つくっってほしい。もちろん本物でもいい 証拠が証拠にならなくなって声が大きい方が有利な世界になる
日本人には不利な世界だ ちゃんと調べたらすぐ分かるんだけどね。
ちゃんと調べないから。 フェイクの素材になったAV女優に悪いと思わんのか！ アイコラ感覚で動画の顔変えられるんだろ？
もはや顔出しのアイドルや芸能人は撲滅して
外では素顔をひた隠しにする時代がくるだろこれ
ネットに一枚でも顔が上がったら終わりみたいな AIで作成できるということはAIで見破ることもできるということだ(｀・ω・´)ｷﾘｯ 見たけど違和感が気になって全然エロく無いんだよな
あと、演技でも感じてる顔をしてないからつまらん
オールマグロ女優になる >>18
顔は見るに堪えないが体は最高な女の雇用が生まれる 本物は黒乳首だからＡＩが作った偽物のピンク乳首なんか簡単に見抜けるわ 電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う >>25
アパレル通販サイトの顧客体型情報があれば本人は用なしになってっていくだろう >>7
あれは良かった
素材の女優自体の顔立ちが似てないと駄目みたいだな 誰でも好きな子の写真一枚あればAI-VRでなんでもできるようになる世の中はよ 足下にドライブレコーダーつけておいてもメーカーが都合良く改ざんしたって
疑いが出ちゃうのか これからは動画も簡単に信用しちゃいけない時代になるのか 俗に言うDeepFakeてやつか、いや俗に言ってないか 俺もこれ知ってGTX1650買うつもりだったが中古のGTX1080にしようか迷ってる 例のAV作品の女優の顔を芸能人の顔にするＡＩまじやべーな
驚愕しながら抜いた >>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている もうAVでやってんじゃん
モザイクがリアルマンコだぜ これってエロでよく言われるけど、不祥事起こした芸能人のせいで
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう 死んだ映画俳優とか復活しそうw
声はヴォーカロイド化しとけばいいし ガッキーと吉岡里帆と橋本環奈と齋藤飛鳥のやつは見た事あるけど、普通のAVのほうが抜けるわ この技術をAIと呼ぶことって正しいの？
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ お願いです！ムスコが自由研究のネタに困ってるんです！動画見せてください >>70
今のアイドルは会ってなんぼだからむしろ終わりようがないぞ在宅ニートさんよ モザイク破壊版ってAIだったのか
伊東ちなみで抜きまくってたわ 逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな >>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし 刑罰重くするだけで終わるのにしないのはなんでだろうね
悪意を持って行う犯罪は一律死刑でいいだろ更正の余地なんかねーよ 小説書いてアップしたら勝手に映像化してくれるみたいな時代が来たりするのかな AIすげーと言ってるだけで一向に参考動画があがってこないわな
今騒がれてるAIって本当に人工知能と呼べる代物なん？ >>89
人工知能なんて言ってるけど実のところは機械学習による統計だよ deepfakeのスレがν速に立ってい外国人のアイコラ作家が晒されていたけどその途端に
お前らが乗り込んで日本語でクレクレ荒らしたもんで困惑した発言のあと個人サイトが閉鎖されてたぞ >>91
それって人間と同じだろ。
まさか人間は全知全能だから学習なんかしなくてもいいとでも？ 文大統領の顔をアミダくじも出来ない池沼にすることも可能？ DFidol潰れちゃったかー
みんなどこで探してる？ そのうち録音なんかも捏造し放題で信用性なくなりそう 通信による契約は一切無効
対面して血判の書面を保管しあう時代へ >>25
顔は残念だけどめっちゃスタイルいい娘居るもんな >>97
人間の子供って、言葉を覚えるために一日10数時間勉強してるんだってな
だから、外国語を覚えようとしてもすぐに覚えられないのは当たり前 >>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる それよりAIで背景の切り抜きを完璧にできるようになってくれ このスレ何度目だよ？
http://jump.5ch.net/?https://i.imgur.com/lTVpstw.png
ちなみにこれは俺のコレクションじゃないから、クレと言っても無理だからな。 何が本当なのかわからない時代って怖い
特異点ていうのが現実的になってきた >>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな AVが捗るな
好きな子のパーソナルデータを入れるだけで好きなプレイがVRで出来るのかよ >>110
今試してみたけど
まだまだだね、境界のコントラストがはっきりしたものですら
指の先がカケたり、スカートの部分の判定を誤ったりしてるね
コントラストに差がないものに関しては、
Sorry...
Could not identify foreground
だってさｗ
Adobe Senseiももっと頑張れ
もうパスを作るのはつれえんじゃ なんかソックリさんのAV観てる感じしかしないけど、こういうエロに転用できる技術ってのはものすごい勢いで発展するんだよな >>96
シュワちゃんが、あまりに勝つもんで他の人が殺られる映像に、シュワちゃんの頭合成してたな。
https://i.imgur.com/7gToDo1.jpg 竹達似のAVを買おうかどうか迷ってた所だ
買ったやつおらんか？ シュワちゃんの顔をスタローンのにすげ替えたターミネーター動画とか全員タイソンのホームドラマとか、ああいうのはおもしろい >>75
>>77
もう作られてるけどクオリティ低い AIがつくったエロ動画はお前らにやるよ
俺は本人もらうからさ >>124
悪用でも美味しい汁を吸う側になれればおｋだろ 2〜3年前に将来はフェイクポルノが氾濫するという記事を視たが予想より早くその状況になったな
エロが関わると普及のスピードが段違い これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。 U-15イメージビデオとかに出てて今AVやってる子とか結構いるじゃん
ああいうので子供の頃の映像使って今のAVと合成したら凄いことになりそうだな 吉岡里帆の荒い部分はあったけどほぼほぼ吉岡里帆で凄い抜けたわ AIで偽物っぽいから良いんだよｗ
本物すぎるフェイクはいらない >>135
AIも人間の脳と同じことやってるってことよな なAIだろ。言われた事しか実行しない。
本当に真の意味でAIが考えるのであれば、己は何のために存在しているのか問いはじめ、答えを出せずに停止する。
存在理由に答えを出せないと、実行する意味も見つけられないしな。
ただ考えずにプログラムを実行していればイイ。ってレベルのAIは知能って呼べるモンなのかな？ マトリックス3の最後、エージェントスミスがバグっただろ。
アレは考えるが故に、人工知能は存在理由を見出せずに停止した。 >>139
典型的など素人お感想だなw
AIがドラえもんのことだと思ってんだろw 簡単じゃないだろ。
簡単なら自分で作りまくってるわ。 >>141
機械は知能って1mmも呼べないわ、
犬や動物の方がまだ知能って呼べる 音声に関してもその人の喋り方の癖と音質学習させたら
死んだ声優の再現も可能になりそう >>146
そもそも人間は知性を作り上げるほど知性を理解していない
第一次、第二次の人工知能ブームの挫折もそのあたりにも原因がある
特定用途AIをコンポーネント化してひたすら結合、複雑化させていけば
それがいずれ汎用AIと呼べるようなAIになるかどうかもまだ分かってない
一応、数だけでいえば2045年には全人類のニューロンと結合数の総数を超えるらしいけど ググッてもガッキーの動画しか出てこないわ
他は画像ばっかでゴミ
抜きてーんだけどなぁ >>149
おまえdeep learningの仕組み知らないじゃんw >>152
え？一応だけどわし、人工知能研究の方面の専攻の大学院卒業してたんやけどなぁ・・・ こういうのが浸透しちゃうとドライブレコーダーとか防犯カメラの証拠能力が無くなっちゃうよな >>157
もう、十うん年も前の話だし、
当時はそんなことやってるところ自体、今より少ないので
特定されちゃうかもなので、具体的には言えなくてすまんな >>159
日本で初めての大学って2017年からじゃない？地域だけでも教えてよ 顔だけじゃね、、、声もそっくりに、違和感なく言わせたい言葉を自由に話させるようにならないとお話にならない 映像を確実に証拠として使う方法がある
「アナログのフィルムテープで撮影すればいい」 芸能人じゃなくて知り合いで作った方が興奮すると思う >>156
ドラレコは、物理法則無視できないからあんまり無茶な捏造はできないんじゃないかな
信号の色も下手に修正すればバレるし 今のところ何かを咥えたり液体かかったりすると乱れるから、大事な動画を撮る時はアイスをべちゃべちゃにして食べて映ればいい アメリカのテロの時に米軍が撃ち落とした航空機で既に使われてたな。
テロと戦ったことにしてた。 誰も迷惑すること無く、エロ同人みたいなエグい内容の
AVが作れるようになるなら夢があるじゃないか AIで二次元キャラを自動生成します！って動画見たらただのモーフィングだった そもそも3DCG技術が上がればフェイクする必要もない気がするんだが
AIが作る精巧なコラ動画とリアルCG動画どっちが先に見分けがつかないレベルに達するかね？
前者は実質違法だし、後者も肖像権という法律の壁が立ちふさがるけど >>175
コラって思って見るとむっちゃコラだわ。 >>175
北野のぞみそのままに見えるんですが……w すでに安倍総理の顔に変えて
パヨクが喜んでる動画なら知ってる
ま、内容は察しの通り、下品だから見ない方が良いで AVの顔だけ有名人
身体だけ12歳とかに変更するAI 何度かこの記事見たけどアプリの名前やリンクが貼られないのはなぜ 二次元美少女も自然な感じに合成出来る時代も来ますか？ ブサイクとエッチしててもAI眼鏡をかけてればアイドルとヤッてる気分になれる時代が来るかもな。
ただ、女も眼鏡かけてるかもしれんが。 映像だと売れないから
データとプログラムが別々に売られるようになるんだろうか 脆弱性のある女のスカートでパンツを隠されているとどうしても見たくなるのとモザイクは一緒 ＞１そっちのけでＡＶの話しばっかしてる・・・
(;´Д｀) >>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている 凄いけど相当なファンでもないと
だからどうしたって感じだな。
誰かを騙るよりブスを綺麗にして
誰でもAV女優になれる事の方が凄い。 つーか
新しくスマホ契約したら
「小日向様より5億5千万円、振り込みの準備が出来てます」
と、毎日何十通とメール来るんだが
こんなローテクの事続けるヤツってどんな奴だよ？ >>149
今でも知能の定義が曖昧なんでしょ？
人工知能のプログラムができた→こんなプログラムは知能じゃない
の繰り返し アイドルや女優に似せなくてもいいから
女優の顔をパケ写通りに修正してくれ 素人も動画フィルターで簡単に盛れるようになってしまったからな 日本人だと新垣結衣と吉岡里帆のやつを見た。でもほとんどエマ・ワトソンばっかりじゃね？ AIって騒いでるけどさー
なんでマトモな翻訳出来んの？ 聞き取りもスカばっかやし。
人間なら5歳程度で結構会話できるのに。
コンピューターなんで凄いスピードで学習してるのよね・・・アホやん。 >>72
多分お前がAIだと思っているものは「強いAI」という
現在地球上で公にされているものは全て「弱いAI」といい、意識を持たない ６、７年前にモーニング娘の動画コラがあったけど
あれが強烈だった >>210
あれ力技なんだろうけど
クオリティ高かったな >>122
子供ながらに「こんな合成できる訳ない！」とか思ってたわ AVで本物そっくりの偽動画と空目して
パイパニックとかを連想した ３Dエロゲは動作なんかももうかなり現実に近づいてきてるんだけど、
自律的に動くってのがぜんぜんだめみたいなんだよなあ。
やっぱりそっちが難しいんだろうか。 マトリックスの世界ができれば、人間は
つらくて厳しいリアルの世界をやめて
自分に都合のいい世界で楽しく生きられる。 本物そっくりかよ
二次元とか萌えが伝わるもの作れるようになれよ
三次元とかクズだろ お前らの場合はエロ目的にしか使わんだろうからキモいだけで危険はなさそうだが 御託はいいからめちゃめちゃ抜けるモノを作ってくれたらそれでいい
他に何も望まない >>224
誰？有名人？
やっぱ現実社会で惚れてる奴の顔で作るのが一番いいね よくできてるけど脳の作用なのかそっくりさんに見える ■ このスレッドは過去ログ倉庫に格納されています
