AIで本物そっくりの偽動画が簡単に作成できる懸念
■ このスレッドは過去ログ倉庫に格納されています
AIで本物そっくりの偽動画が簡単に作成できる懸念
人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】
AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。
だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。
同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。
◇経営者の声で「振込先が変更になった」
サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。
報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。
「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。
ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。
https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all ガッキーと吉岡里帆と橋本環奈と齋藤飛鳥のやつは見た事あるけど、普通のAVのほうが抜けるわ この技術をAIと呼ぶことって正しいの?
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ お願いです!ムスコが自由研究のネタに困ってるんです!動画見せてください >>70
今のアイドルは会ってなんぼだからむしろ終わりようがないぞ在宅ニートさんよ モザイク破壊版ってAIだったのか
伊東ちなみで抜きまくってたわ 逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな >>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし 刑罰重くするだけで終わるのにしないのはなんでだろうね
悪意を持って行う犯罪は一律死刑でいいだろ更正の余地なんかねーよ 小説書いてアップしたら勝手に映像化してくれるみたいな時代が来たりするのかな AIすげーと言ってるだけで一向に参考動画があがってこないわな
今騒がれてるAIって本当に人工知能と呼べる代物なん? >>89
人工知能なんて言ってるけど実のところは機械学習による統計だよ deepfakeのスレがν速に立ってい外国人のアイコラ作家が晒されていたけどその途端に
お前らが乗り込んで日本語でクレクレ荒らしたもんで困惑した発言のあと個人サイトが閉鎖されてたぞ >>91
それって人間と同じだろ。
まさか人間は全知全能だから学習なんかしなくてもいいとでも? 文大統領の顔をアミダくじも出来ない池沼にすることも可能? DFidol潰れちゃったかー
みんなどこで探してる? そのうち録音なんかも捏造し放題で信用性なくなりそう 通信による契約は一切無効
対面して血判の書面を保管しあう時代へ >>25
顔は残念だけどめっちゃスタイルいい娘居るもんな >>97
人間の子供って、言葉を覚えるために一日10数時間勉強してるんだってな
だから、外国語を覚えようとしてもすぐに覚えられないのは当たり前 >>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる それよりAIで背景の切り抜きを完璧にできるようになってくれ このスレ何度目だよ?
http://jump.5ch.net/?https://i.imgur.com/lTVpstw.png
ちなみにこれは俺のコレクションじゃないから、クレと言っても無理だからな。 何が本当なのかわからない時代って怖い
特異点ていうのが現実的になってきた >>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな AVが捗るな
好きな子のパーソナルデータを入れるだけで好きなプレイがVRで出来るのかよ >>110
今試してみたけど
まだまだだね、境界のコントラストがはっきりしたものですら
指の先がカケたり、スカートの部分の判定を誤ったりしてるね
コントラストに差がないものに関しては、
Sorry...
Could not identify foreground
だってさw
Adobe Senseiももっと頑張れ
もうパスを作るのはつれえんじゃ なんかソックリさんのAV観てる感じしかしないけど、こういうエロに転用できる技術ってのはものすごい勢いで発展するんだよな >>96
シュワちゃんが、あまりに勝つもんで他の人が殺られる映像に、シュワちゃんの頭合成してたな。
https://i.imgur.com/7gToDo1.jpg 竹達似のAVを買おうかどうか迷ってた所だ
買ったやつおらんか? シュワちゃんの顔をスタローンのにすげ替えたターミネーター動画とか全員タイソンのホームドラマとか、ああいうのはおもしろい >>75
>>77
もう作られてるけどクオリティ低い AIがつくったエロ動画はお前らにやるよ
俺は本人もらうからさ >>124
悪用でも美味しい汁を吸う側になれればおkだろ 2〜3年前に将来はフェイクポルノが氾濫するという記事を視たが予想より早くその状況になったな
エロが関わると普及のスピードが段違い これからは動画の端っこにフェイク判定AIによる信頼性判定数値出るようになるかもな。
おー信頼性86%かぁきっついなぁみたいな事言いながら観るわけだ。 U-15イメージビデオとかに出てて今AVやってる子とか結構いるじゃん
ああいうので子供の頃の映像使って今のAVと合成したら凄いことになりそうだな 吉岡里帆の荒い部分はあったけどほぼほぼ吉岡里帆で凄い抜けたわ AIで偽物っぽいから良いんだよw
本物すぎるフェイクはいらない >>135
AIも人間の脳と同じことやってるってことよな なAIだろ。言われた事しか実行しない。
本当に真の意味でAIが考えるのであれば、己は何のために存在しているのか問いはじめ、答えを出せずに停止する。
存在理由に答えを出せないと、実行する意味も見つけられないしな。
ただ考えずにプログラムを実行していればイイ。ってレベルのAIは知能って呼べるモンなのかな? マトリックス3の最後、エージェントスミスがバグっただろ。
アレは考えるが故に、人工知能は存在理由を見出せずに停止した。 >>139
典型的など素人お感想だなw
AIがドラえもんのことだと思ってんだろw 簡単じゃないだろ。
簡単なら自分で作りまくってるわ。 >>141
機械は知能って1mmも呼べないわ、
犬や動物の方がまだ知能って呼べる 音声に関してもその人の喋り方の癖と音質学習させたら
死んだ声優の再現も可能になりそう >>146
そもそも人間は知性を作り上げるほど知性を理解していない
第一次、第二次の人工知能ブームの挫折もそのあたりにも原因がある
特定用途AIをコンポーネント化してひたすら結合、複雑化させていけば
それがいずれ汎用AIと呼べるようなAIになるかどうかもまだ分かってない
一応、数だけでいえば2045年には全人類のニューロンと結合数の総数を超えるらしいけど ググッてもガッキーの動画しか出てこないわ
他は画像ばっかでゴミ
抜きてーんだけどなぁ >>149
おまえdeep learningの仕組み知らないじゃんw >>152
え?一応だけどわし、人工知能研究の方面の専攻の大学院卒業してたんやけどなぁ・・・ こういうのが浸透しちゃうとドライブレコーダーとか防犯カメラの証拠能力が無くなっちゃうよな >>157
もう、十うん年も前の話だし、
当時はそんなことやってるところ自体、今より少ないので
特定されちゃうかもなので、具体的には言えなくてすまんな >>159
日本で初めての大学って2017年からじゃない?地域だけでも教えてよ 顔だけじゃね、、、声もそっくりに、違和感なく言わせたい言葉を自由に話させるようにならないとお話にならない 映像を確実に証拠として使う方法がある
「アナログのフィルムテープで撮影すればいい」 芸能人じゃなくて知り合いで作った方が興奮すると思う ■ このスレッドは過去ログ倉庫に格納されています