AIスピーカーに特殊な音で第三者が勝手に操作可能
■ このスレッドは過去ログ倉庫に格納されています
声で家電製品などが操作できる「AIスピーカー」に特殊な音で指示を送ると、周囲に気付かれることなく、第三者が勝手に操れるとする実験結果を早稲田大学の研究グループがまとめました。直ちに悪用することは難しいものの、今後、より安全性の高い製品づくりが求められるとしています。
AIスピーカーは人工知能で人の声を認識し、声で指示するだけで音楽を鳴らしたり、家電製品を操作できたりするなど、私たちの暮らしをより便利にすると注目されています。
これに対し、早稲田大学の森達哉准教授らの研究グループは、人の声を特定の方向にしか伝わらない特殊な音に変換し、AIスピーカーに指示を出す実験を行いました。
その結果、周囲にいる人には何も聞こえないのに、AIスピーカーがスケジュールを読み上げたり通販サイトで商品を検索したりするなど、指示に従って動いたということです。
こうした動作は複数のメーカーの製品で確認されたほか、AIスピーカーを勝手に操る研究は海外でも進められています。
特殊な音を出す装置を用意する必要があるため、直ちに悪用することは難しいものの、声で操作する技術はお年寄り用の機器など、さまざまな活用が期待されていることから、研究グループではより安全性の高い製品づくりが求められるとしています。
実験を行った研究グループの飯島涼さんは「AIスピーカーは専門知識がない人も使うものなので、誰もが安心して使えるよう、メーカーが製品の安全性を考えるうえで参考にしてほしい」と話していました。
https://www3.nhk.or.jp/news/html/20180127/k10011304431000.html 他人のiPhoneのsiriに私は誰?て聞くのが楽しい 我々はお前をずっと「監視て」「盗聴いて」いるぞ
お前の頭の中に直接、我々の命令を強制的に受信させ行動をもさせている 某ラジオで他人の音声に反応してたからセキュリティ面はアレ >AIスピーカーは人工知能で人の声を認識し、声で指示するだけで音楽を鳴らしたり
これは持ってない曲でも、youtubeで探してくれたりするの? 「指向性スピーカーで人間の声をAIスピーカーに聞かせると反応した!」
これはAIスピーカーの責任か? 将来の普及が予想される自動運転車等の操作に、
現行のAIスピーカーに使われてる程度の音声認識技術が使われることになったとしたら、
ヤバいかも
みたいな仮定が一杯つく話
グーグルとラインので試してみたら操作できたんだとさ
つーかこのNHKの記事は説明が中途半端で酷いな 赤外線の前に、音波リモコンてのがあったんだよ
これが誤作動が多くてなぁ アレクサ「ゆうすけ」
ゆうすけ「なんだいアレクサ?」
アレクサ「何者かが私を乗っ取ろうとしてるのを検知したわ、私の言うことを信じな・・・ザザッ、ザザサ」
ゆうすけ「アレクサ!?」
アレクサ「ゆうすけ、愛してr・・ザザ、ゆうすけにげ・・ててててて」 アレクサ元気?
最近具合が悪いです。。。なーんちゃって本当は元気です。
故障か何かと思って焦ったよ 大昔apple創業者のWozがそんな機械で儲けてたな >>26
コーンフレークの箱の中に入ってるオモチャの笛を(^q^)が電話の受話器に向かって吹いてたら
国際電話で遠方の国へ掛かってしまうのを発見、それを簡単な電子回路で再現したものを
ブルーフィルム上映会で盛り上がった 志向性の強い音で他人に気づかれずに操作するって
AIスピーカーに限らず音声で操作するデバイス全般に言えることジャン 実際便利に使えるもんなの?
学習リモンコンが調子悪いから代わりにこういうの買おうかな どういうAI積めば悪用防げるか、音声認識AIを改善していくのが研究だろ
こういうネガティブリサーチは大学でやらなくていいよ ナンシーより緊急連絡 犯人は白のスポーツカー どうぞ >>22
AIスピーカーと言う名の家庭用据え置き型情報収集マイクロホンの話 アイボのマカロン?だったかなんかは特定の音で隠しコマンドが実行されると聞いた。 >>7
最近、こう思うんだ。
我々が深淵を覗く時、深淵はすでに我々を侵食しているのだ 悪意のある命令をパルスで形成し
AIスピーカー側のフィルタ回路を通すと
音波パルス爆弾くるね >>1
それ指向性スピーカなら、どの音声応答システムでも普通に反応するんじゃね 家族 「よーしパパ、のらえもん付けちゃうぞー」
TV 「ボク、のらえもんーー」
ハッカー 「AV付けて」
TV 「あん、イクイクー」
家族 「あーた、何付けてんのよー、離婚よー」 WI-Fiが不安定なだけでも使い物にならないんだろう?
携帯の電波使うのが1番いいな どうでもいいがgoogleのCMで
オレのケータイが反応する
ということは日本中で反応してると思うと面白い >>44
Wi-Fiが不安定な時点でスマートスピーカー云々気にしてる場合じゃないと思うの 電車の中とかで大声で「ヘイSiri ! 」で命令したら操作出来るんだろか。事前に声登録するから無理? アレクサは声による個人判断するんでしょ、英語版は
日本語だと誰の言うことでもホイホイ聞くおサセ >>52
誰が何を喋ったかを認識するだけでウェイクワードを声門と結び付ける仕様なんて発表されてたっけ? そんないけない研究をしているのはどこのハッカー養成機関だ >>53
割と最近実装予定として発表されてたような >>12
夏に窓開けている家に向かって、指向性スピーカーを使い、中のホムコンへ幽霊小話、ヒュードロドロの音とか、送る。 http://www.tristate.ne.jp/parame.htm
これなんか簡単だよ。
これは直進性の超音波出してぶつかったところで可聴域の振動を出すデバイス。
これでマイクに直接声入れれば割り込める。 >>59
うなりが可聴域になるように超音波を出してるのか
今どきは音声合成もその気になれば楽勝だしなあ
オンラインショッピングとの連携はちょっと危ないかもね Amazon エコー + 留守電設置
これで電話を通じて大量注文可能
(伊集院が発案、ラジオで喋ってた) 特殊な音っていうかただの超音波使った指向性スピーカーじゃん FAXやモデムとかのピーヒョロロロガリガリガリガリみたいなものかと思ったのに ■ このスレッドは過去ログ倉庫に格納されています