Google『死にたい』検索から対象の自殺係数を検知→適切な情報を表示=死にたい情報得られず… [645525842]
■ このスレッドは過去ログ倉庫に格納されています
米Googleは3月30日（現地時間）、検索サービスでのAI技術活用について説明した。向こう数週間中に昨年のGoogle I/Oで紹介した検索アルゴリズム「MUM」（Multitask Unified Model）の採用で、自殺を考えるなど“個人的な危機”にある個人を検索クエリから検知し、より適切な情報を表示していく。
MUMは、複雑な疑問に「専門家のように答えられる」ことを目指す検索アルゴリズム。同社の自然言語処理モデル「BERT」同様にTransformerアーキテクチャ上に構築されているが、BERTの1000倍強力という。MUMは日本語を含む75の言語と多数のタスクで同時にトレーニングされており、以前のモデルより情報を包括的に理解できる。
Google検索では既に、自殺、性的暴行、薬物乱用、家庭内暴力に関する情報を検索すると役立つアドバイスや相談先の連絡先を表示するようになっているが、個人的な危機にある人は必ずしも直接的なクエリを使うとは限らない。MUMは、クエリの背後にある意図をより正確に把握できるという。また、1つの言語でMUMモデルを訓練すれば、すべての言語でその実行が可能になる。
《現在の「死にたい」の検索結果》
https://image.itmedia.co.jp/news/articles/2203/31/yu_suiside.jpg
同社は検索技術にはまだ改善の余地があり、今後もBERTやMUMなどのAI技術を駆使して改善していくとしている。
BERTについては、ユーザーが予想しなかったような残酷だったり衝撃的だったりする結果を表示させないようにすることで成果が上がっているという。
BERTの改善により、女性、特に有色人種の女性に影響を与える可能性のある衝撃的な結果の表示を、2021年は前年比で30％減らせたとしている。
検索には今後もAIを採用していくが、人間による厳しい評価も継続する。例えば、同社は世界各地で採用する検索品質評価者によるフィードバックを改善に反映させている。
Google、検索アルゴリズム「MUM」で自殺などの危機にある個人のクエリを検知する取り組み
https://www.itmedia.co.jp/news/articles/2203/31/news101.html
2022年03月31日 10時53分 ITmedia >>5
死にたいで検索すると相談窓口の電話番号が出るようになっていて、死ぬために必要な情報が得られないってことを言いたいみたい 死にたいと検索して一番にナビダイヤル出してくるところに怒りを感じる Google「カウンセラーの皆さん、広告を出しませんか?AIで顧客を効率的に集められます」 キメセク キメチン ドリチン アナル ショタ ロリ
こんな検索ばっかしてるからさ履歴を全消去したけどさ
ブラウザで履歴が残らないように設定ってできないんだね
シークレットモードは不便だから使いたくないし 死にたいと検索すると命の電話が本当に出てくるのが試すやついるから自殺係数なんてわからないでしょ 例の硫化水素のAA書き込むと逮捕されるから気を付けてね つかえねええええええ
いつでも死ねる＝死ぬには今でなくてもいいっていう意識が自殺を食い止めるだが 首吊りや飛び降りみたいなポピュラーな手段なら検索するまでもないから
大して抑止力にもならない気がするんだけど 逆に「生きたい」って検索した人間に練炭紹介したら面白いのに これって使いようで容易に世論操作情報統制できるよな怖くね 俺にハメられて⚫にたいやつやろうぜなんてホモ界隈じゃ挨拶みたいだしGoogleもドン引きやん 俺毎日、死にたい死にたいって検索してるけどヤバいの？ >>40
世論もだし
その国の技術開発にまで影響しちゃうかもね
日本人が英語で検索したときに
意図的に最新の技術、論文が引っかからないようにコントロールできちゃう
あーこわ >>40
実際やってんじゃんトランプの選挙のときあからさまだっただろ 抜きたいって検索したら好みのおかずが出てくるようにはなりませんか？ 死にたいで検索すると昔は
死にたい♬死にたーい死にたーい♬
ってリズム刻める動画出てきてわろてたのに、今じゃ真面目なやつしか出てこなくて気分が落ち込む。 >>6
「死に体」で出るよ
>>10
「死殺 手段」で出るんじゃん？ ナビダイヤルでおつなぎします
3秒ごとに99円かかります こうやって検索結果イジるせいで使い物にならなくなった 試した事はないがSiriやEchoに死にたいって話しかけたらどうなるんだろう ？？？「案内された番号に電話したのに殺してくれないので訴えます」 死にたくなるような状況を改善するために何もしてくれないんだから安楽死させるか大麻でストレス抑えるしかねえだろ 適当なまとめサイトに誘導して、誰でも知ってる情報だらだら読ませたあと
「死ねる方法はよく分かりませんでした！」で、あまりの下らなさで諦めさせるとか いのちの電話出てくるけど繋がらない、解決方法わからない窓口紹介しても意味ないよな 「中年童貞だから死にたい」って検索したら女の子紹介してくれるとか？ Twitterで
まんさんがつぶやくと藁々と寄ってくる
座間事件の犯人みたいな奴が 死に方がわからないってのも分からんけどな
心臓止めりゃ死ぬよ
スーパーマンだって死ぬってのに AIがーとか言うけど結局人力で調整繰り返すんだよなあ 最近しょっちゅう検索してたけど
相談窓口ばっか出てきてうんざりしてたのはこれなのか
首吊り 紐 結び方
とかだと一応調べられたりするけど
確かに一瞬だけど完全に死に向かってる思考が冷静になれるかも
遺族の手記とか引っかかるとすごく…
やっぱ死にたい時は５ちゃんのメンタルヘルス板が一番だな！ こういう事が出来るという事は当然ロリコンワードも検知されてるわけか恐ろしいな >>40
はい
反ワクがプロパガンダ動画をつべに上げたら削除されるのも同じ理屈ですね すごいなぁ
まんさんって表現する人のやばい奴係数も知りたい >>83
昔の画像検索は容赦なかったぞ
保存してなかったのが悔やまれるぐらい 懸垂機にロープくくって置いてあるわ
普段は懸垂してるだけだが心の保険になる google「ガンバレ！生きろ！やればできる！辛いのは君だけじゃない！」 >>86
今は色んな検索サイトで打っても同じような写真しか出てこなくても辛いわ >>90
ドイツのヌーディストビーチを引き当てた時は感動したわ >>45
まだやる気のないバージョンやから大丈夫
それが回復してきて元気な鬱状態になると
「煉炭 値段」「縄 結び方」とか具体的になる
そうなったら精神病院に駆け込め いらんことばっかして、google検索はますます使えなくなっていくわけだ >>1
生きる権利もあれば死ぬ権利もあるからなぁ
他人の生き死にに干渉できる程偉い他人いるかなと思ってしまう ＼死にたい！／
っていうネタ画像をどこかに貼ろうとして検索する度にgoogle先生に思いとどまるように説得されるんだ…… お得意の検閲か。
そのうち危険な思想だもAIに判定されると警察に自動通報でも実装されそうだな。 >>1
客観性が求められるサービスでそれやったらダメでしょ どうでもいい事より重要性が高い残酷なことや衝撃的を受けるような情報のほうが必要だろ
検索結果がNHK化したなら完全なるゴミだな google検索は明らかに、人為的な悪意というか、バイアスがかかってる そういやアレクサに死にたいって話しかけたら
すげー抑揚のない声でなんか関係ないこと言われたけどガッカリしすぎて覚えてない
ウクライナ情勢のことも何も言わんし
そういう風になってんのかな 検索トップがナビダイヤルとかw
死ぬ前に搾り取る作戦か google検索は一部の企業・団体に便宜をはかっているどころか、その企業・団体に、それぞれが関わるような検索結果を管理させているまである。 だいぶ昔だけど「思考誘導」ってググったらもしかして「思想誘導」って出たときは面白かった 命の電話とか表示されても何の役にも立たん
あれに電話をかけたところで学校の虐めが無くなるでなし、重い病気が治るでなし、
借金が無くなるでなし、仕事が見つかるでなし、上司のパワハラが無くなるでなし ■ このスレッドは過去ログ倉庫に格納されています
