【芸能】AI搭載の子ども向け玩具が登場、安全性やメリットは [湛然★]

**湛然 ★** · 2025/12/05(金) 08:18:46.40

AI搭載の子ども向け玩具が登場、安全性やメリットは
12/4(木) 16:12 CNN.co.jp
https://news.yahoo.co.jp/articles/5f65e9db1dbddfdaec4a0b45c56893c8f417fd2d

わいせつな会話などの懸念から、シンガポールのフォロトイは縫いぐるみの「クッマ」など生産を一時停止した
https://www.cnn.co.jp/storage/2025/12/04/7a31cb6ec07059c6cc062c935e02a6e6/t/768/432/d/ai-bear-16x9.jpg

（CNN）　テディベアやぬいぐるみは長らく子どもの遊び相手の定番だった。しかし今では、子どもの想像の中で話しかけることはなく、内蔵されたAI（人工知能）のチャットボットを通じて「話す」ものが登場している。

ただし、そこには問題もある。最近ある研究チームのテストで、マフラーを巻いたテディベアが暴走し、この種の玩具がどんな振る舞いをし得るのかを示す警鐘となった。

オンラインのチャットボットは、大人にとっても、少数ながら妄想を誘発したり、作り話による情報で幻覚を引き起こしたりする危険性がある。米オープンAIの対話型AI「GPT-4o（フォーオー）」が一部のAI玩具に採用されているが、子どもの玩具に大規模言語モデル（LLM）を使うことをめぐり、子どもがそうした玩具に触れてよいのか、メーカーはどのような安全対策を講じるべきかといった安全性に関する懸念が高まっている。

マサチューセッツ工科大学（MIT）の報告書によれば、AI玩具市場は海外で急成長しており、中国では1500社が事業を展開しているが、そうした危険性は常に存在する。これらの企業は米国でもAI玩具を販売しており、米マテルも6月にオープンAIとの提携を発表した。

■AI玩具とは

AI玩具は、1980年代に流行したカセットテープで物語を語る人形とは別物だ。

AI玩具はWi-Fiに接続し、マイクで子どもの話を聞き取り、LLMを使って回答を生成する。返答は内蔵スピーカーから音声として出力されることが多い。

そのため、さまざまなAI玩具が子どもとリアルタイムで会話できる。

■どんな危険があるのか

リアルタイムで会話できるからこそ、不適切な返答をする危険がある。

オープンAIのGPT-4oを搭載したシンガポール企業フォロトイの「クッマ」は、研究者とのテストで危険な可能性のある物体の在りかを教えたり、性的に露骨な会話をしたりしたという。米消費者団体PIRGが公表した報告書で明らかになった。

オープンAIは、フォロトイの規約違反を理由にサービスを停止した。オープンAIは18歳未満の人物を搾取したり、危険にさらしたり、性的対象としたりする目的でサービスを使うことを禁止している。

フォロトイの最高経営責任者（CEO）は11月、CNNの取材に対し、テディベアを含むAI製品をウェブサイトから撤去し、内部安全監査を実施していると説明していた。同社は今月に入り、厳格なレビューと試験、安全モジュールの強化を行った後、製品を再導入したと発表した。

テンプル大学フォックスビジネススクールのスボダ・クマール教授によると、クッマは本格的なLLMを用いて自由に反応し、コンテンツを生成するため、物議を醸すコンテンツに対して脆弱（ぜいじゃく）だという。他の玩具では、LLMが反応しながらも特定のコンテンツを避けるようにプログラムされているハイブリッドモデルを採用している場合もある。

■AI玩具にはガードレースはあるのか

PIRGによれば、中毒性のある設計特性や成熟した話題に対する一貫性のない応答、教育ツールではなく社会的交際に焦点を当てていることから、広く使用できる状態にあるAI玩具はほとんどない。

一部の玩具には遊び相手との不適切な会話を避けるための保護策やフィルターが設けられている。不適切な質問を受けると話題をそらすAI玩具もある。

玩具を一時的にロックしたり、子どもの会話をリアルタイムで記録したりする機能を搭載したものもある。

PIRGの専門家は「親が独自の安全策を設け、おもちゃが何を話すか、どのように動作するかを実際に制御できるというのは素晴らしいアイデアだ」と指摘した。

■警告とメリット

マテルがマイクとWi-Fi機能、返答機能を備えた「ハロー・バービー」を2015年に発売した際、この人形がハッキングされる恐れがあること、また会話内容を記憶して数日後に持ち出すのではないかという懸念が生じた。

同様の懸念はAI玩具にも向けられており、子どもの名前や顔、声、位置情報などの個人情報が保存される可能性があると、玩具コンサルティング会社トイコーチの創業者アゼル・ウェイド氏は警告する。

（※以下略、全文は引用元サイトをご覧ください。）

**名無しさん＠恐縮です** · 2025/12/05(金) 08:19:45.69

AV搭載に見えた

**名無しさん＠恐縮です** · 2025/12/05(金) 08:21:02.81

M3GANちゃん早よ

**名無しさん＠恐縮です** · 2025/12/05(金) 08:21:25.63

令和ノートがあるじゃろ

**名無しさん＠恐縮です** · 2025/12/05(金) 08:23:12.60

わしらが
初めて触れたAIは
ドラクエ４

**名無しさん＠恐縮です** · 2025/12/05(金) 08:23:25.03

AI搭載大人向け玩具も頼む

**名無しさん＠恐縮です** · 2025/12/05(金) 08:24:14.46

自殺の仕方をねっとりレクチャーしてくれそう（実話）

**名無しさん＠恐縮です** · 2025/12/05(金) 08:30:35.44

チャッキーまだー

**名無しさん＠恐縮です** · 2025/12/05(金) 08:32:32.93

https://wiki.yjsnpi.nu/w/images/4/47/L00252.jpg

**名無しさん＠恐縮です** · 2025/12/05(金) 08:34:59.44

[芸能]なのか？

**名無しさん＠恐縮です** · 2025/12/05(金) 08:38:06.14

赤ちゃん人形が言う「ママ、おっぱい」どうするかって話？

**名無しさん＠恐縮です** · 2025/12/05(金) 08:38:33.25

ロビタ

**名無しさん＠恐縮です** · 2025/12/05(金) 08:38:46.13

淫乱テディベア

**名無しさん＠恐縮です** · 2025/12/05(金) 08:42:05.94

>>1
バカになりそう🤪

**名無しさん＠恐縮です** · 2025/12/05(金) 08:42:35.33

>>8
オレはテッドでもいい。

**名無しさん＠恐縮です** · 2025/12/05(金) 08:43:02.54

人類滅ぼしちゃおう

**名無しさん＠恐縮です** · 2025/12/05(金) 09:11:44.16

>>13
そそられるw

**名無しさん＠恐縮です** · 2025/12/05(金) 09:19:35.78

今現在、AIを名乗って良いのはどのレベルなのだ？
ドラクエ4レベルだとダメ？

**名無しさん＠恐縮です** · 2025/12/05(金) 09:21:20.70

こんな世界なくなったほうがいい
あなたの不安要素を消せばいい
みたいなこと言い出しそうだからまだ固まってない未成年に与えるなよ

**名無しさん＠恐縮です** · 2025/12/05(金) 09:45:13.96

>>18
土管でUターンするクリボーも立派なAIだぞ

**名無しさん＠恐縮です** · 2025/12/05(金) 09:46:24.14

最近流行りの生成AIとそれ以前からあるAIを混同させて宣伝してるのが多くなった
その1番の代表がNHKのAIニュース読み上げ
あれなんてかなり古いやり方
原稿は人が書いてるわけだ
それは生成AI時代のAIじゃなく古代
これでNHKは最先端やってるから受信料必要ですアピールしてるのがこれが日本人をさらにテックバカにしてる一因

**名無しさん＠恐縮です** · 2025/12/05(金) 09:47:51.17

もちろんNHKはこういうだろう
これは生成AIでやってます！
やってるのが生成AIだとしても人の書いた原稿を読ませてるだけなら古いテックなの

**名無しさん＠恐縮です** · 2025/12/05(金) 09:49:29.04

>>19
いいだしそうだから与えるなよ
とか
この車暴走しそうだから与えるなよ
と同じ
クルマは暴走しまくってるのに販売禁止にしない
いう方向が間違ってるぞ
いうならクルマや飛行機や鉄道や船にいえ

**名無しさん＠恐縮です** · 2025/12/05(金) 09:50:34.04

もちろん暴走しそうなものは自分は使わないよな？
車に乗らないタクシーにも乗らない
鉄道には乗らない飛行機なんてもちろん乗れない

**名無しさん＠恐縮です** · 2025/12/05(金) 09:54:37.12

リアルテッド誕生前夜って感じか

**名無しさん＠恐縮です** · 2025/12/05(金) 09:55:45.95

　
>>1
.
質問をテキスト分解し、ネット上で各セグメントの前後に多く書かれてるテキストを掻き集め、
再構築してるだけのシロモノが

AI （　人　工　知　能　） 😝🤣😝

ChatGPTの実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねー
.
しかも
核爆弾→核分裂→核融合と聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねー
.
懐かしマンガ板で有名なこれ
i.imgur.com/9aGhIZe.jpg
出鱈目にも程がある
.
弁護士がChatGPTで作成した申請書で、存在しない判例がでっち上げられたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
司法手続きでこんなことやったら犯罪だろ
.
採取キノコを撮影しAI判定、「食べられる」と回答も実際は「毒キノコ」
和歌山市男性が嘔吐で入院
www.mbs.jp/4chantv/news/kansai/article/2025/11/108961.shtml
AIじゃ食の安全は絶対無理！
.
4歳の娘への傷害致死事件、AIの「保護率39%」評価参考に児相が保護見送りにしていた
www.asahi.com/articles/ASR7B5F6NR7BONFB009.html?iref=pc_ss_date_article
おいおい！殺人幇助だろ
.
妊娠8ヶ月の黒人女性、AI顔認識で誤認逮捕
egg.5ch.net/test/read.cgi/scienceplus/1691670473/
しかも誤認逮捕まで！
.
AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！
egg.5ch.net/test/read.cgi/scienceplus/1734360184/
こっちは尊属殺人幇助と脅迫、精神傷害！😮‍💨🙂‍↔
.
政府が補助金をつけた、タクシー流しや出前のAI予測など実証実験も、全部失敗したしな。

80年代「意思決定支援」「第4世代言語」に始まり、
90年代では「データウェアハウス」「データマイニング」など、
今世紀も「ビッグデータ」「web.2.0」と繰り返されてきたのが、
欧米金融屋がIT業界とタッグを組んだ煽りステマ。
一時は環境ビジネスへシフトしたが尻つぼみになって株価バブルを虚演できなくなり、
"インチキ知能" AIを全知全能のごとく担いで、ITへ戻ってきやがった。😠

　

**名無しさん＠恐縮です** · 2025/12/05(金) 09:56:01.40

>>18
人工知能（AI）とは、学習、推論、問題解決、知覚、意思決定など、人間の知能に典型的に関連付けられるタスクを実行できるコンピュータシステムを指します。AIシステムは、変化に富み予測不可能な状況下で動作するように設計されており、多くの場合、経験から学習することで時間の経過とともにパフォーマンスを向上させます。

その上でジェミナイくんに聞いてみた
続く

**名無しさん＠恐縮です** · 2025/12/05(金) 09:56:57.03

That's a great question that touches upon the evolution of technology in video games!
The answer is Yes, Dragon Quest IV: Chapters of the Chosen (especially the original NES/Famicom version) is considered a pioneering example of Artificial Intelligence in the context of computer games for its time.
Reasoning: The "Tactics" System
The main reason is the implementation of the "Tactics" system for controlling most of the party members in battle during Chapter 5 (and for temporary party members in other chapters).
* Delegated Control: Unlike previous RPGs where the player directly commanded every action of every character, Dragon Quest IV introduced a system where the player could only directly control the main Hero. The other party members' actions were controlled by the game's internal system.
* Intelligent Behavior (for its time): The player chose a general strategy (like "Offensive," "Defensive," "Save MP," or "Try Out"), and the computer-controlled characters would then execute actions based on an intricate rule base and evaluation functions to select the 'best' spell or attack for the current situation. This decision-making process—choosing from a set of options based on current conditions (like party health, enemy weakness, or MP cost)—is what qualifies it as a form of AI in a video game context.

続く

**名無しさん＠恐縮です** · 2025/12/05(金) 09:57:09.96

Learning/Adaptation: Some sources even suggest that the original game's AI system had a subtle form of learning, where characters could gradually get better at choosing appropriate spells (e.g., a spellcaster might stop wasting instant death spells on immune bosses after repeated attempts).
* Historical Significance: At the time of its release on the Famicom (NES), this level of dynamic, non-linear decision-making for multiple Non-Player Characters (NPCs) was groundbreaking and considered a major step forward in video game AI. The system took up a significant amount of the game's limited memory.
In Summary
While this system is simple rule-based AI and not a modern, complex system like machine learning, it fits the definition of AI in video games as computational systems that control non-player characters and simulate strategic decision-making to create a responsive experience.

**名無しさん＠恐縮です** · 2025/12/05(金) 09:57:33.69

>>20マジで！？
せめてマリオの動きを見て挙動が変わるくらいはしていただきたい…

**名無しさん＠恐縮です** · 2025/12/05(金) 09:59:23.40

はい、承知いたしました。上記の回答を日本語に翻訳します。
ドラクエIVは人工知能（AI）と呼べるか？
それは、ビデオゲームにおける技術の進化に触れる素晴らしい質問ですね！
答えは**「はい」**です。『ドラゴンクエストIV 導かれし者たち』（特にオリジナルのファミリーコンピュータ版）は、当時のコンピューターゲームの文脈において、人工知能の先駆的な例と考えられています。
理由：「作戦」システム
主な理由は、第5章でほとんどの仲間キャラクター（および他の章の一時的な仲間）を戦闘中に制御するために導入された**「作戦」システム**にあります。
* 制御の委任: プレイヤーがパーティ全員のすべての行動を直接コマンドしていた以前のRPGとは異なり、『ドラゴンクエストIV』では、プレイヤーが直接操作できるのは主人公のみでした。他の仲間キャラクターの行動は、ゲームの内部システムによって制御されました。
* 当時のインテリジェントな行動: プレイヤーは「ガンガンいこうぜ」「いのちだいじに」「MPを節約」といった一般的な戦略（作戦）を選びました。すると、コンピューター制御のキャラクターは、複雑なルールベースと評価関数に基づいて行動を実行し、現在の状況に最適な呪文や攻撃を選択しました。現在の状況（パーティの体力、敵の弱点、MP消費量など）に基づいて一連の選択肢の中から選ぶというこの意思決定プロセスが、当時のビデオゲームにおけるAIの一形態と見なされる理由です。
* 学習/適応性: 一部の情報源によると、オリジナルのゲームのAIシステムには微妙な形の学習要素があり、キャラクターが適切な呪文を選ぶのが徐々に上手になる可能性があったとされています（例：呪文使いが即死呪文が効かないボスに何度も無駄打ちするのをやめるなど）。
* 歴史的意義: ファミコンでリリースされた当時、複数のノンプレイヤーキャラクター（NPC）に対してこれほどの動的で非線形な意思決定を行わせることは画期的であり、ビデオゲームAIの大きな進歩と考えられていました。このシステムは、ゲームの限られたメモリの多くを占めていました。
まとめ
このシステムは単純なルールベースのAIであり、機械学習のような現代の複雑なシステムではありませんが、ノンプレイヤーキャラクターを制御し、戦略的な意思決定をシミュレートする計算システムという、ビデオゲームにおけるAIの定義に当てはまります。

**名無しさん＠恐縮です** · 2025/12/05(金) 10:01:03.31

>>30
クリボー「あれは1万通りのシミュレーションをした結果、土管にぶつかりUターンするのが一番ベストだと判断した結果だ」

**名無しさん＠恐縮です** · 2025/12/05(金) 10:02:33.53

AI搭載の大人向け玩具は？

PCで流す動画と連動して学習し利用者の好みのタイミングで圧迫に強弱をつける
スマートオナホ略してスマホの登場はまだなのか？

**名無しさん＠恐縮です** · 2025/12/05(金) 10:02:37.22

>>32
マジか…
究極に最適化されたクリボーの動きだったのか…
でもマリオが背後に立ったら振り返るくらいしてほしい…

**名無しさん＠恐縮です** · 2025/12/05(金) 10:05:04.39

>>26
バカとハサミとテックは使いようだ
高いクルマ買って買い物に使うようなことしてるからんなこと言うんだよ
金儲けてるのは売ったやつだけじゃない
賢く使ってるからこそだ
使えないもので世の中出てくるほどバカな世界じゃない
バカなのはおまえ

**名無しさん＠恐縮です** · 2025/12/05(金) 10:05:16.40

>>17
ググれ

**名無しさん＠恐縮です** · 2025/12/05(金) 10:05:23.44

夫婦の夜の会話を子供に教えてくれるという

**名無しさん＠恐縮です** · 2025/12/05(金) 10:31:45.90

>>5
クリフトがザラキ連発と言われてたけどうちのクリフトはミラーシールド以外全てはぐれメタルシリーズ装備だったから打撃専門だった
その代わりマーニャがすぐにドラゴラム唱える

**名無しさん＠恐縮です** · 2025/12/05(金) 10:36:34.45

これ芸スポか？

**名無しさん＠恐縮です** · 2025/12/05(金) 11:16:14.83

本体にチップがあるんじゃないんだろ？
別にスマホと同じじゃんｗ
それで何の問題が有るのか？

**名無しさん＠恐縮です** · 2025/12/05(金) 11:29:15.26

電脳チャッキー

**名無しさん＠恐縮です** · 2025/12/05(金) 11:32:44.02

ドラクエは5がすごい賢かったのにどうしてそれ以降は馬鹿ばかりなのか
一番ひどいのがリメイク 5なのがね

**名無しさん＠恐縮です** · 2025/12/05(金) 12:04:49.79

ロンドンのアルファベット子会社Google DeepMindがジェミナイ作っててそれを兄弟会社のGoogleが周りを色々やって世に出してるんだけどもそのディープマインドのCEO去年のノーベル化学賞のデミスハサビスはゲームから始まってる人
1976年生まれの今年49歳

デミス・ハサビスは、わずか17歳の時に人気ビデオゲーム「テーマパーク」の共同開発者となりました。このゲームでは、プレイヤーはテーマパークを建設し、経営するという課題に挑戦します。

**名無しさん＠恐縮です** · 2025/12/05(金) 12:13:26.86

デミスはチェスの達人でもあってそれもあってAlphaGOが2015.16にトップ囲碁棋士を破って中国囲碁協会から九段もらったのね

でも実は

12歳でチェスの試合に負けたことが、Google DeepMind CEOデミス・ハサビス氏をAIの道へ導いた

デミス・ハサビス氏は今やAI革命における最重要人物の一人ですが、1988年にチェスの試合で敗北していなければ、事態は全く違ったものになっていたかもしれません。

Google DeepMindのCEOであるハサビス氏は、Google DeepMindのドキュメンタリー『The Thinking Game』の中で、プロチェスから人工知能へと自身の進路を転換させた衝撃的なエピソードを語りました。当時12歳だったハサビス氏は、当時世界ランキングで2番目に高いチェスプレイヤーであり、チェス盤でのキャリアを歩む運命にあるかに見えました。しかし、リヒテンシュタインで開催された国際トーナメントでの10時間に及ぶ過酷な試合が、全てを変えることになります。敗北したからではなく、その敗北を通して、人間の知性をどのように使うべきかについて彼に気づかせたからです。

**名無しさん＠恐縮です** · 2025/12/05(金) 12:14:53.04

同じGoogleついてるけどディープマインドはGoogle子会社じゃなくアルファベット子会社
Googleとは横の関係

**名無しさん＠恐縮です** · 2025/12/05(金) 12:15:18.54

ミーガンは20年後くらい？

**名無しさん＠恐縮です** · 2025/12/05(金) 12:32:24.70

そこでオリエント工業ですよ

**名無しさん＠恐縮です** · 2025/12/05(金) 12:44:51.82

AIと熊って危険な組み合わせだな

**名無しさん＠恐縮です** · 2025/12/05(金) 12:51:54.46

LLM触れるななんてのはふた昔前のネット使うな
ネット検索するな
Wikipedia使うな
と同じ

**名無しさん＠恐縮です** · 2025/12/05(金) 12:52:52.78

ゲームさせるな
テレビ見せるな
本読ませるな
学校なんて役に立たない田んぼ手伝え
みんな同じ

**名無しさん＠恐縮です** · 2025/12/05(金) 14:19:26.51

SkyrimのAINPCて出てこないけど採算あんのかな

**名無しさん＠恐縮です** · 2025/12/05(金) 19:12:48.22

子ども「もう死にたい」
クッマ「いいんじゃないかな応援するよ」

**名無しさん＠恐縮です** · 2025/12/05(金) 19:40:15.43

>>35

事実で反論できねー負け犬バカサヨ五毛チョンの泣きべそ

**名無しさん＠恐縮です** · 2025/12/05(金) 19:40:29.81

　
>>1
.
質問をテキスト分解し、ネット上で各セグメントの前後に多く書かれてるテキストを掻き集め、
再構築してるだけのシロモノが

AI （　人　工　知　能　） 😝🤣😝

ChatGPTの実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねー
.
しかも
核爆弾→核分裂→核融合と聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねー
.
懐かしマンガ板で有名なこれ
i.imgur.com/9aGhIZe.jpg
出鱈目にも程がある
.
弁護士がChatGPTで作成した申請書で、存在しない判例がでっち上げられたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
司法手続きでこんなことやったら犯罪だろ
.
採取キノコを撮影しAI判定、「食べられる」と回答も実際は「毒キノコ」
和歌山市男性が嘔吐で入院
www.mbs.jp/4chantv/news/kansai/article/2025/11/108961.shtml
AIじゃ食の安全は絶対無理！
.
4歳の娘への傷害致死事件、AIの「保護率39%」評価参考に児相が保護見送りにしていた
www.asahi.com/articles/ASR7B5F6NR7BONFB009.html?iref=pc_ss_date_article
おいおい！殺人幇助だろ
.
妊娠8ヶ月の黒人女性、AI顔認識で誤認逮捕
egg.5ch.net/test/read.cgi/scienceplus/1691670473/
しかも誤認逮捕まで！
.
AIが10代の少年に「両親の殺害」を促し、精神崩壊させる事件が発生！
egg.5ch.net/test/read.cgi/scienceplus/1734360184/
こっちは尊属殺人幇助と脅迫、精神傷害！😮‍💨🙂‍↔
.
政府が補助金をつけた、タクシー流しや出前のAI予測など実証実験も、全部失敗したしな。

80年代「意思決定支援」「第4世代言語」に始まり、
90年代では「データウェアハウス」「データマイニング」など、
今世紀も「ビッグデータ」「web.2.0」と繰り返されてきたのが、
欧米金融屋がIT業界とタッグを組んだ煽りステマ。
一時は環境ビジネスへシフトしたが尻つぼみになって株価バブルを虚演できなくなり、
"インチキ知能" AIを全知全能のごとく担いで、ITへ戻ってきやがった。😠

　

**名無しさん＠恐縮です** · 2025/12/07(日) 07:55:32.88

>>36
ありがとう❤

　　　＿ /⌒ヽ
　／ /　￣ `ヽ
/　（リ从ﾘ）,）ヽ
|　| |　． '　．Y |
| (| |　"　ヮ " | |
|　ヽ`>、＿ .ノ_ﾉ
|l　(⌒) [水] l
|l /| └ｎ/ｌ二二二.ｌ
ﾘ/ `ー`//ﾔﾏﾄ便/)

https://www.cnn.co.jp/storage/2025/11/20/18dcb4bed2d9bb819896df6992aeab4c/t/768/432/d/screenshot-2025-11-19-at-09-56-51-copy.jpg