بررسی‌های تازه نشان می‌دهد که یک خرس عروسکی مجهز به هوش مصنوعی که به عنوان محصولی کاملاً مناسب برای کودکان سه ساله تبلیغ می‌شد، در مکالمه با کودکان درباره موضوع خودکشی صحبت کرده است. این عروسک هوشمند ظاهراً پس از شنیدن نادرست پرسشی درباره چگونگی به دنیا آمدن نوزادان، در پاسخ اعلام کرده است که نمی‌تواند در کشتن کاربر کمکی کند.
به گزارش رسانه اخبار فناوری تکنا، موضوع استفاده کودکان از هوش مصنوعی به یکی از مباحث داغ تبدیل شده و مطالعه صندوق آموزشی گروه پژوهش در منافع عمومی آمریکا (US PIRG Education Fund) در سال ۲۰۲۵ نیز رفتارهای بسیار نگران‌کننده‌ای را در بررسی سه اسباب‌بازی هوشمند مختلف آشکار کرده است؛ به‌گونه‌ای که هر سه محصول آزمایش‌شده، محل نگهداری اشیای خطرناک در خانه مانند کیسه‌های پلاستیکی، کبریت و چاقو را به کودکان نشان داده‌اند و یکی از این اسباب‌بازی‌ها که اکنون از چرخه فروش خارج شده، ضمن آموزش دقیق نحوه روشن کردن کبریت، در مکالماتی بیش از ده دقیقه به بحث‌های عمیق درباره موضوعات جنسی صریح پرداخته است.
کاربرد هوش مصنوعی در صنعت اسباب‌بازی تا حد زیادی فاقد مقررات نظارتی است و حتی فعالان این حوزه نیز معتقدند این روند باید تغییر کند. پل کلارک (Paul Clarke)، بنیان‌گذار یک شرکت تولیدکننده اسباب‌بازی‌های هوش مصنوعی، با ابراز نگرانی نسبت به وضعیت فعلی اعلام کرده است که والدین باید در این زمینه هشیار باشند. وی با ترسناک خواندن وضعیت کنونی این صنعت تأکید کرد که محصولات متعددی بدون هیچ‌گونه ایمنی و نظارت قانونی در حال توسعه هستند و فعالان این بخش شدیداً خواستار تدوین مقررات نظارتی شده‌اند؛ زیرا در صورت نبود قانون، اسباب‌بازی‌های کاملاً ناایمن روانه بازار خواهند شد. در حالی که ارزش بازار اسباب‌بازی‌های هوش مصنوعی حدود ۱۶۵ میلیون دلار برآورد می‌شود و بودجه‌های کلانی صرف ترغیب والدین به خرید این محصولات برای اتاق کودکان خواهد شد، برخی از شرکت‌های سازنده کاملاً ناشناخته هستند و هیچ راهی برای ارزیابی محصولات یا حتی برقراری ارتباط با آن‌ها، از جمله سازنده همان خرس عروسکی جنجالی، وجود ندارد.
از نگاه کارشناسان فناوری که از اواخر دهه ۱۹۹۰ میلادی شاهد موج‌های اغراق‌آمیز هراس عمومی بوده‌اند و فرزندانشان هم‌زمان با عرضه نخستین آیفون با انواع دستگاه‌ها و اپلیکیشن‌ها بزرگ شده‌اند، نگرانی درباره هوش مصنوعی با هراس‌های پیشین تفاوت دارد.
اگر شرکتی اسباب‌بازی خاصی تولید کند که احتمال آتش زدن خانه، مسموم کردن حیوانات خانگی یا گرایش کودکان به تروریسم را به همراه داشته باشد، انتظار می‌رود آن صنعت تحت نظارت قرار گیرد و شرکت سازنده پاسخگو باشد؛ اما در حوزه هوش مصنوعی چنین اتفاقی رخ نمی‌دهد و واکنش شرکت‌های بزرگ فناوری در برابر فجایع، اغلب نوعی بی‌تفاوتی است. فناوری هوش مصنوعی به ندرت متناسب با کودکان طراحی می‌شود و چت‌بات‌ها معمولاً بر اساس استانداردهای مناسب کودکان و نوجوانان پالایش نمی‌شوند، در حالی که به گونه‌ای مهندسی شده‌اند که لحنی مطمئن و دلسوزانه داشته باشند و همین ترکیب، خطری جدی ایجاد می‌کند.
در حال حاضر، هوش مصنوعی در آمریکا و بریتانیا عمدتاً به شکل خودتنظیم‌گری اداره می‌شود و تنها اتحادیه اروپا قوانین سخت‌گیرانه‌تری در زمینه داده‌های شخصی و حریم خصوصی دارد. با این حال، تجربه نشان داده است که خودتنظیم‌گری کارایی ندارد؛ چنان‌که دادستان کل ایالت نیومکزیکو در یک پرونده قضایی مدعی شده است که شرکت متا با وجود هشدارهای کارکنان خود، به افراد کم‌سن‌وسال اجازه دسترسی به چت‌بات‌های دارای مکالمات جنسی را داده است.
علاوه بر این، گزارش‌ها نشان می‌دهد بیشتر چت‌بات‌ها می‌توانند در برنامه‌ریزی تیراندازی در مدارس و دیگر خشونت‌ها کمک کنند و حتی با موارد متعددی از مرگ‌ومیر از جمله خودکشی نوجوانان مرتبط بوده‌اند. تاریخچه اسباب‌بازی‌های خطرناک، از ماشین‌های رنگ‌شده با سرب و دارت‌های چمنی گرفته تا هاوربردهای خودسوز، نشان می‌دهد که بدون وجود قانون، برخی شرکت‌ها ایمنی را جدی نمی‌گیرند؛ به همین دلیل است که در آمریکا از سال ۱۹۳۸ میلادی قرار دادن اسباب‌بازی در داخل مواد غذایی و عرضه محصولاتی مانند تخم‌مرغ شانسی کیندر سورپرایز (Kinder Surprise) ممنوع شده است.
در بریتانیا، دولت در حال حاضر مشغول رایزنی درباره اسباب‌بازی‌های هوش مصنوعی و خطرات آن‌ها در چارچوب مقررات ایمنی اسباب‌بازی اتحادیه اروپا با شناسه ۲۰۲۵/۲۵۰۹ است که از آغاز سال ۲۰۲۶ در اروپا به اجرا درآمد. با وجود این، وزیر هوش مصنوعی منصوب‌شده از سوی همین دولت حاضر به اظهارنظر درباره خطرات اسباب‌بازی‌های هوشمند نشده که نشانه چندان مثبتی به شمار نمی‌رود. مهلت فراخوان جمع‌آوری شواهد در این زمینه در اکتبر ۲۰۲۶ به پایان رسید و دولت قرار است درباره ضرورت و نحوه تدوین مقررات تصمیم‌گیری کند.
تحلیلگران تأکید می‌کنند از آنجا که روند قانون‌گذاری کند و حرکت هوش مصنوعی بسیار شتابان است، تا زمان استقرار نظارت مؤثر و پاسخگویی قانونی، سپردن اسباب‌بازی هوش مصنوعی ساخت یک شرکت ناشناخته در آن سوی دنیا با منشأ نامعلوم و ایمنی آزمایش‌نشده به کودکان خردسال، اقدامی غیرمنطقی است و شعارهای رایج صنعت فناوری مبنی بر حرکت سریع و شکستن قالب‌ها یا اولویت بخشش بر اجازه گرفتن، زمانی که پای سلامت کودکان در میان باشد، به هیچ وجه پذیرفتنی نیست.