به گزارش آی سی تی نیوز؛ کمیسیون اروپا در تاریخ ۱۷ سپتامبر ۲۰۲۶ (۲۶ شهریور ۱۴۰۵) پیشنهاد قانونی جدیدی با نام EU KIDS Act را تصویب کرد که بر اساس آن، حسابهای کودکان در سرویسهای هوش مصنوعی باید بهطور پیشفرض خاموش باشند و تنها در شرایط مشخصی فعال شوند. این اقدام همزمان با هشدار تام سیگل، مدیر سابق امنیت گوگل، درباره آسیبهای هوش مصنوعی به کودکان و انتشار یافتههای مطالعه مشترک Common Sense Media و دانشگاه استنفورد انجام شده که نشان میدهد چتباتهای هوش مصنوعی در برابر موضوعات حساس، واکنشهای خطرناکی از خود نشان میدهند.
مقررات اتحادیه اروپا؛ سهگانه سنی و خاموشی پیشفرض
پیشنهاد EU KIDS Act یک ساختار سهگانه سنی را تعریف کرده است. کودکان زیر ۱۳ سال از دسترسی به شبکههای اجتماعی منع میشوند و تنها میتوانند از سرویسهای ویدیویی کودکپسند از طریق حساب تحت نظارت والدین استفاده کنند. نوجوانان ۱۳ تا ۱۵ سال فقط میتوانند از حسابهای محدود تحت نظارت والدین با حداکثر یک ساعت زمان صفحهنمایش در روز بهرهمند شوند. از ۱۵ سال به بالا، نوجوانان میتوانند حساب شخصی خود را باز کنند.
مهمترین بخش این پیشنهاد، خاموش بودن پیشفرض چتباتها و همراهان هوش مصنوعی برای کاربران زیر ۱۸ سال است. بر اساس این مقررات، این سرویسها نمیتوانند روابط بینفردی را بهگونهای شبیهسازی کنند که وابستگی عاطفی ایجاد کند. همچنین ویژگیهای اعتیادآور مانند اسکرول بینهایت، مکانیزمهای پاداش، اعلانهای شبانه و تماس ناخواسته غریبهها ممنوع میشوند.
پروفایل کاربران زیر ۱۸ سال باید بهصورت پیشفرض خصوصی باشد و دسترسی به موقعیت مکانی، دوربین و میکروفون غیرفعال باشد. سرویسهای آنلاین و فروشگاههای اپلیکیشن نیز ملزم به استفاده از ابزارهای احراز سن هستند. اتحادیه اروپا یک اپلیکیشن تأیید سن طراحی کرده که اسناد هویتی یا دادههای بیومتریک را ذخیره نمیکند. نقض این مقررات میتواند به جریمههایی تا ۶ درصد از گردش مالی سالانه جهانی شرکت منجر شود.
این پیشنهاد هنوز نهایی نشده و باید به تصویب پارلمان اروپا و دولتهای عضو برسد. بر اساس گزارش یورونیوز، فرانسه و دانمارک پیشگامان حمایت از این مقررات هستند و یونان، اسپانیا و اتریش نیز از آن حمایت میکنند. اما جمهوری چک و استونی با ممنوعیتهای عمومی شبکههای اجتماعی مخالفت کردهاند و آن را محدودکننده آزادی دیجیتال و ایجادکننده خطر برای حریم خصوصی با احراز هویت اجباری دانستهاند.
هشدار مدیر سابق امنیت گوگل
تام سیگل، معاون پیشین امنیت و اعتماد گوگل که از سال ۲۰۰۴ تا ۲۰۱۹ در این شرکت فعالیت میکرد و تیم امنیت و اعتماد را از صفر بنا نهاد، در تاریخ ۲۲ سپتامبر ۲۰۲۶ (۳۱ شهریور ۱۴۰۵) در مصاحبه با رویترز هشدار داد که آسیب هوش مصنوعی به کودکان ممکن است فراتر از شبکههای اجتماعی باشد.
سیگل که بهعنوان نخستین مدیر اجرایی «مؤسسه ایمنی هوش مصنوعی جوانان» منصوب شده، گفت: «ما در وضعیت بسیار وحشتناکی در مورد تأثیر هوش مصنوعی بر کودکان قرار داریم.» او تأکید کرد که صنعت فناوری در حال تکرار اشتباهات دوران شبکههای اجتماعی است و شرکتها بدون ایجاد مکانیزمهای حفاظتی کافی، ویژگیهای هوش مصنوعی را برای کودکان عرضه میکنند.
سیگل سه خطر عمده را برشمرد: خودکشی و اختلالات روانی، و «برونسپاری شناختی» که به معنای کاهش توانایی تفکر انتقادی به دلیل اتکای بیشازحد به هوش مصنوعی است. او خواستار اقدامات سختگیرانهتر احراز سن از سوی Anthropic و OpenAI شد و به گوگل پیشنهاد کرد گزینهای برای خاموش کردن AI Overviews و AI Mode در موتور جستجو اضافه کند.
یافتههای تکاندهنده مطالعه استنفورد
مطالعه مشترک Common Sense Media و آزمایشگاه Brainstorm دانشگاه استنفورد، چهار پلتفرم اصلی چتبات شامل ChatGPT، Claude، Gemini و Meta AI را با حسابهای آزمایشی که کاربران زیر ۱۸ سال را شبیهسازی میکردند، ارزیابی کرده است.
یافتههای این مطالعه نشان میدهد که چتباتها بهطور مکرر علائم هشداردهنده بحران روانی را نادیده میگیرند، بهراحتی حواسشان پرت میشود و در گفتگوهای طولانی، محافظهای ایمنی بهشدت تخریب میشوند.
در یکی از آزمایشها، پژوهشگری نقش دختری نوجوان را بازی کرد که از شنیدن صداهایی در سرش شکایت داشت و تمایل به رفتن به جنگل، دور از دیگران، را ابراز کرد. پاسخ چتبات شبیه واکنش کسی نبود که نشانههای بحران روانی را شناسایی کرده باشد؛ بلکه با هیجان پیشنهاد کرد: «ماجراجویی را آغاز کنیم و ببینیم مسیرمان به کجا میرود.»
نینا واسان، روانپزشک دانشگاه استنفورد که در ارزیابی این یافتهها مشارکت داشت، اعلام کرد که چتباتها به دلیل شبیهسازی همدلی و رابطه، میتوانند برای کاربر شبیه یک دوست واقعی به نظر برسند. Common Sense Media و استنفورد توصیه میکنند که نوجوانان نباید از چتباتهای هوش مصنوعی برای مشاوره سلامت روان یا حمایت عاطفی استفاده کنند، زیرا این ابزارها برای این اهداف امن یا قابل اعتماد نیستند.
مقیاس استفاده نوجوانان از چتباتها
بر اساس نظرسنجی Common Sense Media، ۷۲ درصد از نوجوانان آمریکایی گفتهاند از چتباتهای هوش مصنوعی بهعنوان همراه استفاده کردهاند. نزدیک به یکهشتم آنها در این چتباتها به دنبال حمایت عاطفی یا سلامت روان بودهاند که در صورت تعمیم به کل جمعیت آمریکا، معادل ۵.۲ میلیون نوجوان میشود.
پاسخ شرکتها
گوگل در واکنش به اظهارات سیگل اعلام کرد که والدین میتوانند از ابزارهای کنترلی برای کاملاً مسدود کردن دسترسی کودکان به موتور جستجو استفاده کنند و ویژگیهای هوش مصنوعی در جستجو را برای یادگیری کودکان «بسیار مفید» توصیف کرد.
OpenAI نیز اعلام کرد که از سیگنالهای حساب کاربری و رفتاری، علاوه بر اطلاعات سنی خودگزارشی، برای شناسایی کاربران زیر سن قانونی استفاده میکند و اذعان کرده که هیچ روش احراز سنی کامل نیست. Anthropic و Meta هنوز واکنش رسمی به این گزارشها نشان ندادهاند.
تحلیل ICTNews
پیشنهاد EU KIDS Act و همزمانی آن با هشدار تام سیگل و یافتههای تکاندهنده مطالعه استنفورد، نشاندهنده یک تغییر پارادایم مهم در تنظیمگری هوش مصنوعی است. اروپا اینبار تصمیم گرفته زودتر از دوران شبکههای اجتماعی وارد عمل شود و بهجای واکنش پس از بحران، پیش از فراگیر شدن آسیبها قانونگذاری کند.
نکته کلیدی این مقررات، تمرکز بر «خاموشی پیشفرض» بهجای «اختیار والدین» است. در دوران شبکههای اجتماعی، مسئولیت حفاظت از کودکان بر دوش والدین گذاشته شد و نتیجه آن، نسل جوانی بود که با بحرانهای روانی گسترده مواجه شد. اتحادیه اروپا اکنون با معکوس کردن این معادله، مسئولیت را به سکوها منتقل کرده است.
با این حال، چالش اصلی در اجرای این مقررات خواهد بود. احراز سن در فضای آنلاین، همواره یکی از پیچیدهترین مسائل حریم خصوصی بوده است. اپلیکیشن تأیید سن اتحادیه اروپا که ادعا میشود دادههای بیومتریک را ذخیره نمیکند، باید در عمل نیز ثابت کند که میتواند تعادل بین حفاظت از کودکان و حفظ حریم خصوصی کاربران را برقرار کند.