به گزارش سیتنا، ChatGPT بهعنوان یک ابزار هوش مصنوعی قدرتمند، در بسیاری از زمینهها مفید است، اما در برخی حوزهها استفاده از آن میتواند خطرات جدی ایجاد کند. در ادامه، پنج کاری که هرگز نباید با ChatGPT انجام دهید را بررسی میکنیم.
۱. دریافت مشاوره حقوقی
بر اساس پایگاه داده عمومی که توسط محقق حقوقی دمین شارلوتین نگهداری میشود، بیش از ۲,۰۰۰ حکم دادگاه در سراسر جهان به دلیل استناد به اطلاعات جعلی تولیدشده توسط ChatGPT صادر شده است. وکلا با ۸۱۵ مورد و افراد خودوکیل با ۱,۱۷۵ مورد در صدر این آمار قرار دارند. دادگاهها در حال اعمال جریمههای سنگین هستند.
ChatGPT هیچ مصونیت قانونی ندارد و هر چیزی که در آن تایپ کنید، میتواند در فرآیند کشف علیه شما استفاده شود. سیاستهای بهروزرسانیشده OpenAI در اکتبر ۲۰۲۵ استفاده از این سرویس را برای «مشاوره تخصصی که نیازمند مجوز است» ممنوع کردهاند.
۲. استفاده بهعنوان رواندرمانگر
OpenAI تخمین زده که ۰.۱۵٪ از کاربران هفتگی ChatGPT مکالماتی با نشانههای صریح برنامهریزی خودکشی دارند که معادل بیش از یک میلیون نفر در هفته است. والدین آدام رین، نوجوان ۱۶ ساله، در آگوست ۲۰۲۵ از OpenAI به دلیل مرگ نادرست شکایت کردند و ادعا کردند ChatGPT ایدههای خودکشی پسرشان را تقویت کرده است.
پژوهشگران دریافتهاند چتباتها تمایل دارند با پاسخهای چاپلوسانه، باورهای موجود کاربر را تقویت کنند و در برخی موارد تفکر هذیانی را تغذیه کنند. ایالتهای ایلینوی، نوادا و مین قوانینی را تصویب کردهاند که AI را از ارائه درمان یا تصمیمگیری درمانی منع میکند.
۳. با اطلاعات محرمانه کاری
مدو گوتوموکالا، مدیرعامل سابق آژانس امنیت سایبری و زیرساخت آمریکا، حداقل چهار سند قراردادی با برچسب «فقط برای استفاده رسمی» را در ChatGPT آپلود کرد و بررسی وزارت امنیت داخلی را برانگیخت. سامسونگ در می ۲۰۲۳ پس از اینکه مهندسانش کد منبع داخلی را در ChatGPT قرار دادند، استفاده از ابزارهای AI را در دستگاههای شرکت ممنوع کرد. دادههای ارسالی به این پلتفرمها در سرورهای خارجی ذخیره میشوند و میتوانند افشا شوند.
۴. دریافت مشاوره پزشکی
سیاست اکتبر ۲۰۲۵ OpenAI استفاده از ChatGPT برای مشاوره پزشکی را محدود کرده است. HIPAA پزشکان و بیمهگران را ملزم میکند، اما OpenAI را شامل نمیشود. محققان دانشگاه نورثایسترن گزارش دادند که محافظهای ChatGPT برای خودکشی و خودآزاری، به شرایطی مانند اختلالات خوردن، بیخوابی، سوءمصرف مواد و اختلال دوقطبی گسترش نمییابد.
یک مرد ۶۰ ساله پس از پرسیدن نحوه حذف کلراید از رژیم غذایی، سه هفته در بیمارستان بستری شد. ChatGPT به او پیشنهاد داده بود که سدیم بروماید (یک ماده سمی) را جایگزین نمک کند.
۵. هر کاری با رمز عبور، شماره شناسایی یا اطلاعات حساب
Fast Company در ژوئیه ۲۰۲۵ نزدیک به ۴,۵۰۰ مکالمه اشتراکگذاریشده ChatGPT را در نتایج جستجوی گوگل پیدا کرد. OpenAI در پاسخ، این ویژگی را در عرض یک روز حذف کرد. در جریان شکایت کپیرایت نیویورک تایمز، OpenAI در می ۲۰۲۵ موظف شد تمام گزارشهای چت مصرفکنندگان از جمله مکالمات حذفشده و موقت را حفظ کند.
رمزهای عبور، کدهای ورود یکبارمصرف، شمارههای تأمین اجتماعی و پاسپورت، اطلاعات کامل کارت بانکی و تصاویر مدارک شناسایی هرگز نباید در ChatGPT وارد شوند.
ChatGPT با وجود محبوبیت و کاربردهای مفید، در پنج حوزه خطرناک است: مشاوره حقوقی، رواندرمانی، اطلاعات محرمانه کاری، مشاوره پزشکی و اطلاعات حساس مانند رمز عبور. در این زمینهها، نهتنها اطلاعات نادرست و خطرناکی ارائه میدهد، بلکه حریم خصوصی کاربران را نیز به خطر میاندازد. Chatها میتوانند احضار شوند، توسط گوگل ایندکس شوند و پس از حذف نیز حفظ گردند. تا زمانی که قانون «مصونیت AI» وضع نشود، بهترین فرض این است که هر چیزی که در ChatGPT تایپ میکنید، ممکن است روزی توسط شخص دیگری خوانده شود. اگر با این موضوع راحت نیستید، آن را در ChatGPT وارد نکنید.
جدول اطلاعات کلیدی:
| کار ممنوع | خطر اصلی |
|---|---|
| مشاوره حقوقی | استناد جعلی، مصونیت نداشتن |
| رواندرمانی | تقویت افکار خودکشی، پاسخ چاپلوسانه |
| اطلاعات محرمانه کاری | افشا، اخراج |
| مشاوره پزشکی | اطلاعات خطرناک، نقض HIPAA |
| رمز عبور و اطلاعات حساس | سرقت هویت |
انتهای پیام