به گزارش سیتنا، اوپن‌ای‌آی اعلام کرده واترمارک متنی خود با نام textGrain را در پاسخ‌های چت‌جی‌پی‌تی و کدکس فعال می‌کند، اما این قابلیت در زمان عرضه به پیش‌فرض جهانی تبدیل نمی‌شود. رویکرد منطقه‌ای به این شرکت اجازه می‌دهد از استفاده واقعی و بازخورد کاربران بیاموزد. این اقدام پس از آن صورت می‌گیرد که آنتروپیک نیز در ماه اوت واترمارک مشابهی را برای رعایت قانون هوش مصنوعی اتحادیه اروپا معرفی کرده بود.
واترمارک textGrain چگونه کار می‌کند؟
- واترمارک نامرئی و قابل خواندن با ماشین است و در متن خروجی جاسازی می‌شود.
- اوپن‌ای‌آی می‌گوید textGrain در مقایسه با روش‌هایی مانند SynthID گوگل دیپ‌مایند، عملکردی برابر یا بهتر داشته است.
- این شرکت نتایج آزمون‌های هوش مصنوعی را منتشر کرده که نشان می‌دهد عملکرد متن واترمارک‌دار و بدون واترمارک مشابه است.
- با این حال، اوپن‌ای‌آی تأکید می‌کند که textGrain تشخیص قابل اعتماد را تضمین نمی‌کند.
- واترمارک متنی صحت محتوا را تأیید نمی‌کند، مالکیت متن را تعیین نمی‌کند، میزان مشارکت انسان را اندازه نمی‌گیرد و نویسندگی انسانی را اثبات نمی‌کند.
زمان‌بندی و دامنه عرضه
- طی هفته‌های آینده، واترمارک متنی برای کاربران واجد شرایط چت‌جی‌پی‌تی و کدکس در همه طرح‌ها، فقط در اتحادیه اروپا معرفی می‌شود.
- این قابلیت در زمان عرضه به پیش‌فرض جهانی تبدیل نخواهد شد.
- از امروز، مشتریان API در سراسر جهان می‌توانند به‌صورت اختیاری خروجی‌های واترمارک‌دار را برای مدل‌های منتخب فعال کنند.
- اوپن‌ای‌آی همچنین با شرکای ابری همکاری می‌کند تا واترمارک برای خروجی مدل‌های این شرکت از طریق سرویس‌های آن‌ها در هفته‌های آینده در دسترس قرار گیرد.
دسترسی پژوهشگران به ابزار تشخیص
- پژوهشگران و سازمان‌های تخصصی تأییدشده می‌توانند از امروز درخواست دهند.
- دسترسی در ابتدا مورد به مورد اعطا می‌شود تا به ارزیابی و بهبود اصالت متن کمک کند.
- این ابزار گزارش می‌دهد که آیا واترمارک اوپن‌ای‌آی را تشخیص داده است یا نه، بدون شناسایی کاربر و بدون افشای درخواست‌ها یا مکالمات او.
- با توجه به خطر واترمارک‌های ازدست‌رفته و نتایج مثبت کاذب، این ابزار در زمان عرضه به‌صورت عمومی در دسترس نخواهد بود.
افزودن واترمارک متنی به چت‌جی‌پی‌تی و کدکس نشان‌دهنده حرکت اوپن‌ای‌آی به سمت شفافیت بیشتر و رعایت مقررات اتحادیه اروپا است. رویکرد منطقه‌ای و اختیاری بودن برای مشتریان API، این شرکت را قادر می‌سازد پیش از تعمیم جهانی، بازخورد واقعی جمع‌آوری کند. با این حال، محدودیت‌های تشخیص و عدم تضمین صحت محتوا نشان می‌دهد واترمارک به‌تنهایی برای اعتبارسنجی محتوای هوش مصنوعی کافی نیست و همچنان به نظارت انسانی نیاز دارد. کاربران ایرانی نیز باید توجه داشته باشند که این قابلیت در مرحله اول در ایران فعال نخواهد بود.
جدول اطلاعات کلیدی
| شاخص | جزئیات |
|---|---|
| نام فناوری | textGrain |
| شرکت | اوپن‌ای‌آی |
| محصولات | چت‌جی‌پی‌تی و کدکس |
| منطقه عرضه اولیه | اتحادیه اروپا |
| دلیل عرضه | قانون هوش مصنوعی اتحادیه اروپا |
| وضعیت پیش‌فرض جهانی | خیر |
| امکان فعال‌سازی برای API | بله، اختیاری |
| دسترسی پژوهشگران | مورد به مورد |
| تضمین تشخیص | ندارد |
| تأیید صحت محتوا | ندارد |
انتهای پیام