تگ‌های بحث‌برانگیز ChatGPT به کجا رسید؟

برخی از کاربران ChatGPT گفتند که اگر متن‌هایی که تولید می‌کنند دارای واترمارک باشد، کمتر از این پلتفرم هوش مصنوعی استفاده خواهند کرد.

به گزارش ایتنا، مشخص است که OpenAI حدود یک سال است که سیستم مخصوص به خود را برای واترمارک کردن متون تولید شده توسط هوش مصنوعی (ChatGPT) دارد، اما این مدیران و اعضای این شرکت در مورد انتشار یا عدم انتشار آن اختلاف نظر دارد.

 از طرفی، به نظر می‌رسد که این کار مسئولیتی بزرگ به همراه دارد، در حالی که از طرفی دیگر، می‌تواند به خط نهایی و تعداد کاربران ChatGPT آسیب برساند.

در یک نظرسنجی که توسط OpenAI انجام شد، مردم در سراسر جهان از ایده افزودن واترمارک به تشخیص هوش مصنوعی استقبال کردند.

 

واترمارک OpenAI به‌عنوان تغییر نحوه پیش‌بینی این مدل محتمل‌ترین کلمات و عباراتی که به دنبال کلمات و عبارات قبلی هستند، توصیف می‌شود. یک الگوی قابل تشخیص ایجاد می کند.

این تگ در بسیاری از موارد مفید است، برای مثال، ارائه هر روشی برای شناسایی مطالب نوشته شده توسط هوش مصنوعی، ابزاری برای کمک به معلمانی است که سعی می کنند دانش آموزان را از سپردن تکالیف به هوش مصنوعی بازدارند.

OpenAI می‌گوید روش آن بسیار دقیق، 99.9 درصد موثر و مقاوم در برابر دستکاری و فرمول‌بندی مجدد است.

در مقابل، به نظر می‌رسد OpenAI نگران این است که استفاده از واترمارک ممکن است کاربران ChatGPT را از خود دور کند که طبق نظرسنجی انجام شده توسط این شرکت، نزدیک به 30 درصد از آنها صریحاً به شرکت گفته‌اند که در صورت پیاده‌سازی واترمارک از این برنامه کمتر استفاده خواهند کرد.

با این وجود، برخی از کارمندان شرکت اعلام کردند که واترمارک موثر است اما با توجه به نارضایتی کاربران، پیشنهاد کرده‌اند رویکردهایی را آزمایش کنند که کمتر بحث برانگیزی باشد و کاربران را از پلتفرم ChatGPT دور نکند.