آغاز واترمارک‌گذاری متن‌های ChatGPT در اتحادیه اروپا
اوپن‌ای‌آی در راستای رعایت «قانون هوش مصنوعی اتحادیه اروپا»، از آغاز اجرای طرح واترمارک‌گذاری نامرئی بر روی محتوای تولیدشده توسط ChatGPT و Codex خبر داد. این اقدام با هدف ایجاد شفافیت بیشتر در تشخیص محتوای هوش مصنوعی انجام می‌شود.
واترمارک نامرئی؛ تکنولوژی جدید اوپن‌ای‌آی
اوپن‌ای‌آی اعلام کرده است که در هفته‌های آینده، قابلیت واترمارک‌گذاری متنی را برای کاربران واجد شرایط در اتحادیه اروپا فعال می‌کند. برخلاف تصور عمومی، این واترمارک هیچ عبارت یا نماد قابل مشاهده‌ای را به نوشته اضافه نمی‌کند. این فناوری که بر پایه الگوهای آماری در انتخاب کلمات استوار است، توسط یک سامانه تشخیص مخصوص قابل شناسایی خواهد بود.
این روش که در گزارش‌های فنی «textGrain» نامیده شده، به‌گونه‌ای طراحی شده است که هنگام کپی یا انتقال متن نیز همراه آن باقی می‌ماند و پاک‌کردن آن برای کاربر عادی غیرممکن است.
چرا اتحادیه اروپا؟
این تصمیم در چارچوب قوانین سخت‌گیرانه اتحادیه اروپا برای شفافیت در حوزه فناوری‌های هوش مصنوعی اتخاذ شده است. شرکت‌های فعال در این حوزه موظف هستند راهکارهایی برای شناسایی محتوای تولیدشده توسط ماشین ارائه دهند تا از سوءاستفاده‌های احتمالی و انتشار اخبار جعلی جلوگیری شود.
محدودیت‌های این فناوری
اوپن‌ای‌آی تأکید کرده است که این سیستم به معنای صدور برچسب «تأییدیه انسانی» نیست. بررسی‌ها نشان می‌دهد که:
ویرایش متن: بازنویسی یا جایگزینی حدود ۱۰ درصد کلمات با مترادف‌ها می‌تواند دقت شناسایی واترمارک را به‌شدت کاهش دهد.
متن‌های کوتاه: پاسخ‌های کوتاه یا فرمول‌های ریاضی همچنان نقاط ضعف سیستم‌های تشخیص هستند.
هویت کاربر: این واترمارک هیچ اطلاعات شخصی یا هویت تولیدکننده را فاش نمی‌کند.
دسترسی و آینده واترمارک‌ها
در فاز نخست، ابزار تشخیص این واترمارک‌ها تنها در اختیار محققان و سازمان‌های تأییدشده قرار می‌گیرد تا دقت آن ارزیابی شود. همچنین توسعه‌دهندگان API در سراسر جهان می‌توانند این قابلیت را به‌صورت اختیاری برای مدل‌های خود فعال کنند، اما به‌صورت پیش‌فرض برای تمامی مدل‌ها خاموش خواهد بود.