آنتروپیک محتوای تولید شده با هوش مصنوعی را واتر مارک می زند – ایده روز آنلاین | اخبار ایران و جهان

به گزارش ایده روز آنلاین به نقل از انگجت، این شرکت اعلام کرد واتر مارک کردن متن عناصر بصری که به‌راحتی دیده می‌شوند، نخواهد داشت و افرادی که آن را می خوانند قادر به تمیز آن نخواهند بود. همچنین این برچسب ها به کاراکترهای مخفی متن افزوده نمی شوند. در عوض روش آنتروپیک شامل ایجاد الگویی در متن است که فقط افرادی که کلید آن را دارند، قادر به رمزگشایی اش خواهند بود.

این شرکت توضیح داد مدل های زبانی بزرگ هنگام تولید متن با گزینش از میان فهرستی از کلمات متناسب برای استفاده، هر بار فقط یک کلمه را انتخاب می کنند. آنها کلمات را به طور تصادفی انتخاب می کنند البته به شرطی که کلمه انتخاب‌شده با متنی که در حال تولید است و بافت آن سازگار باشد. وقتی قابلیت واترمارک (نشان‌گذاری دیجیتال) فعال باشد، کلاود به‌جای استفاده از یک مولد تصادفیِ معمولی برای انتخاب کلمه بعدی، از یک کلید برای تعیین اینکه کدام کلمه را انتخاب کند استفاده می‌کند.

در مثالی که شرکت آنتروپیک ارائه کرده، از ارقام عدد پی (π) به‌عنوان کلید استفاده شده است. فرض کنید کلید با رقم ۲ از دنبالهٔ عدد پی یعنی 3.1415926535 شروع شود. در این حالت، کلمه بعدیِ تولیدشده، ششمین کلمه از فهرست گزینه‌های موجود خواهد بود، سپس کلمه پنجم، بعد کلمه سوم و دوباره کلمه پنجم انتخاب می‌شود.

این روش، اقتباسی از رویکرد SynthID-Text شرکت گوگل دیپ مایند برای واترمارک‌گذاری متن است؛ که تیم تحقیقاتی آن را در مقاله‌ای منتشرشده در مجله Nature توضیح داده است.

به گفته آنتروپیک، واترمارک‌گذاری تأثیری بر کیفیت خروجی کلاود ندارد و باعث کندتر شدن آن نیز نمی‌شود. همچنین برای این کار به توکن‌های اضافی نیاز نیست و هزینه تولید متن نیز افزایش پیدا نمی‌کند.