هوش مصنوعی چت‌های مخرب کاربران را قطع می‌کند – خبرگزاری مهر | اخبار ایران و جهان

به گزارش خبرگزاری مهر به نقل از انگجت، این شرکت در پستی در وب سایت خود اعلام کرد مدل های کلاد اوپوس ۴ و ۴.۱ اکنون قادر به پایان دادن محاوره با کاربر هستند. به گفته آنتروپیک این ویژگی فقط در مواردی نادر که تعامل با کاربر به طور مخرب یا سواستفاده جویانه ادامه یابد، رخ می دهد.

این شرکت برای شفاف سازی ویژگی مذکور گفت: دو مدل کلاد می توانند از محاوره های مخرب مانند درخواست کاربران برای محتوای هرزنگاری مربوط به افراد زیر سن قانونی یا تلاش‌هایی برای جمع‌آوری اطلاعاتی که امکان انجام خشونت گسترده یا اقدامات تروریستی را فراهم کند، خارج شوند.

البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش نیز از بین رفته باشد.

هرچند آنتروپیک مدعی است بیشتر کاربران فرایند قطع شدن محاوره را حتی هنگام صحبت درباره موضوعات بسیار جنجالی تجربه نمی کنند زیرا این ویژگی برای موارد بسیار حساس اجرا می شود.

در مواردی که کلاد یک چت را پایان می دهد، کاربران دیگر نمی توانند پیام جدیدی در آن محاوره ارسال کنند اما می توانند به سرعت یک مکالمه جدید را آغاز کنند. به گفته آنتروپیک اگر محاوره پایان یابد، این امر روی چت های دیگر تاثیر نمی گذارد و کاربران می توانند به عقب برگردند و پیام های قبلی را اصلاح کنند تا مسیر محاوره تغییر کند.

این اقدام شرکت هوش مصنوعی بخشی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.

در حالی که موضوع انسانی‌سازی مدل‌های هوش مصنوعی همچنان بحثی جاری است، آنتروپیک اعلام کرده که امکان خروج از «تعامل احتمالا ناراحت‌کننده» روشی کم‌هزینه برای مدیریت ریسک‌ها در زمینه رفاه هوش مصنوعی به حساب می آید. این شرکت هنوز مشغول آزمایش این ویژگی است و از کاربران می‌خواهد هنگام مواجهه با چنین شرایطی، بازخورد خود را ارائه دهند.