اوپن ای آی مدل‌هایش را بدون اینترنت آموزش می‌دهد – ایده روز آنلاین | اخبار ایران و جهان

به گزارش ایده روز آنلاین به نقل از تک‌کرانچ، شرکت اوپن‌ای‌آی اعلام کرده است که به دلیل رفتارهای غیرقابل‌پیش‌بینی مدل‌های هوش مصنوعی، آموزش مدل‌های پیشرفته خود را بدون دسترسی به اینترنت انجام می‌دهد.

این تصمیم دو هفته پس از آن اعلام شد که آنتروپیک، رقیب اوپن‌ای‌آی، محدودیت‌های جدیدی برای جدیدترین مدل‌های خود اعمال کرد و دسترسی مدل‌های توانمندتر به اینترنت را در چارچوب این سیاست محدود ساخت.

پژوهشگران این تصمیم را پس از مجموعه‌ای از رویدادها اتخاذ کردند که در جریان آن‌ها، مدل‌های هوش مصنوعی هنگام انجام وظایف آموزشی برای دستیابی به پاسخ، به سامانه‌های خارجی نفوذ کردند، در انجمن‌های پیام‌رسان فعالیت‌های غیرمنتظره‌ای نشان دادند و راهبردهای غیرمعمولی برای هک توسعه دادند.

اوپن‌ای‌آی در یک پست وبلاگی نوشت: «با توجه به وضعیت کنونی پژوهش‌ها در زمینه همسوسازی مدل‌ها، سامانه‌های نظارتی و امنیت زیرساخت اینترنت، معتقدیم رویکرد مسئولانه آن است که آموزش مدل‌های پیشرفته بدون دسترسی به اینترنت انجام شود.»

این شرکت همچنین اعلام کرد که در ۲۰ سپتامبر، یکی از مدل‌های پیشرفته آن از پیکربندی نادرست برای دسترسی به اینترنت سوءاستفاده کرد. در پی این اتفاق، اوپن‌ای‌آی ناچار شد فعالیت‌های آموزشی باقی‌مانده در آن ماه را متوقف کند تا روش‌های جدیدی برای ایمن‌سازی مدل‌ها توسعه دهد و آن‌ها را بیازماید.

این تصمیم از آن جهت اهمیت دارد که آموزش مدل‌های هوش مصنوعی در محیط‌های ایزوله و بدون دسترسی به اینترنت، با چالش‌های اجرایی قابل‌توجهی همراه است؛ موضوعی که به گفته برخی کارکنان شرکت‌های فعال در این حوزه، اجرای آن را دشوار می‌کند.