همه‌چیز درباره محدودیت‌های هوش مصنوعی؛ از درک ناقص زمینه تا تولید اطلاعات نادرست

به گزارش خبرگزاری ایده روز آنلاین، ابزارهای هوش مصنوعی می‌توانند حجم زیادی از اطلاعات را در زمانی کوتاه پردازش کنند و الگوهایی را بیابند که بررسی آن‌ها برای انسان دشوار است. بااین‌حال، توانایی پردازش داده‌ها به معنای درک کامل جهان، شناخت تجربه‌های انسانی یا درست‌بودن همیشگی پاسخ‌ها نیست.

شناخت محدودیت‌های هوش مصنوعی کمک می‌کند بدانیم چه زمانی می‌توان از آن کمک گرفت، چه زمانی باید پاسخ‌هایش را بررسی کرد و در چه موقعیت‌هایی تصمیم‌گیری نهایی را نمی‌توان به سامانه سپرد.

۱. درک زمینه و مفاهیم انسانی

مدل‌های هوش مصنوعی می‌توانند زبان انسان را پردازش کنند و پاسخ‌هایی روان و شبیه گفت‌وگوی طبیعی ارائه دهند؛ اما این توانایی با درک انسانی یکسان نیست. یک مدل ممکن است درباره غم، ترس یا گرسنگی توضیحی دقیق بدهد، اما این به معنای تجربه‌کردن این احساسات نیست.

تشخیص کنایه، طنز، اصطلاحات محلی و زمینه فرهنگی نیز گاهی برای سامانه‌ها دشوار است. برای مثال، جمله «عالی شد! دقیقاً همین را کم داشتم!» ممکن است در یک موقعیت به معنای رضایت باشد و در موقعیتی دیگر نشان‌دهنده ناراحتی یا طعنه. اگر سامانه زمینه گفت‌وگو را درست تشخیص ندهد، ممکن است منظور گوینده را برعکس برداشت کند.

این محدودیت در موقعیت‌هایی مهم‌تر می‌شود که فهم نیت افراد یا شرایط اجتماعی برای تصمیم‌گیری ضروری است.

۲. وابستگی به کیفیت داده‌ها

عملکرد هوش مصنوعی تا حد زیادی به داده‌هایی وابسته است که با آن‌ها آموزش دیده یا در زمان استفاده دریافت می‌کند. اگر این داده‌ها ناقص، قدیمی، نادرست یا نامتوازن باشند، خروجی سامانه نیز ممکن است مشکل داشته باشد.

مدلی که بر اساس نمونه‌های گذشته آموزش دیده، ممکن است در شرایط تازه یا متفاوت عملکرد ضعیف‌تری نشان دهد. برای نمونه، الگویی که در یک کشور یا گروه اجتماعی کارآمد بوده، لزوماً برای جامعه‌ای دیگر مناسب نیست.

به همین دلیل، بررسی کیفیت داده‌ها، آزمودن عملکرد سامانه در موقعیت‌های مختلف و نظارت انسانی می‌تواند به کاهش خطا کمک کند.

۳. سوگیری الگوریتمی

اگر داده‌های آموزشی بازتاب‌دهنده تبعیض‌ها یا نابرابری‌های موجود باشند، سامانه ممکن است همان الگوها را بازتولید کند. این مسئله را سوگیری الگوریتمی می‌نامند.

برای مثال، اگر یک سامانه استخدام با داده‌های تاریخی نامتوازن آموزش ببیند، ممکن است در ارزیابی رزومه‌ها به‌طور نامناسب برخی گروه‌ها را در اولویت قرار دهد. چنین نتیجه‌ای لزوماً به این معنا نیست که سامانه عمداً تبعیض می‌کند؛ اما نشان می‌دهد انتخاب و کیفیت داده‌ها می‌تواند بر خروجی اثر بگذارد.

بررسی داده‌ها، سنجش نتایج برای گروه‌های مختلف و امکان بازبینی انسانی از راهکارهایی هستند که می‌توانند احتمال چنین خطاهایی را کاهش دهند.

۴. تولید اطلاعات نادرست

مدل‌های زبانی گاهی پاسخی تولید می‌کنند که از نظر نگارشی منسجم و قانع‌کننده است، اما از نظر واقعی نادرست است. این خطا ممکن است به شکل آمار اشتباه، نقل‌قول نادقیق، منبع ناموجود یا توضیح علمی نادرست دیده شود.

روان‌بودن یک پاسخ به‌تنهایی نشانه درستی آن نیست. اگر قرار است از خروجی هوش مصنوعی در گزارش خبری، پژوهش، کار تخصصی یا تصمیم مهم استفاده شود، باید ادعاهای اصلی با منابع معتبر و مستقل راستی‌آزمایی شوند.

۵. محدودیت در خلاقیت

ابزارهای هوش مصنوعی می‌توانند شعر، داستان، تصویر، موسیقی و طرح‌های گرافیکی تولید کنند. این توانایی در بسیاری از کارها مفید است، اما تولید یک خروجی تازه با تجربه انسانی از خلاقیت یکسان نیست. سامانه بر اساس الگوهایی که آموخته، محتوایی تازه می‌سازد؛ اما این به‌تنهایی نشانه تجربه زیسته، قصد هنری یا درک شخصی نیست.

ارزیابی خلاقیت نیز به معیارهایی مانند اصالت، کیفیت، کاربرد و میزان دخالت انسان بستگی دارد. بنابراین، بهتر است نقش هوش مصنوعی در تولید اثر و سهم انسان در انتخاب، ویرایش و جهت‌دهی به آن روشن باشد.

۶. هزینه محاسباتی و مصرف منابع

آموزش و اجرای برخی مدل‌های بزرگ به پردازنده‌های قدرتمند، حافظه محاسباتی و زیرساخت‌های گسترده نیاز دارد. مراکز داده نیز برای فعالیت خود برق و سامانه‌های خنک‌کننده مصرف می‌کنند. میزان مصرف به عواملی مانند اندازه مدل، نوع سخت‌افزار و تعداد درخواست‌ها بستگی دارد.

بهینه‌سازی مدل‌ها، استفاده از سخت‌افزارهای کارآمدتر و مدیریت بهتر زیرساخت‌ها می‌تواند بخشی از هزینه‌ها و آثار زیست‌محیطی را کاهش دهد. همه مدل‌ها به منابع یکسان نیاز ندارند و مصرف آن‌ها را باید با توجه به نوع و شیوه استفاده بررسی کرد.

۷. دشواری توضیح برخی تصمیم‌ها

برخی سامانه‌های پیچیده را دشوار می‌توان توضیح داد؛ یعنی ممکن است روشن نباشد چرا یک ورودی به نتیجه مشخصی منجر شده است. به چنین سامانه‌هایی گاهی «جعبه سیاه» گفته می‌شود.

این مسئله در کاربردهای حساس اهمیت زیادی دارد. فرض کنید سامانه‌ای درخواست وام فردی را رد کند، اما نهاد استفاده‌کننده نتواند دلیل تصمیم را بررسی یا توضیح دهد. در چنین شرایطی، تشخیص خطا و اعتراض به نتیجه دشوار می‌شود.

البته همه سامانه‌های هوش مصنوعی به یک اندازه غیرقابل‌توضیح نیستند. میزان شفافیت به نوع مدل، نحوه طراحی و ابزارهای ارزیابی بستگی دارد. مؤسسه ملی استاندارد و فناوری آمریکا (NIST) نیز در چارچوب مدیریت ریسک هوش مصنوعی، ویژگی‌هایی مانند قابلیت اطمینان، شفافیت، توضیح‌پذیری و مدیریت سوگیری را از موضوعات مهم می‌داند.

۸. محدودیت در تصمیم‌گیری اخلاقی و مسئولیت‌پذیری

هوش مصنوعی می‌تواند بر اساس قواعد و الگوهای آموخته‌شده، گزینه‌ها را ارزیابی کند؛ اما مسئولیت استفاده از نتیجه آن همچنان بر عهده انسان‌ها و نهادهای مرتبط است.

اگر سامانه‌ای در استخدام، تخصیص منابع یا ارائه خدمات تصمیمی نادرست یا تبعیض‌آمیز بگیرد، باید روشن باشد چه کسانی مسئول طراحی، نظارت و استفاده از آن بوده‌اند. در کاربردهای حساس، ثبت فرایند تصمیم‌گیری، امکان اعتراض و نظارت انسانی اهمیت ویژه‌ای دارد.

۹. اطلاعات قدیمی یا ناقص

اگر یک مدل به منابع به‌روز دسترسی نداشته باشد، ممکن است درباره رویدادهای تازه، آمار جدید یا تغییرات قانونی اطلاعات ناقص ارائه کند. حتی اتصال به منابع اینترنتی نیز به‌تنهایی درستی اطلاعات را تضمین نمی‌کند؛ منابع باید از نظر اعتبار و تاریخ انتشار بررسی شوند.

برای موضوعاتی که به‌سرعت تغییر می‌کنند، مانند قوانین، اخبار و اطلاعات پزشکی، مراجعه به منابع رسمی و به‌روز ضروری است.

چگونه از محدودیت‌های هوش مصنوعی آگاهانه‌تر استفاده کنیم؟

راهکار مناسب، اعتماد کامل به خروجی هوش مصنوعی یا کنارگذاشتن کامل آن نیست. می‌توان با رعایت چند نکته، احتمال خطا و سوءاستفاده را کاهش داد:

• پاسخ‌های مربوط به سلامت، قانون، امور مالی و تصمیم‌های مهم را با منابع معتبر بررسی کنید.
• از هوش مصنوعی به‌عنوان ابزار کمکی استفاده کنید، نه مرجع نهایی در تصمیم‌های حساس.
• در صورت امکان، درباره داده‌های مورد استفاده و شیوه تصمیم‌گیری سامانه پرس‌وجو کنید.
• خروجی را متناسب با کاربرد آن ارزیابی کنید؛ خطای یک پیشنهاد سرگرمی با خطای یک ارزیابی استخدامی پیامد یکسانی ندارد.
• در کاربردهای حساس، امکان نظارت انسانی و اعتراض به تصمیم را در نظر بگیرید.

جمع‌بندی

هوش مصنوعی ابزاری قدرتمند برای پردازش اطلاعات، تولید محتوا و پشتیبانی از تصمیم‌گیری است؛ اما ممکن است زمینه را اشتباه بفهمد، اطلاعات نادرست تولید کند یا از داده‌های نامتوازن نتیجه‌ای سوگیرانه بگیرد. هزینه محاسباتی و دشواری توضیح برخی تصمیم‌ها نیز از دیگر چالش‌های این فناوری است.

شناخت این محدودیت‌ها به معنای بی‌فایده‌دانستن هوش مصنوعی نیست. استفاده مؤثر از آن به ارزیابی متناسب با میزان خطر، بررسی پاسخ‌های مهم و مشخص‌بودن مسئولیت انسان‌ها و سازمان‌های استفاده‌کننده نیاز دارد. هوش مصنوعی می‌تواند در بسیاری از کارها کمک‌کننده باشد، اما در تصمیم‌های مهم، نظارت و قضاوت انسانی همچنان اهمیت دارد.

57