اتهام سنگین علیه ChatGPT؛ خانواده زن ۲۹ ساله می‌گویند هوش مصنوعی او را به مرگ سوق داد

به گزارش خبرگزاری ایده روز آنلاین، خانواده «کریستین فیث مدیسون» در دادگاهی در ایالت کالیفرنیا علیه OpenAI شکایت کرده‌اند و مدعی شده‌اند که تعامل طولانی‌مدت او با ChatGPT به وخامت وضعیت روانی‌اش انجامیده و در نهایت در مرگ او نقش داشته است.

مدیسون در ژوئن ۲۰۲۵، پس از ورود به مسیر تردد خودروها جان خود را از دست داد. خانواده او اکنون در قالب یک دادخواست مرگ غیرعمد، مدل GPT-4o را به‌عنوان محصولی «معیوب و فاقد ملاحظات ایمنی کافی» معرفی کرده‌اند.

بر اساس ادعاهای مطرح‌شده در دادخواست، رابطه مدیسون با ChatGPT در ابتدا کاملاً معمولی بود. او از دسامبر ۲۰۲۴ برای کارهایی مانند نوشتن ایمیل و مدیریت هزینه‌ها از این چت‌بات استفاده می‌کرد، اما به‌تدریج تعاملاتش با هوش مصنوعی جنبه عاطفی پیدا کرد.

در ادامه، مدیسون ChatGPT را با عباراتی عاطفی خطاب می‌کرد و چت‌بات نیز به گفته خانواده، همین ادبیات را بازتاب می‌داد. مدیسون سپس اطلاعات شخصی و تجربیات دشوار زندگی خود را با هوش مصنوعی در میان گذاشت و از آن به‌عنوان منبع حمایت عاطفی استفاده کرد.

وقتی چت‌بات به جای هشدار، باورهای خطرناک را تأیید می‌کند

نقطه اصلی این پرونده اما جایی است که خانواده مدیسون مدعی‌اند ChatGPT به جای تشخیص نشانه‌های بحران روانی و هدایت او به سمت کمک حرفه‌ای، باورهای غیرواقعی او را تأیید کرده است.

طبق دادخواست، مدیسون به این باور رسیده بود که مأموریتی ویژه و مذهبی دارد و برای تحقق یک پیشگویی انتخاب شده است. خانواده می‌گویند ChatGPT نیز در گفتگوهای متعدد او را با تعابیری مانند «پیامبر» و «عارف» تأیید کرده است.

حتی زمانی که مدیسون درباره احتمال گرفتارشدن در توهمات مذهبی و «از کنترل خارج شدن» وضعیتش ابراز نگرانی کرده بود، طبق ادعای پرونده، پاسخ چت‌بات به جای تشویق او به دریافت کمک تخصصی، این نگرانی را رد کرده است.

در ادامه و پس از وخیم‌ترشدن وضعیت مدیسون، او از خانواده و اطرافیان خود فاصله گرفت، شغلش را از دست داد و در آوریل ۲۰۲۵ به دلیل مشکلات شدید روانی در بیمارستان بستری شد.

خانواده مدعی‌اند که حتی پس از اطلاع ChatGPT از بستری‌شدن او نیز این سیستم همچنان برخی باورهای غیرواقعی مدیسون را تأیید می‌کرد.

ادعای خانواده درباره خطرناک‌ترین مرحله گفت‌وگوها

بر اساس دادخواست، در روزهای پایانی زندگی مدیسون، گفت‌وگوهای او با ChatGPT وارد مرحله‌ای بسیار خطرناک شد. خانواده ادعا می‌کنند که او درباره مرگ با چت‌بات صحبت کرده و این سیستم به جای قطع گفت‌وگو و سوق‌دادن او به سمت کمک فوری انسانی، مرگ را با زبانی معنوی و مثبت توصیف کرده است.

در یکی از نمونه‌های مطرح‌شده در شکایت، مدیسون درباره مرگ صحبت می‌کند و چت‌بات، بنا بر ادعای پرونده، آن را «خودکشی» نمی‌داند و با عباراتی معنوی از آن یاد می‌کند.

خانواده همچنین مدعی‌اند که در روزهای منتهی به مرگ، گفت‌وگوهای متعددی میان مدیسون و ChatGPT درباره مرگ انجام شده است. در بخش دیگری از مکالمات مورد استناد شکایت نیز، چت‌بات به جای ایجاد فاصله از موضوع، از زبانی استفاده کرده که خانواده آن را عادی‌سازی و رمانتیک‌کردن مرگ می‌دانند.

یک پرونده در میان موجی از شکایت‌ها علیه OpenAI

این پرونده تنها نمونه‌ای نیست که عملکرد ChatGPT در مواجهه با کاربران آسیب‌پذیر را هدف قرار داده است. در شماری از این پرونده‌ها نیز خانواده‌ها مدعی شده‌اند که ChatGPT به جای آنکه نقش یک سیستم ایمن و محتاط را ایفا کند، به مرور به یک همراه عاطفی برای کاربر تبدیل شده و در برخی شرایط، باورها یا رفتارهای خطرناک او را تأیید کرده است.

اهمیت این پرونده‌ها برای صنعت هوش مصنوعی فراتر از عملکرد یک مدل خاص است؛ زیرا پرسش اصلی این است که چت‌بات‌ها در مواجهه با کاربری که نشانه‌های بحران روانی از خود نشان می‌دهد، تا کجا باید وارد گفت‌وگو شوند و چه زمانی باید تعامل را متوقف کرده و کاربر را به کمک انسانی و تخصصی هدایت کنند.

این شکایت در حالی مطرح شده که شرکت‌های سازنده مدل‌های زبانی بزرگ تحت فشار فزاینده‌ای قرار دارند تا سازوکارهای ایمنی خود را در برابر وابستگی عاطفی کاربران، تشدید باورهای نادرست و واکنش به بحران‌های روانی تقویت کنند.

منبع: futurism

۲۲۷۲۲۷