وقتی الگوریتم‌های هوش مصنوعی فرمانده جنگ‌ها می‌شوند / هشدار پاپ درباره جنگ‌های «هوشمند»؛ ماشین‌ها بخشش ندارند

ایده روز آنلاین- گزارش فارن‌پالیسی-مترجم مهسا مژدهی:  در روزهای عید پاک امسال، کشیشی در جبهه‌های زاپوریژیا حاضر شد تا برای رزمندگان اوکراینی دعا کند. او سپس با پاشیدن آب مقدس، پهپاد انتحاری «گارا» را پیش از پرواز به سمت خطوط دفاعی روسیه متبرک کرد. هرچند این پهپاد هنوز به هدایت مستقیم یک اپراتور انسانی نیاز داشت، اما نسل جدید تسلیحات پیشرفته نظامی دیگر وابستگی چندانی به انسان ندارند. با خودکار شدن جنگ‌افزارها و واگذاری تصمیم‌گیری‌های حیاتی به هوش مصنوعی، شروع جنگ‌ها آسان‌تر و مهار آن‌ها به‌مراتب دشوارتر خواهد شد.

کمتر رهبری در جهان مانند پاپ لئو چهاردهم، ابعاد نگران‌کننده این فناوری را نقد کرده است. او در نخستین بخشنامه پاپ با عنوان انسانیت با شکوه: در پاسداشت کرامت انسانی در عصر هوش مصنوعی، فرصت‌ها و تهدیدهای نوظهور هوش مصنوعی علیه حقوق و کرامت انسان را تبیین کرد که با واکنش گسترده جهانی همراه شد.

با این حال، آنچه کمتر در رسانه‌ها به آن پرداخته شد، پیشنهادهای دقیق او برای اعمال محدودیت‌های اخلاقی بر تسلیحات خودکار و به چالش کشیدن اصل جنگ عادلانه در قرن بیست‌ویکم بود. پاپ در این سند صراحتا تاکید می‌کند: امروزه بیش از هر زمان دیگری باید یادآور شد که نظریه جنگ عادلانه(که بارها برای توجیه انواع نبردها سوءاستفاده شده)کارایی خود را از دست داده است؛ هرچند حق دفاع مشروع در باریک‌ترین معنای آن همچنان محفوظ است.

حق با پاپ است؛ نظریه جنگ عادلانه بارها دستمایه سوءاستفاده قدرت‌ها شده و تاکید بر دیپلماسی نیاز امروز ماست. اما با کنار گذاشتن این نظریه، دولت‌ها به صلح‌طلب، سیاستمداران به قدیس و فرماندهان به فیلسوفان اخلاق تبدیل نخواهند شد. بلکه تنها معیار مشترک و قابل درکی که قرن‌ها جنگ‌ها را نقد و محدود می‌کرد از دست می‌رود، معیاری که در صورت به‌روزرسانی، همچنان می‌تواند مانع از زیاده‌روی در نبردهای مدرن شود.

نیاز به بازنگری،نه بازنشستگی

نظریه جنگ عادلانه نیازمند بازنشستگی نیست، بلکه باید برای جنگ‌های نوین بازتعریف شود. جنگ‌هایی که بیش از پیش «واسطه‌ای» شده‌اند؛ زیرا فناوری و رقابت قدرت‌های بزرگ به کسانی که از جنگ سود می‌برند اجازه می‌دهد از هزینه‌های انسانی و مادی آن فاصله بگیرند.

تردید پاپ لئو نسبت به نظریه جنگ عادلانه، جا پای پاپ فرانسیس می‌گذارد، اما این موضع از سوی لئو جسورانه‌تر است. او از طریقت آگوستینی است؛ مکتبی که بنیان‌گذار آن (آگوستین قدیس) نخستین تلاش‌ها را برای پاسخ به این پرسش انجام داد که چگونه رهبران می‌توانند بدون زوال ارزش‌های مسیحی نبرد کنند. نوشته‌های آگوستین بعدها به سنتی تبدیل شد که توماس آکویناس آن را صورت‌بندی کرد و هوگو گروسیوس جهت‌گیری‌های عرفی به آن داد.

رهبران جهان قرن‌ها با این تناقض دست‌به‌گریبان بوده‌اند: جنگ دردناک است، اما گاهی اجتناب‌ناپذیر. نظریه جنگ عادلانه چارچوب این ضرورت را مشخص می‌کند:

• آغاز جنگ: باید در پاسخ به تجاوز باشد، با نیت درست، توسط مرجع ذی‌صلاح، به‌عنوان آخرین راهکار و با امید معقول به ایجاد صلح پایدار.

• هدایت جنگ: باید اصل تناسب رعایت شود، از هدف قرار دادن غیرنظامیان خودداری گردد و اقدامات جانبی برای کاهش تلفات شهروندان صورت گیرد؛ حتی اگر این کار ریسک نیروهای خودی را بالا ببرد.

این اصول امروز در آکادمی‌های نظامی تدریس شده، در قوانین بین‌المللی گنجانده شده و روزانه توسط اتاق‌های عملیات نظامی اجرا می‌شوند. هرچند رهبران سیاسی گاه از این اصول سوءاستفاده می‌کنند، اما به تعبیر مایکل والزر، این نفاق «تظاهری است که رذیلت در برابر فضیلت می‌کند» و همین تظاهر، آنان را در معرض قضاوت چارچوبی قرار می‌دهد که خود به آن متوسل شده‌اند.

ریشه‌های مشترک شرق و غرب در اخلاق جنگ

منطق کنترل جنگ منحصر به غرب نیست؛ فرهنگ‌های مختلف با چالش‌های مشابهی مواجه بوده‌اند. در چین باستان و دوره ایالت‌های جنگ‌طلب:

• منسیوس معتقد بود حاکمی که فضیلت و عدالت را نابود کند، مشروعیت خود را از دست می‌دهد.

• موزی جنگ‌های تجاوزکارانه را محکوم می‌کرد، اما هم‌زمان توان دفاعی ایالت «سونگ» را ارتقا می‌داد.

• سون تزو تسلیم کردن دشمن بدون نبرد را اوج شاهکار نظامی می‌دانست و همواره درباره هزینه‌های سنگین جنگ هشدار می‌داد.

اگرچه نظریه جنگ عادلانه تطابق کاملی با سنت چینی ندارد، اما این اشتراکات اخلاقی می‌تواند الگوی ارزشمندی برای مهار نبردهای آینده باشد.

مخاطرات هوش مصنوعی و جنگ‌های دیجیتال

در هر دو سوی اقیانوس آرام، ادغام هوش مصنوعی در تسلیحات نظامی، نوعی از نبرد را شکل داده که فاصله میان تصمیم‌گیرندگان و کشتار را بیشتر می‌کند. این ابزارها اگرچه دقت را بالا می‌برند، اما آستانه ورود به جنگ را پایین می‌آورند و پاسخگویی اخلاقی را با بحران روبه‌رو می‌سازند. ماشین‌ها هرچقدر هم دقیق باشند، فاقد بخشش و احساسات انسانی هستند—ویژگی‌هایی که نبرد را کمی انسانی‌تر کرده و زمینه را برای صلح پس از جنگ فراهم می‌سازند.

جالب اینجاست که قوی‌ترین دلیل برای امکان به‌روزرسانی نظریه جنگ عادلانه، در خود بخشنامه پاپ نهفته است. او حتی هنگام نقد این نظریه، برای محدود کردن تسلیحات خودکار از همان واژگان و معیارهای سنتی استفاده می‌کند.

پاپ لئو خواستار ایجاد یک زنجیره مسئولیت «شفاف و قابل ارزیابی» است؛ زنجیره‌ای که از طراحان و برنامه‌نویسان تا فرماندهان ارشد را شامل شود. دپارتمان دفاع آمریکا نیز در استراتژی هوش مصنوعی مسئولانه خود ساختار مشابهی را مطالبه می‌کند، اما اجرای آن ساده نیست. وقتی ماشین واسطه عمل می‌شود، قانون در اثبات «قصد و نیت» دچار چالش شده و ممکن است انسان‌ها به‌ناحق مقصر شناخته شوند یا از ماشین به‌عنوان بهانه‌ای برای شانه خالی کردن از مسئولیت استفاده شود.

پاپ همچنین بر حفظ «بازه زمانی اخلاقی» تاکید دارد و هشدار می‌دهد که سرعت و کارایی نباید ملاک اصلی تصمیم‌های بازگشت‌ناپذیر در جنگ باشد. تصمیم به استفاده از نیروی مرگبار باید تحت کنترل هوشمندانه و مسئولانه انسان باقی بماند تا پاسخگویی به ماشین واگذار نشود. با این حال، ارتش‌ها به دنبال سرعت بالاتر هستند. فشاری که وابستگی به ماشین را بیشتر کرده و این بازه زمانی اخلاقی را تنگ‌تر می‌کند.

درس‌هایی از جنگ‌های نیابتی برای عصر الگوریتم‌ها

رویکرد پاپ نشان می‌دهد که نمی‌توان نظریه جنگ عادلانه را کنار گذاشت؛ زیرا در مواجهه با پیشرفته‌ترین تسلیحات، هیچ زبان اخلاقی دیگری جز همان ادبیات سنتی وجود ندارد. مشکل از خود اصول نیست، بلکه از نحوه تطبیق آن‌ها با نبردهای مدرن است.

پیش‌تر در تحلیل جنگ‌های نیابتی اشاره شد که چگونه واسطه‌ای شدن نبرد، چالش‌های جدیدی ایجاد می‌کند. در جنگ نیابتی، این فرض نادرست وجود دارد که اگر هدف گروه نیابتی عادلانه باشد، حمایت از آن نیز عادلانه است؛ درحالی‌که این حمایت معمولاً باعث تشدید نبرد و گسترش تسلیحات به سایر مناطق می‌شود. علاوه بر این، ارائه سلاح بدون نظارت، حامیان را در جنایات شریک می‌کند—پدیده‌ای که دانشمندان آن را «مسئله دست‌های آلوده» می‌نامند.

سه خطر اصلی در جنگ‌های نیابتی عبارت‌اند از:

• تشدید بحران (Escalation): چرخه‌های تصمیم‌گیری با سرعت ماشین، ریسک تنش را بالا می‌برند.

• انتشار غیرقابل کنترل (Diffusion): نرم‌افزارهای خودکار سریع‌تر از هر موشکی تکثیر می‌شوند.

• دست‌های آلوده (Dirty Hands): هدف‌گیری ماشینی، خلاء مسئولیتی ایجاد می‌کند که جنایات را پنهان می‌سازد.

به گفته پاپ: «هیچ الگوریتمی نمی‌تواند جنگ را از نظر اخلاقی پذیرفتنی کند.» جنگ‌های نیابتی و تسلیحات خودکار هر دو معضلات اخلاقی مشابهی ایجاد می‌کنند که بازنگری در سنت جنگ عادلانه، ابزار لازم برای ارزیابی و مهار آن‌ها را فراهم می‌سازد.

مسیر پیش‌رو: بازسازی اخلاق نبرد

جامعه جهانی نیازمند جایگزینی کامل این نظریه نیست. در نشستی که با حضور کاردینال‌ها در واتیکان برگزار شد، پیشنهادهایی برای جایگزینی معیار «دفاع متناسب» مطرح گردید. اما دفاع متناسب تنها به جنبه دفاعی اشاره دارد و راهنمایی عملی برای فرماندهان، طراحان عملیات و سربازان روی زمین ارائه نمی‌دهد.

بازنویسی دکترین جنگ عادلانه باید با مشارکت کسانی انجام شود که آن را در میدان عملیاتی می‌کنند: فرماندهان، متخصصان اخلاق، حقوق‌دانان نظامی و طراحان قواعد درگیری. در کنار آن‌ها، مهندسان و تحلیل‌گرانی که ماشین‌های جنگی را می‌سازند نیز باید حضور داشته باشند.

یک دکترین به‌روزرسانی‌شده باید با پیوند دوباره «منافع» به «هزینه‌ها» و اصلاح مفاهیم پاسخگویی، چالش‌های جنگ‌های واسطه‌ای را حل کند. راهکار اصلی، ادغام پیشاپیش اخلاق در سیستم‌هاست؛ یعنی تعبیه سازوکارهایی برای جلوگیری از آسیب به غیرنظامیان پیش از عملیاتی شدن فناوری‌ها، نه بررسی مسئولیت‌ها پس از وقوع فاجعه.

نظریه اولیه جنگ عادلانه زمانی شکل گرفت که امپراتوری روم به دنبال معیارهایی برای کنترل نبردهای خود بود. کشیش اوکراینی که پیش از پرتاب پهپاد آن را متبرک می‌کند، جلوه نوینی از همان دغدغه قدیمی آگوستین است. جنگ‌ها تغییر کرده‌اند و با سرعت در حال تحول هستند، اما نیاز به قضاوت دقیق آن‌ها و جلوگیری از ویرانگری‌هایشان، همچنان به قوت خود باقی است.

۳۱۲/۴۲