خطای هوش مصنوعی ارتش آمریکا را تا آستانه درگیری نظامی با چین پیش برد

گزارش‌های تازه منتشر شده از سوی منابع خبری معتبر، از یک حادثه نگران‌کننده در سطوح نظامی پرده برمی‌دارد که نشان می‌دهد چگونه اتکای بیش از حد به هوش مصنوعی می‌تواند امنیت جهانی را به مخاطره بیندازد. بر اساس این گزارش، ارتش آمریکا در یک ارزیابی اطلاعاتی اشتباه، تا مرز رویارویی مستقیم با یک کشتی چینی در خاورمیانه پیش رفت؛ حادثه‌ای که تحلیلگران آن را جرقه‌ای بالقوه برای آغاز یک بحران نظامی بزرگ می‌دانند.

نقش مخرب هوش مصنوعی در تحلیل‌های اطلاعاتی ارتش

ماجرا از زمانی آغاز شد که یک تحلیلگر در فرماندهی عملیات ویژه، برای بررسی محموله یک کشتی چینی، از یک مدل هوش مصنوعی سوال پرسید. این چت‌بات با ترکیب داده‌های عمومی و اطلاعات محرمانه شنود سیگنال‌ها، به‌طور نادرست مدعی شد که کشتی مذکور حامل قطعاتی برای پیشبرد تسلیحات هسته‌ای است. این نتیجه‌گیری کاذب که محصول الگوریتم‌های پردازش داده بود، فرماندهان نظامی را متقاعد کرد تا دستور توقیف کشتی را صادر کنند. خوشبختانه پیش از وقوع یک فاجعه، مقامات نظامی متوجه شدند که منبع این ادعا یک تحلیل سیستمی فاقد دقت لازم بوده است.

چالش‌های نفوذ هوش مصنوعی در استراتژی‌های دفاعی آمریکا

این رویداد نشان می‌دهد که علی‌رغم تلاش گسترده پنتاگون برای یکپارچه‌سازی فناوری‌های نوین در بدنه نظامی، خطرات هوش مصنوعی در این حوزه بسیار فراتر از خطاهای نرم‌افزاری رایج است. مسائل کلیدی که این حادثه را برجسته می‌کند عبارت‌اند از:

عدم شفافیت در مدل‌های هوش مصنوعی به‌کار گرفته شده در ارتش و ناتوانی در تشخیص منبع داده‌های حساس (تجاری یا دولتی).

تضاد منافع شرکت‌های فناوری برای بستن قراردادهای میلیاردی با وزارت دفاع، که گاهی فدای دقت و امنیت عملیاتی می‌شود.

وزارت دفاع آمریکا در ماه‌های اخیر تلاش کرده است با همکاری شرکت‌های بزرگ فناوری نظیر انویدیا، مایکروسافت، آمازون و حتی استارتاپ‌هایی چون اسپیس‌ایکس، از مدل‌های زبانی بزرگ برای تحلیل عملیاتی استفاده کند. با این حال، مقاومت شرکت‌هایی مانند آنتروپیک (Anthropic) برای عدم مشارکت در توسعه سلاح‌های خودکار، نشان‌دهنده شکاف عمیق میان اخلاق تکنولوژی و الزامات نظامی است. این حادثه زنگ خطری جدی است تا استراتژیست‌های نظامی نسبت به «توهمات محاسباتی» هوش مصنوعی در محیط‌های حساس و امنیتی، رویکردی محتاطانه‌تر و نظارتی اتخاذ کنند.

مجله تکنولوژی ساتراپ