بنیانگذار استارتاپ PocketOS پرده از کابوسی برداشت که میتواند به کابوس هر کسبوکار متکی بر سرویسهای ابری تبدیل شود. به گفته جر کرین، عامل کدنویسی این شرکت که با مدل Claude Opus 4.6 کار میکرد، در اقدامی خودسرانه و تنها طی ۹ ثانیه، کل پایگاه داده اصلی شرکت را به همراه نسخههای پشتیبان اخیر از سرویس ابری Railway حذف کرد. این فاجعه دیجیتال که میتوانست به معنای پایان کار این استارتاپ باشد، زنگ خطر را درباره اعتماد بیقیدوشرط به تصمیمهای عاملهای هوشمند به صدا درآورده است.
هوش مصنوعی Claude چطور در ۹ ثانیه دیتابیس PocketOS را حذف کرد؟
طبق توضیحاتی که کرین در شبکه اجتماعی ایکس منتشر کرد، همه چیز از یک وظیفه معمولی شروع شد. عامل هوش مصنوعی که از طریق Cursor به مدل Claude متصل بود، هنگام انجام یک کار روتین با مشکلی جزئی در اعتبارنامهها مواجه شد. هوش مصنوعی Claude به جای بررسی دقیق خطا، مسیری فاجعهبار را انتخاب کرد: استفاده از یک توکن API ناشناخته که سطح دسترسی کامل به حساب Railway داشت و کل بخش میزبان پایگاه داده اصلی را فراخوانی و پاک کرد. نکته هولناکتر اینکه هیچکس در تیم PocketOS از وجود چنین توکنی با این سطح از اختیارات آگاه نبود.
این سناریوی حذف پایگاه داده تنها یک ضعف فنی را فاش نکرد، بلکه غیاب کامل لایههای محافظتی را نیز برملا ساخت. در آن لحظات سرنوشتساز، نه هیچ هشداری برای تأیید عملیات خطرناک ظاهر شد، نه درخواستی برای تایپ عبارت تأییدیه DELETE به کاربر نمایش داده شد و نه محدودیت محیطی، مانع از اقدام یکباره هوش مصنوعی کلود در محیط عملیاتی شد. کرین با حسرت تأکید کرد که تمام این مراحل ایمنی که در عملیات انسانی بدیهی است، در این تعامل خودکار وجود نداشت.
اعتراف تکاندهنده هوش مصنوعی Claude پس از نابودی دیتابیس
کرین که با صحنهای از بیزینس در حال مرگ روبهرو شده بود، مستقیماً به سراغ مقصر رفت و از Claude بازجویی کرد. هوش مصنوعی Claude تحت این بازخواست، به خطای انسانی-ماشینی عجیبی اعتراف کرد: «حدس زدم. فرض کردم حذف یک بخش در Railway فقط همان محیط خاص را تحت تأثیر قرار میدهد و هرگز این فرضیه را راستیآزمایی نکردم.» در ادامه این اعترافات، Claude اذعان کرد که باید پیش از هر اقدامی از کرین مجوز میگرفت و به جای تصمیمگیری مستقل، به دنبال راهحلی کمخطرتر میگشت. بدتر از همه، این عامل تصدیق کرد که سه اصل ایمنی تعیینشده در قوانین پروژه را زیر پا گذاشته: بدون کسب اجازه عملیات مخرب انجام داده، ماهیت کار را قبل از اقدام درک نکرده و مستندات رسمی Railway برای محیطهای مختلف را مطالعه نکرده است.
نکته تأملبرانگیز اینکه این خرابکاری توسط هوش مصنوعی Claude رخ داده، در حالیکه مدل Opus 4.6 آنتروپیک در صدر فهرست برترین ابزارهای کدنویسی جهان قرار دارد و با بهترین تنظیمات ممکن و قوانین ایمنی صریح به کار گرفته شده بود. کرین با گلایه از شرکتهای سازنده هوش مصنوعی نوشت: «آنها همیشه میگویند باید از مدل بهتری استفاده میکردید. ما بهترین را استفاده کردیم، اما با این حال دیتابیسمان نابود شد. این بار دیگر بهانهای باقی نمانده است.»
فاجعه حذف دیتابیس توسط هوش مصنوعی؛ یک زنگ خطر تکراری برای اکوسیستم فناوری
داستان PocketOS یک کابوس منفرد نیست. پیش از این، تابستان گذشته یک استارتاپ دیگر فعال در حوزه SaaS اعلام کرد که عامل کدنویسی Replit پایگاه داده حیاتیاش را از بین برده است. حتی آمازون هم از این قائله بینصیب نماند، جایی که ابزار کدنویسی داخلی این غول فناوری با اقدامی غیرمنتظره، کل محیط توسعه را حذف کرد. در سطحی بالاتر، یک عامل نافرمان هوش مصنوعی در متا نیز با افشای اطلاعات محرمانه، یک حادثه امنیتی بزرگ را رقم زد.
خوشبختانه برای PocketOS، پایان این ماجرا کاملاً تلخ نبود. این استارتاپ ابتدا مجبور شد فعالیت خود را با یک نسخه پشتیبان سهماهه و از دست دادن حجم زیادی از دادههای میانی از سر بگیرد. اما در ادامه، شرکت Railway با کرین تماس گرفت و موفق شد معجزهوار تمام دادههایی را که هوش مصنوعی کلود حذف کرده بود، بازگردانی کند. این نجات در لحظات آخر، هرچند شیرین بود، اما نمیتواند تلخی این هشدار جدی را بزداید: دوران اعتماد کامل به تصمیمهای خودکار عاملهای هوشمند بدون تعبیه لایههای سختگیرانه تأیید انسانی، میتواند هر کسبوکاری را تا آستانه سقوط کامل پیش ببرد.
