گوگل تدابیر امنیتی پیشرفته برای وب‌گردی هوشمند با جمینای در کروم را تشریح کرد

با ادغام هوش مصنوعی پیشرفته جمینای (Gemini) در مرورگر کروم و فعال‌سازی قابلیت‌های نوآورانه «وب‌گردی عامل‌گرا» (Agentic Browsing)، گوگل گام بلندی در تحول تجربه کاربری برداشته است. در کنار این پیشرفت هیجان‌انگیز، غول فناوری جزئیات جامعی از رویکرد چندلایه خود برای تضمین امنیت کاربران و مقابله با چالش‌های سایبری ناشی از هوش مصنوعی را منتشر کرده است. این تدابیر با هدف محافظت از حریم خصوصی و داده‌های کاربران در دنیای پیچیده وب‌گردی هوشمند طراحی شده‌اند تا بستری امن برای تعامل با دستیار هوشمند جدید گوگل فراهم آورند.

چالش نوظهور امنیت جمینای: مبارزه با تزریق غیرمستقیم پرامپت

گوگل تأکید می‌کند که «تزریق غیرمستقیم پرامپت» (Indirect Prompt Injection) به عنوان یک تهدید اصلی و جدید، تمام مرورگرهای هوشمند را با چالش مواجه می‌سازد. در این روش، مهاجمان تلاش می‌کنند تا عامل هوشمند را فریب دهند و او را وادار به انجام کارهای ناخواسته، نظیر آغاز تراکنش‌های مالی یا سرقت داده‌های حساس، کنند. این دستورات مخرب می‌توانند به صورت پنهان در سایت‌های آلوده، محتوای شخص ثالث در فریم‌ها (iframe) یا حتی در بخش نظرات کاربران جاسازی شوند. برای مقابله با این چالش پیچیده، گوگل یک سیستم دفاعی چندلایه متشکل از دفاع‌های قطعی و احتمالی را به کار گرفته است که به طور خاص برای تضمین امنیت جمینای در کروم طراحی شده‌اند.

User Alignment Critic: لایه دفاعی هوشمند برای وب‌گردی امن با جمینای

یکی از مهم‌ترین لایه‌های دفاعی گوگل، مدل ناظر «User Alignment Critic» است که با استفاده از توانایی‌های خود جمینای توسعه یافته است. این مدل مستقل نقش یک سنگربان هوشمند را ایفا می‌کند:

نحوه عملکرد مدل ناظر «User Alignment Critic»: این مدل مستقل پس از برنامه‌ریزی هوش مصنوعی، تک‌تک اقدامات پیشنهادی را بررسی و تایید یا رد می‌کند. در صورت عدم همسویی با هدف کاربر، طرح مجدداً بازنویسی شده یا کنترل به کاربر بازگردانده می‌شود.

«User Alignment Critic» تمرکز اصلی خود را بر «همسویی با وظیفه» کاربر می‌گذارد و هر اقدامی را که در راستای هدف کاربر نباشد، وتو می‌کند. معماری این مدل به گونه‌ای است که تنها متادیتا (Metadata) مربوط به اقدام را مشاهده کرده و به محتوای فیلتر نشده وب دسترسی ندارد. این محدودیت دسترسی، اطمینان می‌دهد که مهاجمان نمی‌توانند مدل ناظر را مستقیماً از طریق وب آلوده، مسموم یا فریب دهند.

Agent Origin Sets: محدودسازی دسترسی جمینای برای محافظت از داده‌ها

گوگل همچنین در راستای افزایش امنیت جمینای، قابلیت‌های «ایزوله‌سازی منبع» (Origin-isolation) مرورگر کروم را گسترش داده است. این مکانیزم پیشرفته، دسترسی عامل هوشمند را تنها به منابعی محدود می‌کند که مستقیماً به وظیفه کاربر مربوط هستند یا کاربر اجازه اشتراک‌گذاری آن‌ها را داده است. تیم امنیتی کروم این اصول را با «مجموعه‌های منبع عامل» (Agent Origin Sets) پیاده‌سازی می‌کند. این طراحی جدید از نظر معماری، عامل هوشمند را از دسترسی خودسرانه به داده‌های نامرتبط یا اجرای اقدامات غیرمجاز بر روی منابع حساس بازمی‌دارد و سطح بالایی از محافظت از داده‌ها را فراهم می‌کند.

شفافیت و کنترل مطلق کاربر در تجربه وب‌گردی با جمینای

برای حفظ و تقویت کنترل کاربر، جمینای در کروم جزئیات هر مرحله از فعالیت‌های خود را در یک «گزارش کار» ثبت می‌کند. این شفافیت کامل به کاربر اجازه می‌دهد تا در هر لحظه فرآیند را متوقف کرده و کنترل را دوباره در دست بگیرد. علاوه بر این، سیستم در لحظات حساس، پیش از آنکه عامل هوش مصنوعی اقدامی تأثیرگذار انجام دهد، تأیید کاربر را درخواست می‌کند. این ویژگی‌ها به عنوان نرده‌های محافظ قوی در برابر اشتباهات احتمالی مدل یا ورودی‌های مخرب عمل می‌کنند و تجربه وب‌گردی هوشمند را تحت اختیار کامل کاربر نگه می‌دارند.

موارد حساس نیازمند تأیید کاربر:

سایت‌های حساس: پیش از آنکه عامل به سایت‌های خاصی مانند درگاه‌های بانکی یا پلتفرم‌های حاوی اطلاعات پزشکی شخصی وارد شود (بر اساس لیست سایت‌های حساس).

مدیریت رمز عبور: قبل از اجازه دادن به کروم برای ورود به یک سایت از طریق Google Password Manager (مدل به رمزهای عبور ذخیره شده دسترسی مستقیم ندارد).

اقدامات حیاتی: پیش از انجام هرگونه اقدام حساس وب مانند تکمیل خرید، پرداخت وجه یا ارسال پیام، عامل هوشمند متوقف شده و از کاربر اجازه می‌گیرد.

جمع‌بندی: آینده امنیت در وب‌گردی هوشمند

با این تدابیر جامع و چندلایه، گوگل بار دیگر تعهد خود را به حفظ امنیت و حریم خصوصی کاربران در عصر هوش مصنوعی نشان می‌دهد. پیاده‌سازی مکانیزم‌های نظارتی پیشرفته، محدودیت‌های دسترسی هوشمند و ارائه کنترل مطلق به کاربر، اعتمادپذیری وب‌گردی هوشمند با جمینای را به سطحی جدید می‌رساند. این رویکرد محافظه‌کارانه نشان می‌دهد که نوآوری در هوش مصنوعی لزوماً به معنای فدا کردن امنیت نیست، بلکه می‌تواند با چارچوب‌های مستحکم امنیتی همگام شود. آیا با وجود این تضمین‌های امنیتی، آماده‌اید تا مسئولیت خریدهای اینترنتی خود را به هوش مصنوعی کروم بسپارید؟ دیدگاه شما در این باره چیست؟

مجله تکنولوژی ساتراپ