مسمومیت اطلاعاتی مدل زبانی OpenAI؛ فروشگاههای جعلی با تخفیفهای ۸۰ درصدی طعمه کاربران میشوند
کارشناسان امنیت سایبری نسبت به خطر جدیدی که کاربران ChatGPT را تهدید میکند، هشدار جدی دادهاند. بر اساس گزارشهای منتشرشده، مدل زبانی بزرگ ChatGPT احتمالاً دچار «مسمومیت اطلاعاتی» شده و مجرمان سایبری با نفوذ به منابع یادگیری این هوش مصنوعی، لینک وبسایتهای کلاهبرداری را در میان پیشنهادها و نتایج جستجوی این چتبات جایگذاری کردهاند. این اتفاق ناخواسته باعث میشود ChatGPT کاربران را به وبسایتهای جعلی هدایت کند و در نهایت منجر به کلاهبرداری مالی و سرقت اطلاعات بانکی افراد شود.
تحقیقات Ask Silver: فروشگاههای بریتانیایی قربانی اصلی جعل سایت
سرویس بررسی کلاهبرداری Ask Silver در تحقیقات اخیر خود متوجه حضور سایتهای شبیهسازیشده و جعلی در پاسخهای ChatGPT شده است. به عنوان نمونه، زمانی که کاربران از هوش مصنوعی درباره محصولات برندهای بریتانیایی مانند Russell & Bromley یا Dunelm راهنمایی میخواهند، این چتبات گزینههایی با قیمت و تخفیفهای جذاب ارائه میدهد که لینک آنها کاربر را به وبسایتهای کلاهبرداری و نامعتبر هدایت میکند. خریداران با ورود به این سایتها و پرداخت وجه، نهتنها کالایی دریافت نمیکنند، بلکه اطلاعات حسابشان را در اختیار هکرها قرار میدهند.
مسمومیت اطلاعاتی؛ چگونه کلاهبرداران به دیتابیس هوش مصنوعی نفوذ میکنند؟
«آنا جونز» از Ask Silver توضیح میدهد که به احتمال زیاد، مدل زبانی بزرگ ChatGPT مسموم شده است. این اتفاق زمانی رخ میدهد که محتوای مخرب، از طریق صفحات وب جعلی که توسط کلاهبرداران ساخته شدهاند، وارد دیتابیس اطلاعاتی هوش مصنوعی شود. او در ادامه میگوید: «در یک مورد، کلاهبرداران از این واقعیت سوءاستفاده کردند که یک برند به تازگی تغییر مالکیت داده و سایت رسمی آن از دسترس خارج شده است؛ در نتیجه سایتهای جعلی خود را به عنوان مرجع معتبر به خورد هوش مصنوعی دادند.»
این روش که به «مسمومیت داده» (Data Poisoning) معروف است، یکی از شایعترین حملات به مدلهای زبانی بزرگ محسوب میشود و نشان میدهد که ChatGPT بدون مکانیسمهای اعتبارسنجی قوی، به راحتی میتواند کاربران را به وبسایتهای کلاهبرداری هدایت کند.
هشدار سازمان استانداردهای تجارت ملی بریتانیا؛ به نتایج هوش مصنوعی اعتماد نکنید
«لوییس بکستر»، رئیس تیم کلاهبرداری در سازمان استانداردهای تجارت ملی بریتانیا (NTSB)، تأکید میکند که مردم نباید صرفاً به این دلیل که یک وبسایت توسط ابزار هوش مصنوعی پیشنهاد شده است، به آن اعتماد کنند. او میگوید: «مصرفکنندگان بهطور فزایندهای برای دریافت مشاوره به ابزارهای هوش مصنوعی روی میآورند، اما مجرمان نیز به همان سرعت خود را با این شرایط تطبیق میدهند. ظاهر شدن وبسایتهای کلاهبرداری در نتایج هوش مصنوعی نگرانکننده است و نشان میدهد که کلاهبرداران از هر فناوری جدیدی برای رسیدن به قربانیان استفاده میکنند.»
ترفندهای سایتهای جعلی؛ تخفیفهای ۸۰ درصدی و آدرسهای نزدیک به برند اصلی
بررسیها نشان میدهد وبسایتهای کلاهبرداری که توسط ChatGPT معرفی میشوند، ظاهر بسیار فریبندهای دارند و گاهی تخفیفهای غیرمنطقی تا ۸۰ درصد را به کاربران پیشنهاد میدهند. همچنین این سایتهای شبیهسازیشده اغلب از آدرسهایی بسیار نزدیک به نام اصلی برندها استفاده میکنند؛ برای مثال، با افزودن پسوندهایی مانند onlineuk یا official در کنار نام برند، کاربر را دچار اشتباه میکنند. کارشناسان توصیه میکنند هنگام خرید آنلاین، آدرس اینترنتی (URL) سایتها را با دقت بررسی کنید و مراقب کلمات اضافی در دامنه باشید.
نشانههای یک سایت کلاهبرداری؛ پذیرش فقط حواله بانکی
یکی از بارزترین نشانههای وبسایتهای کلاهبرداری که توسط ChatGPT پیشنهاد میشوند، پذیرش فقط پرداخت از طریق حواله بانکی است. این موضوع یک زنگ خطر جدی محسوب میشود، زیرا روشهای پرداخت امن مانند کارتهای اعتباری معمولاً ضمانت خریدار را فراهم میکنند، اما حواله بانکی چنین تضمینی ندارد. هرگاه فروشگاه اینترنتی تنها حواله بانکی را به عنوان روش پرداخت قبول کند، احتمال کلاهبرداری بسیار بالاست.
توصیههای امنیتی برای کاربران ChatGPT
کارشناسان امنیت سایبری توصیههای زیر را برای جلوگیری از افتادن در تله وبسایتهای کلاهبرداری ارائه میدهند:
- هرگز روی لینکهای پیشنهادی ChatGPT کلیک نکنید؛ به جای آن، نام فروشگاه را جستجو کرده و مستقیماً وارد وبسایت رسمی شوید.
- آدرس URL را با دقت بررسی کنید؛ به دنبال املاهای عجیب یا پسوندهای اضافی باشید.
- از روشهای پرداخت امن استفاده کنید؛ هرگز به فروشگاهی که فقط حواله بانکی قبول میکند، اعتماد نکنید.
- قبل از خرید، نظرات سایر کاربران را در سایتهای معتبر بررسی کنید.
- از افزونههای بررسی اعتبار وبسایت در مرورگر خود استفاده کنید.
واکنش OpenAI: حذف سایتهای کلاهبرداری از فهرست جستجو
سخنگوی OpenAI در واکنش به این گزارشها اعلام کرده است که وبسایتهای کلاهبرداری شناساییشده را از فهرست جستجوی ChatGPT حذف کرده و کاربران میتوانند سایتهای ناقض قوانین را به طور مستقیم گزارش کنند. با این حال، کارشناسان معتقدند این اقدام کافی نیست و OpenAI باید مکانیسمهای اعتبارسنجی محتوا و فیلتر کردن لینکهای مخرب را به طور پیشفرض در مدلهای زبانی خود پیادهسازی کند.
جمعبندی؛ عصر جدید کلاهبرداری با کمک هوش مصنوعی
ماجرای هدایت کاربران ChatGPT به وبسایتهای کلاهبرداری نشان میدهد که مجرمان سایبری با سرعت خود را با فناوریهای جدید وفق میدهند. مسمومیت اطلاعاتی مدلهای زبانی بزرگ یکی از چالشهای جدی پیش روی توسعهدهندگان هوش مصنوعی است و تا زمانی که مکانیسمهای اعتبارسنجی قوی پیادهسازی نشود، کاربران باید با شک و تردید به نتایج و پیشنهادهای ChatGPT نگاه کنند. به یاد داشته باشید: ChatGPT یک موتور جستجو نیست و نمیتواند صحت وبسایتها را تضمین کند. هوشیاری خودتان، بهترین سپر در برابر این نوع کلاهبرداریهاست.
