سوءاستفاده هکرها از Grok، دستیار هوش مصنوعی X برای انتشار لینک‌های مخرب

به گزارش سرویس علم و فناوری تابناک، مدیر آزمایشگاه امنیتی Guardio Labs، مهاجمان سایبری با استفاده از یک تکنیک جدید، لینک‌های آلوده به بدافزار یا محتوای مشکوک را از طریق Grok در معرض دید عموم قرار می‌دهند. این روش شامل مخفی‌کردن لینک مخرب در بخش «From» پست‌های تبلیغاتی است، به‌طوری که وقتی کاربری از Grok می‌خواهد منبع تبلیغ را مشخص کند، این دستیار هوش مصنوعی لینک مخفی‌شده را بازیابی کرده و ناخواسته آن را در پاسخ خود نمایش می‌دهد.

استفاده از اعتبار سیستمی Grok برای گمراه‌سازی کاربران

تال هشدار می‌دهد که دلیل موفقیت این روش، اعتبار خاص حساب کاربری Grok در شبکه اجتماعی X است. این حساب به‌عنوان یک حساب «سیستمی و مطمئن» دسته‌بندی می‌شود و برخلاف دیگر کاربران، از فیلترهای امنیتی و نظارتی عادی عبور نمی‌کند. از سوی دیگر، ماهیت تقویتی پست‌های تبلیغاتی در X به‌گونه‌ای است که این پست‌ها معمولاً بین صدها هزار تا چند میلیون بازدید دریافت می‌کنند، موضوعی که باعث می‌شود پاسخ‌های Grok حاوی لینک‌های مخرب، به‌سرعت در مقیاس گسترده منتشر شوند.

افزایش مصنوعی اعتبار دامنه‌ها با کمک Grok

طبق بررسی‌های انجام‌شده، این حملات تنها به انتشار لینک ختم نمی‌شود. پاسخ‌های Grok به‌طور غیرمستقیم موجب افزایش جعلی اعتبار دامنه‌های آلوده و بهبود نمایه‌سازی آن‌ها در موتورهای جست‌وجو می‌شود، چرا که این لینک‌ها در پست‌های پربازدید تکرار می‌شوند. لینک‌های مورد استفاده معمولاً کاربران را به صفحات جعلی کپچا یا بدافزارهای سرقت اطلاعات هدایت می‌کنند.

استفاده از محتوای بزرگ‌سالانه برای عبور از فیلترها

به نوشته وب‌سایت NotebookCheck، مهاجمان سایبری غالباً از قالب‌های ویدئویی و محتوای بزرگ‌سالان به‌عنوان طعمه استفاده می‌کنند تا پست‌های تبلیغاتی آن‌ها از فیلترهای بازبینی محتوای X عبور کند.

نبود سیستم مؤثر برای مقابله با تهدید

یکی از نگرانی‌های اصلی مطرح‌شده توسط تال، نبود سامانه‌ای مؤثر برای شناسایی و فیلترکردن این لینک‌ها در X است. وی تأکید می‌کند که Grok نه‌تنها قادر به تشخیص لینک‌های مخرب نیست، بلکه در برخی موارد لینک‌های اشتباه یا بی‌فایده را به کاربران ارائه می‌دهد. در یکی از موارد گزارش‌شده، Grok در پاسخ به درخواست کاربری برای گزارش مشکل، تنها یک لینک شکسته ارائه کرد که نشان‌دهنده ناتوانی این سیستم در تشخیص اعتبار منابع است.

زنگ خطری جدی برای امنیت کاربران پلتفرم X

افزایش گزارش‌ها درباره این شیوه حمله، بار دیگر پرسش‌هایی جدی درباره ایمنی هوش مصنوعی‌های تعبیه‌شده در پلتفرم‌های اجتماعی و مسئولیت‌پذیری شرکت‌های فناوری در قبال سوءاستفاده‌های احتمالی را مطرح کرده است. با توجه به گستردگی دامنه این سوءاستفاده، تحلیل‌گران امنیتی خواستار اقدامات فوری از سوی شرکت X برای اصلاح سازوکارهای امنیتی مرتبط با Grok شده‌اند.