OpenAI از ابتدای ۲۰۲۵ تا کنون دستکم ۱۰ کمپین مخرب هوش مصنوعی را متوقف کرد
OpenAI در گزارش جدیدی اظهار کرده است که از ابتدای سال ۲۰۲۵ تا به حال موفق شده است دستکم ۱۰ کمپین مخرب که با سوءاستفاده از چتبات ChatGPT طراحی شده بود، را متوقف سازد.
این شرکت مدعی دارد که ایران، روسیه و چین هم در این دست داشتهاند و برخی از این فعالیتها توسط عوامل دولتی یا گروههای وابسته به دولتها انجام شدهاند.
توقف کمپینهای مخرب هوش مصنوعی توسط OpenAI
چهار مورد از این کمپینها منشأ چینی داشتهاند و شامل عملیات مهندسی اجتماعی، تهدیدهای سایبری و نفوذ پنهانی به فضای آنلاین بودهاند. یکی از این موارد که OpenAI آن را نامیده است، گروهی از کاربران چینی با ارسال نظرات منفی در مورد بازی که حاوی محتواهای کمونیست بود، سعی کردند اعتبار آن را زیر سؤال ببرند. سپس همین شبکه مقالهای ساختگی در انجمن آنلاین منتشر کرد و مدعی شد این بازی با موجی از انتقادات مواجه شده تا به اعتبار آن و در کنارش استقلال تا یوان خدشه وارد کند.
در کمپینی دیگر به نام، عوامل روسی با استفاده از ChatGPT محتوایی به زبان آلمانی تشکیل دادهاند که از ایالات متحده و ناتو انتقاد میکند. این گروه در مورد انتخابات ۲۰۲۵ آلمان محتای متنی منتشر کرده و به دنبال تأثیرگذاری بر فضای سیاسی این سرزمین بودهاند.
OpenAI مدعی است عوامل تهدیدی که به غمان زیاد به ایران مرتبط بودهاند، توییتهایی به زبان اسپانیایی و انگلیسی در مورد سیاستهای مهاجرت آمریکا، استقلال اسکاتلند، اتحاد مجدد ایرلندیها و مذاکرات ایران و آمریکا تشکیل دادهاند.
در یکی از موارد مهم، مهاجمان با پشتیبانی ChatGPT فعالان ناموفق و وبلاگنویسان را شناسایی کردهاند و مطلبهایی ساختهاند که در آنها به انتشار ین مطالب در شبکههای اجتماعی و پرداخت پول به این افراد اشاره شده است.
این چنین حسابهای کاربری مرتبط با کمپینی به نام که سعی کردند بر فضای سیاسی آمریکا تأثیر بگذارند، شناسایی و مسدود شدهاند. در برخی موارد، کاربران چینی با ساخت حسابهایی که محتوای تفرقهانگیز در مورد مسائل سیاسی آمریکا از جمله تعرفهها را منتشر میکردند، تلاش داشتند شکافهای سیاسی این کشور را تشدید کنند. حتی صفحاتی مشابه انجمنهای حمایتی مخصوص سربازان با زنشسته آمریکایی ساخته بودند تا کاربران را جذب نمایند.
OpenAI قبلا نیز با کمپین فیشینگ گروه هکری چینی مقابله کرده بود که کارکنان این شرکت را هدف قرار داده بود. این حملات با همکاری شرکای امنیتی شناسایی و خنثی شدند.
OpenAI در پایان هشطار داده است که همه چیزی که در اینترنت میبینیم، قطعا توسط انسان واقعی منتشر نشده است؛ بنابراین ممکن است فردی که در شبکههای اجتماعی با او گفت وگو میکنیم، در واقع بخشی از یکملیه سازمانیافته برای ایجاد اختلاف و در گیری باشد.
