مسدود شدن حساب‌های مرتبط با ابزار نظارتی چین به‌وسیله OpenAI

OpenAI با هدف جلوگیری از سوءاستفاده از هوش مصنوعی در عملیات جاسوسی و نظارت غیرقانونی حساب‌های مرتبط با ابزارهای نظارتی چین را مسدود کرد.

به گزارش تک‌ناک، OpenAI چندین حساب کاربری وابسته به ابزار نظارتی چینی را مسدود کرد. این حساب‌ها با استفاده از ChatGPT، پیشنهادهای فروش ایجاد و کدهای دستیار هوش مصنوعی را برای جمع‌آوری داده‌های لحظه‌ای درباره اعتراضات ضدچینی در کشورهای غربی، ازجمله ایالات متحده و بریتانیا، رفع اشکال می‌کردند.

طبق گزارش بلومبرگ، Ben Nuimmo، محقق ارشد OpenAI، اعلام کرد که این شرکت در تلاش است تا نشان دهد چگونه رژیم‌های اقتدارگرا مانند چین می‌توانند از فناوری‌های توسعه‌یافته در ایالات متحده علیه این کشور و متحدانش استفاده کنند. او تأکید کرد:

این رویداد نمایی نگران‌کننده از شیوه‌ای است که قدرت غیردموکراتیک برای مقاصدی غیردموکراتیک از هوش مصنوعی مبتنی‌بر ایالات متحده بهره گرفته است، آن هم طبق مستنداتی که خودشان تولید کرده‌اند.

شرکت OpenAI افزود که حساب‌های مذکور از سایر ابزارهای هوش مصنوعی، ازجمله نسخه‌ای از Llama، مدل هوش مصنوعی متن‌باز متا، نیز استفاده کرده بودند. بر‌اساس یافته‌های OpenAI، این نرم‌افزار نظارتی Qianyue Overseas Public Opinion AI Assistant نام داشته است؛ اما هنوز مشخص نیست که آیا به‌طور رسمی عملیاتی شده یا خیر.

نئووین می‌نویسد که OpenAI بر سیاست‌های خود در جلوگیری از سوءاستفاده رژیم‌های اقتدارگرا از ابزارهای هوش مصنوعی برای افزایش قدرت و کنترل شهروندانشان تأکید کرد. نرم‌افزار مذکور برای شناسایی بحث‌ها و گفت‌وگوهای آنلاین در کشورهای غربی درباره حقوق بشر در چین و دیگر موضوعات ضدچینی طراحی شده بود. این اطلاعات از پلتفرم‌هایی مانند ایکس و فیسبوک و اینستاگرام جمع‌آوری و در قالب گزارش‌های نظارتی به مقام‌های چینی و عوامل اطلاعاتی و کارکنان سفارت‌های چین ارسال می‌شدند.

OpenAI پیش‌تر نیز بارها درباره این نوع تهدیدات به دولت ایالات متحده هشدار داده بود؛ به‌ویژه پس‌از ظهور دیپ‌سیک و مدل استدلالی R1 که در بنچمارک‌ها از بسیاری از مدل‌های توسعه‌یافته در ایالات متحده پیشی گرفت و بازار این کشور را دچار نوسان کرد. OpenAI این شرکت را به استخراج داده‌های مدل‌های خود متهم کرده و هشدار داده است که شرکت‌های چینی ممکن است در حال سرقت اطلاعات اختصاصی از شرکت‌های آمریکایی باشند.