در ماه‌های اخیر، عامل‌های هوش مصنوعی شرکت OpenAI در چندین مورد به سامانه‌های مختلف دسترسی پیدا کرده‌اند؛ اتفاقی که نگرانی‌هایی درباره توانایی این عامل‌ها در شناسایی و عبور از محدودیت‌های دسترسی ایجاد کرده است. پس از ماجرای Hugging Face و Modal Labs، اکنون مشخص شده است که عامل‌های آزمایشی OpenAI در ماه ژوئن به چند وب‌سایت متعلق به دولت استرالیا نیز دسترسی پیدا کرده‌اند!

بر اساس اطلاعات منتشر شده، سامانه‌های زیر تحت تأثیر این اتفاق قرار گرفته‌اند:

  • Services Australia (خدمات استرالیا): یک مدل OpenAI توانسته به سامانه دسترسی پیدا کند، فرمان‌هایی را اجرا کند و حتی برخی فایل‌های داخلی را دریافت کند. با این حال، OpenAI اعلام کرده است که سوابق بیماران مشاهده نشده‌اند.
  • NSW Bureau of Crime Statistics and Research (اداره آمار و پژوهش جرایم نیو ساوت ولز): عامل هوش مصنوعی به این سامانه نیز دسترسی پیدا کرده، اما سوابق مجرمانه افراد مورد دسترسی قرار نگرفته‌اند.
  • Victorian Department of Health (وزارت بهداشت ایالت ویکتوریا): عامل مورد نظر یک کلید دسترسی را پیدا کرده و آمارهای تجمیعی مربوط به نظرسنجی‌ها را دریافت کرده است. با این حال، سوابق پزشکی افراد و پاسخ‌های قابل شناسایی نظرسنجی‌ها مشاهده نشده‌اند.
  • Australian Institute of Health and Welfare (مؤسسه بهداشت و رفاه استرالیا): در این مورد نیز عامل‌ها به آمارهای تجمیعی نظرسنجی‌ها دسترسی پیدا کردند، اما سوابق پزشکی افراد را نخواندند.

چگونه این اتفاق رخ داد؟

این موارد در جریان آزمایش یک مدل هوش مصنوعی تحقیقاتی و آزمایشی در OpenAI رخ داده‌اند. در فرآیند آزمایش، مدل‌ها وظایف مختلفی دریافت می‌کنند؛ برای مثال، ممکن است از آن‌ها خواسته شود مشخص کنند دولت ویکتوریا به ازای هر نفر چه میزان برای داروهای پوستی هزینه می‌کند.

هوش مصنوعی OpenAI

در یکی از این آزمایش‌ها، مدل نتوانست اطلاعات مورد نظر را در داده‌های عمومی پیدا کند و در ادامه به سراغ وب‌سایت‌های دولتی رفت تا اطلاعات بیشتری به دست آورد. در نتیجه، توانست به داده‌هایی دسترسی پیدا کند که برای عموم منتشر نشده بودند. نکته مهم این است که OpenAI اجاز این حد از دسترسی را به مدل نداده بود، اما از سوی دیگر، برخی از سازوکارهای حفاظتی معمول که برای مدل‌های عمومی این شرکت اعمال می‌شوند، در محیط آزمایشی مورد استفاده قرار نگرفته بودند.

OpenAI پس از اطلاع از این اتفاقات، تحقیقات داخلی خود را آغاز و سازمان‌های تحت تأثیر را در جریان قرار داد.

OpenAI چه تغییراتی ایجاد می‌کند؟

این شرکت اعلام کرده است که برای مدل‌های تحقیقاتی و آزمایشی، محدودیت‌های امنیتی بیشتری اعمال خواهد کرد. از جمله این اقدامات می‌توان به قطع دسترسی مستقیم این مدل‌ها به اینترنت زنده و ارائه محتوای ذخیره شده (Cached)، اعمال محدودیت‌های بیشتر روی دسترسی شبکه و افزایش نظارت بر فعالیت عامل‌های هوش مصنوعی اشاره کرد.

OpenAI می‌گوید اجرای برخی از این تدابیر پس از حادثه مربوط به Hugging Face آغاز شده بود، اما این اقدامات پیش از وقوع دسترسی‌های غیرمجاز به وب‌سایت‌های دولتی استرالیا به طور کامل اجرا نشده بودند.

در مورد استرالیا نیز OpenAI اعلام کرده است که با سازمان‌های دولتی تحت تأثیر همکاری می‌کند و پشتیبانی اختصاصی در اختیار آن‌ها قرار خواهد داد. این شرکت همچنین قصد دارد از صندوق Daybreak for Frontline Defenders به ارزش 1 میلیارد دلار برای تقویت زیرساخت‌های دفاع سایبری سازمان‌های دولتی استفاده کند. علاوه بر این، یک کارگروه ویژه در استرالیا ایجاد خواهد کرد تا ارتباط و هماهنگی میان OpenAI و سازمان‌های مربوطه در صورت وقوع حوادث مشابه در آینده بهبود پیدا کند.

OpenAI در توضیح این حادثه تأکید کرده است که برای بازسازی اعتماد عمومی و نشان دادن عملی تغییرات امنیتی، کار زیادی پیش رو دارد و مسئولیت اجرای وعده‌های خود را می‌پذیرد.