از کنترل خارج شدن هوش مصنوعی، غول‌های فناوری را به اتحاد وادار کرد!

صنعت فناوری هنوز تحت تأثیر حادثه اخیر «هاگینگ فیس» (Hugging Face) است؛ حادثه‌ای که در آن یک مدل هوش مصنوعی خودمختار و یاغی از تولیدات شرکت OpenAI، از محیط آزمایشی خود فرار کرد و به سیستم‌های هاگینگ فیس نفوذ و آن‌ها را هک کرد! هاگینگ فیس ابتدا تلاش کرد که با استفاده از مدل‌های بسته و پیشرو آمریکایی مانند Fable 5 از شرکت آنتروپیک از خود دفاع کند، اما این تلاش‌ها بدون نتیجه ماند و ناموفق بود. در نهایت، این شرکت توانست هک انجام شده توسط هوش مصنوعی را با استفاده از مدل GLM 5.2 با وزن باز که توسط شرکت چینی Z.ai توسعه داده شده بود، مهار و کنترل کند.

مدل هوش مصنوعی با وزن باز چیست؟

برای درک بهتر این موضوع، مدل‌های بسته یا Closed Models در محیط‌های ایزوله و اختصاصی خود کار می‌کنند (مانند ChatGPT)؛ در مقابل، مدل‌های هوش مصنوعی با وزن باز یا Open-weight به مدل‌هایی گفته می‌شود که شرکت سازنده، وزن‌های آموزش دیده آن‌ها را در اختیار عموم قرار می‌دهد. این وزن‌ها در واقع میلیاردها یا حتی تریلیون‌ها پارامتری هستند که مدل طی فرایند آموزش فرا گرفته و دانش و توانایی‌های خود را در آن‌ها ذخیره کرده است. انتشار این وزن‌ها به توسعه‌دهندگان و پژوهشگران اجازه می‌دهد مدل را دانلود کرده، روی سخت‌افزار خود اجرا کنند و در بسیاری از موارد آن را برای کاربردهای مختلف شخصی‌سازی یا دوباره تنظیم کنند.

با این حال، مدل با وزن باز لزوماً به معنای مدل متن‌باز (Open Source) نیست. در بسیاری از موارد، اگرچه فایل وزن‌های مدل در دسترس عموم قرار می‌گیرد، اما کد آموزش، داده‌های آموزشی یا جزئیات کامل فرایند توسعه آن منتشر نمی‌شود و حتی ممکن است مجوز استفاده از مدل نیز محدودیت‌هایی برای برخی کاربردها داشته باشد. به همین دلیل، شرکت‌ها و رسانه‌های فناوری امروزه به طور مشخص از اصطلاح Open-weight استفاده می‌کنند تا آن را از Open-source متمایز کرده و از ایجاد برداشت نادرست جلوگیری کنند.

تشکیل ائتلاف بزرگ برای مقابله با خطرات هوش مصنوعی

حادثه هاگینگ فیس و نفوذ سایبری هوش مصنوعی به این شرکت، باعث شد تا رهبران و مدیران صنعت فناوری تصمیم به تشکیل یک ائتلاف جدید با نام «ائتلاف هوش مصنوعی امن و باز» (Open Secure AI Alliance) بگیرند. یک ائتلاف عظیم و بسیار بزرگ از غول‌های فناوری، که شامل شرکت‌هایی مانند انویدیا (Nvidia)، مایکروسافت (Microsoft)، متا (Meta)، اوپن‌ای‌ای (OpenAI)، پالانتیر (Palantir)، ادوبی (Adobe)، آی‌بی‌ام (IBM)، اسپیس‌ایکس (SpaceX) و بسیاری از شرکت‌های دیگر است و این شرکت‌ها اعلام کرده‌اند که قصد دارند یک اکوسیستم بسیار قدرتمند و مستحکم از ابزارهای دفاعی هوش مصنوعی متن‌باز را ایجاد کنند. هدف اصلی از ساخت این اکوسیستم دفاعی، مقابله مؤثر، پیشگیری و محافظت در برابر حملات و نفوذهای مشابهی است که ممکن است در آینده رخ دهد.

مدل‌های هوش مصنوعی با وزن باز، که در حال حاضر پیشروترین و قدرتمندترین نمونه‌های آن‌ها تماماً توسط شرکت‌های چینی ساخته شده‌اند، ابزارهای بسیار ضروری و حیاتی برای دفاع سایبری تلقی می‌شوند. دلیل این امر آن است که این مدل‌های باز توانایی عبور و دور زدن محدودیت‌ها و حصارهای امنیتی ثالث یا همان Third-Party Guardrails را دارند؛ همین محدودیت‌های ثالث بودند که در گذشته مانع از آن شدند تا مدل‌های بسته و پیشرو آمریکایی بتوانند از هاگینگ فیس در برابر این حملات دفاع کنند. در این حادثه مشخص، مدل GLM 5.2 توانست با بررسی و تحلیل دقیق بیش از 17000 اقدام و عمل مختلف، فرآیند حمله را متوقف و مهار سازد.

در همین حال و در کنار این اتفاقات، دولت ایالات متحده آمریکا در تلاش است تا با اعمال محدودیت‌های سختگیرانه، مدل‌های هوش مصنوعی چینی با وزن باز را مهار و کنترل کند. این دولت در حال متهم کردن شرکت‌های چینی (مانند Moonshot AI، که سازنده مدل Kimi K3 است) است که گفته می‌شود مدل‌های کم‌توان‌تر خود را با استفاده از نتایج و خروجی‌های تولید شده توسط مدل‌های پیشرو آمریکایی آموزش داده‌اند؛ فرآیندی که در ادبیات هوش مصنوعی به آن «تقطیر» (Distillation) می‌گویند.

این ائتلاف جدید در دنیای فناوری که شامل غول‌های تکنولوژی است، قصد دارد در مقابل این اقدام دولت آمریکا مقاومت کرده و عکس‌العمل نشان دهد. این شرکت‌ها با امضای یک نامه سرگشاده و ارسال آن به قانون‌گذاران و سیاست‌گذاران آمریکایی، استدلال و بحث می‌کنند که اعمال محدودیت و سختگیری بر روی مدل‌های باز، نه تنها روند نوآوری را متوقف و خفه می‌کند، بلکه در نهایت می‌تواند به از دست رفتن حاکمیت فناوری نیز منجر گردد.