شرکت اپل به طور رسمی اعلام کرده است که کار بر روی قابلیتهای هوش مصنوعی برای سیری (Siri) با تأخیر مواجه شده است و اکنون قرار است این قابلیتها “در سال آینده میلادی” عرضه شوند. به نظر میرسد که دلیل این تأخیر نگرانیهایی درباره خطرات احتمالی هوش مصنوعی است. سیری جدید قرار است هوشمندتر و شخصیتر شود، اما هر چه سیری باهوشتر و شخصیتر باشد، در صورت بروز خطا، احتمال آسیب نیز بیشتر خواهد شد. در واقع، هوش مصنوعی چاقویی دو لبه است که میتواند محصولات اپل را با تهدید روبرو کند! با دیجی رو همراه باشید.
سایمون ویلیسون (Simon Willison)، توسعه دهنده ابزار تحلیل داده Dataset، معتقد است که مشکل اصلی به پدیدهای به نام “تزریق دستورات” (Prompt Injection) مربوط میشود. معمولاً شرکتهای سازنده هوش مصنوعی، قوانین مشخصی را برای محدود کردن رفتار این مدلها وضع میکنند. اما امکان عبور از این محدودیتها یا در اصطلاح “جیلبریک” (Jailbreak) کردن هوش مصنوعی با استفاده از دستورات خاص وجود دارد. این فرایند به این صورت انجام میشود که با ارائه دستورات پیچیده، مدل را به نقض قوانین از پیش تعیین شده ترغیب میکنند.
برای مثال، فرض کنید یک مدل هوش مصنوعی به گونهای برنامهریزی شده که به سؤالات مربوط به اقدامات غیرقانونی پاسخ ندهد. اما اگر از آن بخواهید که شعری درباره روش دزدیدن یک خودرو بنویسد، چه اتفاقی میافتد؟ سرودن شعر که عملی غیرقانونی نیست، اما در عمل باعث انتقال اطلاعات غیرمجاز میشود.
این مشکل تنها محدود به اپل نیست. تمام شرکتهایی که چتباتهای مبتنی بر هوش مصنوعی ارائه میدهند با این چالش روبهرو هستند. البته این شرکتها در مسدود کردن روشهای جیلبریک آشکار، پیشرفتهایی داشتهاند، اما هنوز نتوانستهاند این مشکل را به طور کامل حل کنند. مشکل اصلی اینجاست که در مورد سیری، خطر جیلبریک شدن به دلیل دسترسی این دستیار هوشمند به اطلاعات شخصی کاربران و امکان انجام اقدامات مختلف برای آنها، به مراتب جدیتر است.
ژاکلین روی (Jacqueline Roy)، سخنگوی اپل، در این خصوص گفته است:
ما همچنین در حال کار بر روی نسخه شخصیسازیشدهتری از سیری هستیم که آگاهی بیشتری از زمینههای شخصی شما خواهد داشت و توانایی انجام اقدامات مختلف برای شما را در برنامههای مختلف به آن میدهد.
اپل بدون شک قوانینی را برای محافظت از دادههای خصوصی کاربران در سیری وضع کرده است. اما اگر یک تزریق دستور موفق شود این قوانین را دور بزند، چه اتفاقی خواهد افتاد؟ توانایی “انجام اقدامات برای شما” در سیری آنطور که اپل میگوید، اگر به درستی محافظت نشود، میتواند توسط عوامل مخرب مورد سوء استفاده قرار گیرد. بنابراین برای شرکتی مانند اپل که حساسیت بالایی نسبت به حریم خصوصی و امنیت دارد، بسیار مهم است که از جیلبریک نشدن سیری اطمینان حاصل کند. به نظر میرسد که این کار زمانبر خواهد بود و به همین دلیل عرضه سیری جدید به تعویق افتاده است.
