آیا به خاطر دارید که تصویر جعلی پاپ فرانسیس که او را با کاپشن پفی سفید در خیابان‌های واتیکان نشان می‌داد، چقدر جنجالی شد؟ مدتی طول کشید تا مردم متوجه اشتباهات ریزی در این عکس شده و در نهایت قبول کنند که این تصویر با هوش مصنوعی ساخته شده است. برخی از افراد از اینکه عکس چقدر واقعی به نظر می‌رسید، بسیار شوکه شدند. این فقط یک نمونه نسبتاً بی‌ضرر از چگونگی سوء استفاده از هوش مصنوعی برای انتشار اطلاعات غلط است که به آرامی اما به طور پیوسته می‌تواند جای واقعیت‌ها را بگیرد. بدیهی است که پیامدهای چنین مسئله‌ای می‌تواند به افراد، مشاغل و حتی بازارهای سهام آسیب جدی برساند.
متقلبان به طور فزاینده‌ای از هوش مصنوعی استفاده می‌کنند
آنچه هوش مصنوعی را بسیار عالی و در عین حال ترسناک می‌کند این واقعیت است که این فناوری تقریباً امروزه برای همه افراد قابل دسترسی است. از ربات‌های ساده تولید متن یا تصویر گرفته تا الگوریتم‌های یادگیری ماشین بسیار پیچیده، مردم اکنون قدرت ایجاد حجم زیادی از محتوای واقع‌گرایانه را در زیر نوک انگشتان خود دارند. بنابراین، این یک معدن طلای واقعی برای فعالیت‌های غیرقانونی از هر نوعی محسوب می‌شود.
به کمک ابزارهای تولید زبان طبیعی، کلاهبرداران می‌توانند به سرعت و با دقت بالا، حجم زیادی متن حاوی اطلاعات غلط منتشر کنند. این مقالات تولید شده توسط هوش مصنوعی با داده‌های نادرست یا غیردقیق به راحتی به رسانه‌های بزرگ نیز راه پیدا می‌کنند. در واقع، این روزها ایجاد وب‌سایت‌های کامل پر از اخبار جعلی که ترافیک بالایی دارند و برای کسب درآمد تبلیغاتی عظیم می‌توان از آن‌ها استفاده کرد، کاملاً امکان‌پذیر است.
NewsGuard پیش از این 659 وب‌سایت حاوی اخبار و اطلاعات تولید شده توسط هوش مصنوعی را که غیرقابل اعتماد محسوب شده و 15 زبان مختلف را پوشش می‌دهند، کشف کرده است! اطلاعات غلط منتشر شده در این وب‌سایت‌ها می‌تواند به رویدادهای ساختگی یا تفسیر نادرست رویدادهای واقعی مربوط باشد. طیف موضوعات و اخبار جعلی گسترده است و شامل رویدادهای روزمره، سیاست، فناوری و سرگرمی و غیره می‌شود.
فیشینگ صوتی یا همان ویشینگ (Vishing)، نوع دیگری از کلاهبرداری‌های نسبتاً جدید است که به لطف فناوری شبیه‌سازی صدا توسط هوش مصنوعی ممکن شده است. کلاهبرداران در این روش می‌توانند صدای تقریباً هر کسی که سخنرانی او ضبط شده و در اینترنت موجود است را کپی کنند و به این ترتیب، از اعتبار افراد مهم مانند مقامات دولتی، سلبریتی‌ها یا حتی دوستان و اعضای خانواده فرد قربانی، در جهت مقاصد شوم خود سوء استفاده کنند. در سال 2021، بیش از 59 میلیون نفر در ایالات متحده تحت تأثیر حملات فیشینگ صوتی قرار گرفتند و این رقم همچنان رو به افزایش است.
علاوه بر این، اینترنت مملو از تصاویر و ویدیوهای جعلی واقع‌گرایانه‌ای است که به عنوان دیپ‌فیک (Deepfake) شناخته می‌شوند و می‌توان از آن‌ها برای جهت دادن به افکار عمومی یا انتشار اطلاعات نادرست با سرعت رعدآسا استفاده کرد. این روند حتی در سطوح دولتی نیز مایه نگرانی است و به عنوان مثال، تأثیر دیپ‌فیک‌های تولید شده توسط هوش مصنوعی بر انتخابات ریاست جمهوری آینده ایالات متحده به طور فعال توسط رسانه‌ها مورد بحث قرار می‌گیرد. از تبلیغات تهاجمی مبتنی بر هوش مصنوعی گرفته تا فیلم‌های ویدیویی دستکاری‌شده از نامزدهای سیاسی، همگی جزو پتانسیل‌های دیپ‌فیک‌های هوش مصنوعی برای تأثیرگذاری بر افکار عمومی و تضعیف یکپارچگی فرآیند دموکراتیک بوده و نگرانی فزاینده‌ای برای سیاستگذاران و رای‌دهندگان ایجاد کرده‌اند.
فراموش نکنیم که چگونه هوش مصنوعی سرقت هویت افراد را نیز آسان‌تر کرده است. گزارش سال گذشته Sumsub نشان می‌دهد که جعل هویت با هوش مصنوعی در حال افزایش است و در صدر فهرست انواع رایج کلاهبرداری‌ها قرار گرفته است. این تحقیق نشان دهنده افزایش 10 برابری تعداد دیپ‌فیک‌ها در سال‌های 2022 و 2023 است. این کلاهبرداری‌ها در صنایع مختلف وجود داشته و فعلاً بیشتر منطقه آمریکای شمالی را درگیر کرده است.
حقیقت این است که کلاهبرداری با هوش مصنوعی و تولید اخبار جعلی تنها یک تهدید برای چهره‌های سرشناس نیست. این حملات و سوء استفاده‌ها می‌تواند افراد و کسب و کارهای کوچک را نیز هدف قرار دهد. کلاهبرداران می‌توانند از ایمیل‌های تولید شده توسط هوش مصنوعی برای جعل مراجع رسمی استفاده کرده و با فریب دادن مردم، آن‌ها را تشویق به فاش‌کردن اطلاعات شخصی یا انتقال پول کنند. به طور مشابه، کسب و کارهای کوچک ممکن است قربانی نقد و بررسی‌های جعلی یا تبلیغات منفی تولید شده توسط هوش مصنوعی شوند که به شهرت آن‌ها آسیب رسانده و در نهایت کاهش سود را به دنبال خواهد داشت. سناریوهای احتمالی این چنینی بی‌پایان هستند و هر روز می‌توانیم شاهد یک مدل جدید از کلاهبرداری‌های مبتنی بر هوش مصنوعی باشیم.
اقدامات مقابله با اخبار جعلی و کلاهبرداری با هوش مصنوعی هنوز کافی نیست
حل مشکل جعل محتوا و هویت توسط هوش مصنوعی سال‌هاست که برای پلتفرم‌های آنلاین، رسانه‌ها، مشاغل و دولت‌ها دردسری بزرگ بوده است. در سال‌های اخیر، شبکه‌های اجتماعی از الگوریتم‌ها و تکنیک‌های تعدیل محتوا برای شناسایی و حذف محتوای فریبنده استفاده کرده‌اند. سازمان‌های بررسی‌کننده صحت اطلاعات به صورت شبانه‌روزی برای افشا کردن اطلاعات نادرست کار می‌کنند و نهادهای نظارتی نیز اقدام به وضع قوانین و سیاست‌های لازم می‌کنند.
یکی دیگر از استراتژی‌های مهم، افزایش آگاهی عموم مردم نسبت به حجم محتوای تولید شده توسط هوش مصنوعی است. به تازگی، گوگل و متا هر دو سیاست‌های دیپ‌فیک هوش مصنوعی خود را به‌روزرسانی کرده‌اند. این پلتفرم‌ها اکنون تمام ارائه دهندگان تبلیغات، از جمله تبلیغات سیاسی را ملزم کرده‌اند تا در صورت ایجاد با هوش مصنوعی، این موضوع را به صراحت اعلام کنند.
با این حال، به نظر نمی‌رسد تاکنون هیچ یک از این اقدامات توانسته باشند، موج سوء استفاده از هوش مصنوعی را متوقف کنند. هر روز بیش از پیش آشکار می‌شود که مبارزه با اخبار جعلی و کلاهبرداری با هوش مصنوعی نیازمند رویکردی چند وجهی است. همکاری بیشتر بین شرکت‌های فناوری، سازمان‌های دولتی و جامعه مدنی در این فرآیند کاملاً ضروری است. تقویت سواد رسانه‌ای و مهارت‌های تفکر انتقادی در بین مردم نیز می‌تواند به افراد در شناسایی و مقاومت در برابر تاکتیک‌های استفاده شده در اخبار جعلی و کلاهبرداری‌ها کمک کند. و البته، برای عقب نماندن از فناوری‌های در حال تحول هوش مصنوعی که توسط کلاهبرداران استفاده می‌شود، باید روی بخش تحقیق و توسعه نیز سرمایه‌گذاری شود.
علاوه بر این، توسعه الگوریتم‌های پیشرفته‌تر هوش مصنوعی که قادر به تشخیص و علامت‌گذاری محتوای فریبنده به صورت بلادرنگ و در لحظه هستند، بسیار مهم است. به نظر کمی مسخره می‌رسد که ما از هوش مصنوعی برای شناسایی هوش مصنوعی استفاده کنیم، اما در تاریخ فناوری اتفاقات عجیب‌تر از این هم رخ داده و نباید زیاد تعجب کرد.
در نهایت، در جامعه‌ای که هوش مصنوعی را پذیرفته است، راه درازی در پیش داریم تا به طور مؤثر بر چالش‌های اخلاقی، اجتماعی و فنی ناشی از گسترش اخبار جعلی و کلاهبرداری تولید شده توسط این فناوری غلبه کنیم. مطمئناً در آینده شاهد اجرای گسترده‌تر قوانین و سیاست‌های سختگیرانه‌تر در مورد استفاده از هوش مصنوعی در تولید و انتشار اطلاعات خواهیم بود. اما در حال حاضر، بهترین کاری که کاربران معمولی می‌توانند انجام دهند، هوشیار بودن و اصالت‌سنجی هرگونه اطلاعاتی است که به صورت آنلاین با آن مواجه می‌شوند، به خصوص اگر این اخبار و اطلاعات به نظر هیجان‌انگیز یا مشکوک می‌رسد، باید قبل از پذیرفتن آن‌ها از صحت‌شان اطمینان حاصل شود. به این ترتیب، تا حد زیای می‌توان از طعمه اخبار جعلی و کلاهبرداری‌های تولید شده توسط هوش مصنوعی در امان ماند.
