مهندسی منبع؛ چگونه پروپاگاندا هوش مصنوعی را به ابزار جعل واقعیت تبدیل می‌کند؟

بازار دیجیتال و فناوری فین‌تک و استارتاپ ۲۸ مرداد ۱۴۰۵خوانش بورسی از گزارش دنیای اقتصاد روش تهیه

پروپاگاندا با تولید انبوه محتوای جعلی برای ماشین، هوش مصنوعی را به بازتولید دروغ‌ها و جعل واقعیت وادار می‌کند.

این خبر به کدام بازارها مربوط است؟

چه چیزی را دنبال کنیم: پیگیری توسعه ابزارهای «بهینه‌سازی موتورهای مولد» (GEO) و واکنش نهادهای نظارتی به این نوع جدید از دستکاری اطلاعات.

۱تغییر پارادایم از تولید محتوا برای انسان به تولید محتوا برای ماشین (AI) جهت دستکاری پاسخ‌های مدل‌های زبانی.
۲استفاده از تکنیک «مهندسی منبع» برای فریب مدل‌های زبانی و جعل کثرت شواهد معتبر.
۳آسیب‌پذیری مدل‌های هوش مصنوعی در برابر اطلاعات نادرست به‌ویژه در زمان بروز خلأهای اطلاعاتی.
۴ضرورت تغییر سیاست‌گذاری رسانه‌ای از مقابله با دیپ‌فیک به نظارت بر منابع بازیابی ماشین.

میزان بازتولید ادعاهای نادرست شبکه پراودا توسط مدل‌های هوش مصنوعی در آزمون نیوزگارد	۳۳ درصد
میزان حمایت از اطلاعات نادرست در پاسخ‌های چت‌بات‌ها طبق پژوهش دانشگاه هاروارد	۵ درصد

وقتی هوش مصنوعی منبع اصلی پاسخ‌های ما می‌شود، مسموم‌شدن منابع آن به معنای مسموم‌شدن دانش و تصمیم‌گیری‌های ماست.

نیوزگارد· پژوهشگر و ارزیاب اعتبار رسانه‌هاچت‌جی‌بی‌تی· مدل هوش مصنوعی مورد آزمایشدموس· اندیشکده بریتانیاییپراودا· شبکه روسی متهم به پروپاگاندا