این متن بخشی از یک پروندهٔ ویژه دربارهٔ نسبتِ هوش مصنوعی و روزنامهنگاری است؛ مجموعهای از مقالهها و گزارشها که بهجای داوری شتابزده، تلاش میکند با روایتهای واقعی، تجربههای میدانی و پرسشهای باز، نشان دهد هوش مصنوعی چگونه در حال تغییر تولید خبر، تشخیص حقیقت و اعتماد مخاطب است. هر بخش از این پرونده تکهای از این تصویر بزرگتر را روشن میکند؛ تصویری از رسانه در لحظهای گذار، میان شوقِ فناوری و اضطرابِ ازدسترفتن واقعیت.
انتشار فارسی این پروندهٔ ویژه در رسانهٔ مُصوّر بهصورت تدریجی انجام میشود. ترجمهٔ اولیهٔ متنها با کمک ابزارهای هوش مصنوعی صورت گرفته، اما هر مقاله زیر نظر ویراستار انسانی بازبینی، اصلاح و صیقل داده شده است؛ با این آگاهی که قرار نیست همهچیز بینقص، بیلکنت یا کاملاً سلیس باشد. تلاش ما این بوده که «ماهیت» متنها حفظ شود حتی اگر گاهی به بهای از دست رفتن اندکی روانی یا یکدستی باشد. درست مثل خودِ موضوع این پرونده: همکاری انسان و ماشین، با تمام تنشها و ناهماهنگیهایش.
بخشهای قبلی پروندهٔ هوش مصنوعی کلمبیا ژورنالیسم ریویو:
- چگونه از هوش مصنوعی استفاده میکنیم | بخش اول
- چگونه از هوش مصنوعی استفاده میکنیم | بخش دوم
- چگونه از هوش مصنوعی استفاده میکنیم | بخش سوم
- چگونه از هوش مصنوعی استفاده میکنیم | بخش چهارم
- چگونه از هوش مصنوعی استفاده میکنیم | بخش پنجم
خبرنگاران باید در لحظهٔ انتشار خبر، راست را از دروغ تشخیص دهند؛ اما شاید نتوانند برای حل مشکلی که خودِ فناوری ساخته، به فناوری تکیه کنند.
در سال ۲۰۲۳، یک کارگر سیویکسالهٔ ساختمانی به نام پابلو هاوییر[1] (که نام خانوادگیاش علنی نشده) ناخواسته کاری کرد که نقطهٔ عطفی شد. او در پلتفرم میدجرنی[2] که یک ابزار تولید تصویر از متن است، توضیحی دقیق دربارهٔ «پاپ فرانسیس با یک پافرِ پفدار سفید» وارد کرد. سپس تصویر تولیدشده را در اینترنت منتشر کرد؛ تصویری که فوراً وایرال شد. آنچه این تصویر را چشمگیر میکرد، طنز ماجرا نبود؛ میزان قانعکنندهبودن آن بود: از انعکاس واقعی نور روی کاپشن پاپ گرفته تا بازتاب بسیار ظریف عینک روی گونهٔ او. این سطح از جزئیات تا آن زمان از یک کاربر آماتور هوش مصنوعی سابقه نداشت.
در آن زمان، امانوئل سالیبا[3] حدود ده سال سابقهٔ کار روزنامهنگاری داشت و مشغول توسعهٔ شیوههای نوظهور راستیآزمایی متنباز (OSINT) بود؛ شیوههایی که کمک میکرد اصالت تصاویر منتشرشده در شبکههای اجتماعی بررسی شود. کار او اغلب شامل این بود که بفهمد یک عکس فتوشاپ شده یا از موقعیتی دیگر برداشته شده و بهاشتباه بازنشر شده است. خودش میگوید: «فقط خیلی خوب بلد بودم چیزها را در اینترنت پیدا کنم.» سالیبا بخشی از پروتکل راستیآزمایی انبیسی[4] را تدوین کرد و زمانی که جریان «پاپ با پافر» همهجا پخش شده بود، تازه وارد ایبیسی[5] شده بود تا دربارهٔ دنیای روبهگسترش محتوای تولیدشده با هوش مصنوعی کار کند؛ با این امید که بتواند مردم را یک قدم جلوتر از موج اطلاعات نادرست نگه دارد. اما بهجای امید، با حجم عظیمی از محتوای ساختگی روبهرو شد؛ و صریح میگوید: ترسید.
«کل فرایند راستیآزمایی باید از نو بررسی میشد.» سالیبا که امروز سیوپنجساله است، میگوید اینکه یک کاربر معمولی بتواند چنین تصویری بسازد، یعنی نهتنها یک تصویر جعلی میتواند واقعی جلوه کند، بلکه یک تصویر واقعی هم میتواند بهراحتی جعلی قلمداد شود. او میگوید: «مسئله فقط تشخیص دروغ نیست؛ مسئلهٔ اصلی اثبات واقعیت است.» حالا رقابت جدیدی شکل گرفته بود: ساخت ابزاری قابلاعتماد برای تشخیص دقیق تصویر واقعی از ساختگی.
در همین دوران او با هانی فرید[6]، دانشمند مشهور علوم کامپیوتر، آشنا شد. فرید در دانشگاه برکلی کالیفرنیا «مدرسهٔ اطلاعات» را اداره میکرد و سالیبا با او دربارهٔ تهدید احتمالی محتوای تولیدشده با هوش مصنوعی برای انتخابات پیشِرو صحبت کرد. فرید از پیشگامان حوزهٔ «جرمشناسی دیجیتال» است؛ حوزهای که تلاش میکند دستکاری تصاویر را تشخیص دهد. سالیبا میگوید: «او واقعاً پدرِ این حوزه است.» در نگاه او، کار هر دو نفر «همراستا و مکمل» بود.
فرید سالها در حال توسعهٔ روشهایی بود که میتوانستند تغییرات دیجیتالی را در تصاویر آشکار کنند. اما با رشد یادگیری ماشین، این حوزه به سمت مدلهایی رفت که میتوانستند ناهماهنگیهای بصری رایج در تصاویر ساختگی مثل ایرادهای نور، سایه، زاویهٔ دید یا تناسبها را تشخیص دهند؛ چیزهایی که چشم انسان ممکن است نبیند. سالیبا فکر میکرد اگر این مدلها تبدیل به ابزارهای قابل استفاده در تحریریه شوند، میتوانند کمک بزرگی باشند.
ارتباط میان فرید و سالیبا ادامه یافت. چند سال بعد، فرید شرکت گتریل را راهاندازی کرد؛ شرکتی که خدمات تشخیص محتوای تولیدشده با هوش مصنوعی ارائه میکند، از جمله تشخیص جعل عمیق[7] در لحظهٔ تماس تصویری. سالیبا ایبیسی را ترک کرد و به گتریل پیوست؛ با این هدف که این ابزار را برای استفاده در تحریریههای خبری بهینه کند: «میخواستم بخشی از تیمی باشم که روی اثبات اصالت و درستی محتوا کار میکند.»
اگر سری به وبسایت گتریل بزنید، یا به دهها سرویس تشخیص هوش مصنوعی دیگری که در سالهای اخیر برای تحلیل تصویر و متن ظاهر شدهاند، خیلی راحت ممکن است به آینده امیدوار شوید. گتریل با اعتمادبهنفس اعلام میکند: «از جعل تصویر، صدا و ویدئو جلوگیری کنید تا اصالت جریانهای حیاتی کارتان حفظ شود.» وبسایت هایومادریشن، ابزار دیگری که برای پایش محتوای کاربرمحور استفاده میشود، با جسارت مینویسد: «گفتند این مشکل حلنشدنی است. ما حلش کردیم.» و وعده میدهد مدلش «با دقتی در سطح انسان» راهحلی خودکار ارائه میکند. ابزار دیگری با نام گیجکنندهٔ آندیتکتبلایآی [به معنی هوش مصنوعی غیر قابل تشخیص] هم ادعا میکند: «این ابزار تضمین میکند به هرچه میبینید اعتماد کنید.» اگر حرف این سرویسها را باور کنید، تشخیص محتوای واقعی از ساختهشده با هوش مصنوعی فقط به این بستگی دارد که «در لحظهٔ مناسب، ابزار مناسب» را انتخاب کنید.
اما بهگفتهٔ سیوی لیو[8]، استاد علوم کامپیوتر دانشگاه بوفالو[9] و متخصص تشخیص جعل عمیق، ماجرا به این سادگی نیست. هرقدر فناوریِ تشخیص محتوای تولیدشده با هوش مصنوعی پیشرفتهتر میشود، خودِ فناوریِ جعل نیز واقعیتر و دقیقتر میشود. بنابراین مدلهای تشخیص باید مدام بهروزرسانی شوند تا از این رقابت عقب نمانند. او میگوید: «فناوری هوش مصنوعی با سرعتی سرسامآور پیش میرود و اگر ابزارهای تشخیص با دادههای تازه آموزش نبینند، خیلی زود از رده خارج میشوند.» به بیان دیگر: جعلهای مبتنی بر هوش مصنوعی مدام در حال تغییرند و هیچوقت ثابت نمیمانند.
از سوی دیگر، خطرناکترین انواع تصاویر و ویدئوهای جعلی (آنهایی که برای کلاهبرداری یا عمداً برای گمراهکردن افکار عمومی ساخته میشوند) دقیقاً با این هدف طراحی شدهاند که از چشم ابزارهای تشخیص پنهان بمانند. تلاشهایی صورت گرفته تا شرکتهای هوش مصنوعی، مثل اوپنایآی، مجبور شوند واترمارکی نامرئی روی محتوایی که با نرمافزارشان ساخته میشود قرار دهند تا دستکاری عمدی سختتر شود. در سال ۲۰۲۳، جو بایدن نیز فرمان اجراییای برای حمایت از همین اقدام صادر کرد. اما لیو یادآور میشود: «در آن سوی این الگوریتمها، انسانهایی قرار دارند که به مرور در محو کردن ردپاهایشان استاد میشوند.» برخی شبکههای اجتماعی، مثل متا، قول دادهاند محتوایی را که بهوسیلهٔ هوش مصنوعی تولید یا ویرایش شده، در صورت نیاز برچسبگذاری کنند. بااینحال، یک پژوهش مشترک از محققان استرالیا و کرهٔ جنوبی نشان میدهد که حتی بهترین مدلهای تشخیص نیز فقط حدود دو سوم مواقع میتوانند محتوای تولیدشده با هوش مصنوعی را بهدرستی شناسایی کنند.
گاهی حتی حسابهای خبریِ فعال در شبکههای اجتماعی نیز فریب میخورند. سال گذشته، صفحهٔ وار مانیتورز[10] در ایکس (توییتر سابق) که بیش از یک میلیون دنبالکننده دارد و اخبار فوری و سیاسی منتشر میکند، عکسی را بازنشر کرد که ادعا میکرد «انفجاری در پنتاگون رخ داده است». یک حساب کاربری در حوزهٔ خبرهای مالی به نام فایننشالجوس[11] که بیش از نیم میلیون دنبالکننده دارد نیز همین تصویر را منتشر کرد. نکتهٔ تأملبرانگیز این بود که فایننشالجوس منبع خبر را صرفاً «منابع توییتری» اعلام کرده بود، عبارتی مبهم که نشان میداد هیچ راستیآزمایی درست و دقیقی صورت نگرفته است. هر دو حساب، زمانی که آتشنشانی منطقه در شبکههای اجتماعی تصویر را جعلی اعلام کرد، پستهای خود را حذف کردند. اما تا آن لحظه، تصویر نزدیک به چهار هزار بار در ایکس بازنشر شده بود و حتی یک افت کوتاهمدت در بازار سهام ایجاد کرده بود. در این میان، یک حساب تأییدشدهٔ دیگر که خود را یکی از سرویسهای سیانان[12] جا زده بود نیز همان تصویر را منتشر کرد؛ اتفاقی که بار دیگر شیوهٔ تأیید هویت حسابها در ایکس را زیر سؤال برد. این حساب کمی بعد از پلتفرم حذف شد.
در جهانی که عکس و ویدئو را دیگر نمیتوان «در نگاه اول» واقعی دانست، شاید نتوانیم انتظار داشته باشیم فناوری بهتنهایی مشکلی را حل کند که خودش بهوجود آورده است. دانل پروبست[13]، معاون «انجمن ملی آموزش سواد رسانهای»، میگوید: «بخشی که در این گفتوگو غایب است، بخش آموزش است.» انجمن ملی آموزش سواد رسانهای یک سازمان غیرانتفاعی است که ابزارها و منابع آموزشی تولید میکند تا به کودکان بیاموزد چگونه مشروعیت و منشأ چیزهایی را که آنلاین میبینند بررسی کنند، از جمله تصاویر و ویدئوهای تولیدشده با هوش مصنوعی. پروبست توضیح میدهد که هدف این نیست که بگوییم ابزارهای راستیآزمایی بیفایدهاند؛ بلکه مسئله این است که بهجای سپردن «تفکر انتقادی» به فناوری، باید «شراکت انسان–ماشین» بسازیم.
این رویکرد برای بزرگسالان هم مفید است. نمونهاش تصویر دختربچهای با جلیقهٔ نجات که سگش را بغل کرده بود؛ تصویری تولیدشده با هوش مصنوعی که پس از وقوع طوفان هلن در سپتامبر ۲۰۲۴ در جنوبشرق آمریکا وایرال شد. مشخص نیست این تصویر نخستینبار کجا منتشر شد، اما خیلی سریع در میان مجموعهای از ویدئوهای اشتباهنسبتدادهشده به بلایای طبیعی دیگر و نظریههای توطئه دربارهٔ علت سیل، از ذخایر لیتیوم گرفته تا دولت فدرال و حتی خودِ هوش مصنوعی، پخش شد. کمی بعد معلوم شد تصویر جعلی است، اما مردم همچنان آن را بازنشر میکردند. یکی در ایکس نوشت: «برایم مهم نیست.» دیگری نوشت: «اهمیتی ندارد.» در چنین نقطهای، وظیفهٔ خبرنگار فقط تشخیص واقعیت نیست؛ بلکه قانعکردن مردم به اهمیت واقعیت است.
در این میان، لیو معتقد است که سرمایهگذاری روی فناوریهای تشخیص محتوای هوش مصنوعی همچنان ضروری است؛ حتی اگر برخی همیشه بتوانند راهی برای دور زدن آن پیدا کنند. او میگوید: «کاری که ما تلاش میکنیم انجام دهیم این است که سطح دشواری را آنقدر بالا ببریم که دیگر نشود با چند کلیک، چیزی ساخت که میلیونها نفر فریبش را بخورند. میخواهیم این کار هر روز دشوارتر شود. این نبردی نیست که بتوانیم از آن عقبنشینی کنیم.»
سالیبا شاید امید بیشتری به ظرفیتهای مثبت هوش مصنوعی داشته باشد، اما او نیز توهمی ندارد که یک نرمافزار بتواند پاسخ قطعی به تحریریهها بدهد که یک محتوا واقعاً جعلی است یا نه. او گتریل را فقط یکی از «لایههای تأیید» در کنار مجموعهای از ابزارهای راستیآزمایی میداند که خبرنگاران هنگام کار با محتوای شاهدان عینی از آنها استفاده میکنند.
سالیبا میگوید: «این فقط یکی از ابزارهای جعبهابزار ماست.» و ادامه میدهد: «اگر دیگر نتوانیم به آنچه میبینیم و میشنویم اعتماد کنیم، فکر میکنم جامعهمان در خطر جدی قرار میگیرد.»
[1] Pablo Xavier
[2] Midjourney
[3] Emmanuelle Saliba
[4] NBC
[5] ABC
[6] Hany Farid
[7] Deepfake
[8] Siwei Lyu
[9] University of Buffalo
[10] War Monitors
[11] FinancialJuice
[12] CNN
[13] Donnell Probst, the deputy director at the National Association for Media Literacy Education (NAMLE)
