ما به نظارت مداوم بر هوش مصنوعی و اطلاعات سیاسی نیاز داریم

ما به نظارت مداوم بر هوش مصنوعی و اطلاعات سیاسی نیاز داریم.اندیشکده کارنگی

هوش مصنوعی مولد و به‌ویژه مدل‌های زبانی بزرگ (LLMs) نقشی حیاتی و بی‌سابقه در گفتمان سیاسی، ارائه اطلاعات انتخاباتی و پاسخ‌گویی به پرسش‌های حقوقی ایفا می‌کنند. محتوای این مدل‌ها روزانه از طریق چت‌بات‌ها و موتورهای جست‌وجو به میلیاردها کاربر می‌رسد و آمارهای اخیر نشان می‌دهند که درصد بالایی از رأی‌دهندگان و شهروندان برای درک مسائل سیاسی و شناخت نامزدها به هوش مصنوعی مراجعه می‌کنند. مجموعه شواهد علمی نشان می‌دهد که مدل‌های زبانی بزرگ هنگام بحث درباره مسائل سیاسی بسیار اقناع‌کننده و تأثیرگذار هستند.  بنابراین با توجه به دامنه دسترسی و قدرت نفوذ آن‌ها، تأثیر این مدل‌ها بر گفتمان سیاسی یک مرز جدید و حیاتی در سیاست مدرن به شمار می‌رود. چرا که جهان امروز در آستانه شکل‌گیری زیست‌بوم اطلاعاتی جدیدی قرار دارد که از نظر ابعاد و پیامدها با ظهور شبکه‌های اجتماعی در دو دهه پیش قابل مقایسه است و درک پیامدهای آن مستلزم پژوهش‌های مستقل و گسترده است.

همانند شبکه‌های اجتماعی، مدل‌های زبانی بزرگ اغلب مالکیتی، شخصی‌سازی‌شده و غیرقطعی هستند. این مدل‌ها به‌طور مداوم به‌روزرسانی می‌شوند و محتوایی گذرا تولید می‌کنند، بدون آنکه امکان بررسی گذشته‌نگر برای پژوهشگران فراهم باشد. به همین دلیل، بررسی‌های مقطعی یا ممیزی‌های موردی برای درک اثرات بلندمدت آن‌ها کافی نیست و جامعه پژوهشی نیاز به یک الگوی جدید تحت عنوان پایش طولی و جامع دارد. از سوی دیگر، ادغام روزافزون این مدل‌ها در ابزارهایی مانند موتورهای جست‌وجو، سیستم‌های تعدیل محتوا و بسترهای راستی‌آزمایی، دامنه تأثیر آن‌ها را گسترش می‌دهد. شواهد تجربی نشان می‌دهند که پیام‌های سیاسی تولیدشده توسط مدل‌های زبانی در موضوعات سیاست‌گذاری، به دلیل تراکم بالای ادعاهای مبتنی بر واقعیت، استدلال‌های منطقی و لحن ظاهراً غیرجانبدارانه، از نظر قدرت اقناع با پیام‌های نوشته‌شده توسط انسان برابری می‌کنند.

قابلیت اقناع‌کنندگی مدل‌ها ذاتاً امری مثبت یا منفی نیست و اثر خالص آن به کیفیت اطلاعات ارائه‌شده بستگی دارد. در کنار دستاوردهای مثبت مانند افزایش دانش عمومی یا کاهش تفکر توطئه‌آمیز از طریق ارجاع به پایگاه‌های داده معتبر، مدل‌های زبانی بزرگ خطرات قابل‌توجهی نیز به همراه دارند. این خطرات شامل سوگیری‌های ایدئولوژیک و فرهنگی منعکس‌کننده دیدگاه توسعه‌دهندگان، خطاهای واقعی در تحلیل اخبار و پاسخ‌دهی به پرسش‌های سیاسی و همچنین خطرات ناشی از سانسور بیش از حد یا سرکوب اشتباه گفتار مرتبط با گروه‌های هویتی و اقلیت‌ها است. علاوه بر این، رژیم‌های اقتدارگرا می‌توانند از این بسترهای هوشمند برای کنترل اطلاعات و ترویج خروجی‌های طرفدار حکومت بهره‌برداری کنند.

براین اساس برای ارزیابی صحیح مدل‌های زبانی بزرگ، باید ویژگی‌های فنی چهارگانه آن‌ها را که با سرواژه DEEP شناخته می‌شوند در نظر گرفت. این چهار ویژگی عبارتند از: پویا بودن به دلیل تغییرات مداوم و غیرقابل پیش‌بینی در مدل و دستورالعمل‌های پیش‌فرض، گذرا بودن به علت ناپدید شدن خروجی‌ها پس از پایان جلسات کاری، تعبیه‌شده بودن به دلیل قرارگیری مدل در کنار گاردریل‌های امنیتی و زیرساخت‌های نرم‌افزاری متغیر، و شخصی‌سازی‌شده بودن به واسطه الگوریتم‌های حافظه و پیش‌فرض‌های هر کاربر. مجموعه این ویژگی‌ها ثابت می‌کند که ارزیابی‌های یک‌باره یا مقطعی کارایی لازم را ندارند و تنها پایش مستمر می‌تواند تغییرات رفتار مدل‌ها را در طول زمان آشکار سازد.

گذار از ممیزی‌های موردی به سمت پایش طولی مستلزم ایجاد سامانه‌های خودکاری است که به‌صورت دوره‌ای، پرسش‌های ثابتی را درباره موضوعات مهم اجتماعی از مدل‌های گوناگون مطرح کرده و پاسخ‌ها را ثبت کنند. پروژه‌های عملیاتی نشان داده‌اند که نرخ خودداری مدل‌ها از پاسخ به موضوعات سیاسی حساس یا میزان دقت آن‌ها در طول زمان دچار نوسانات ناگهانی می‌شود که پایش طولی تنها راه شناسایی و تحلیل علّی آن‌هاست. همچنین تجربه عصر شبکه‌های اجتماعی نشان می‌دهد که جامعه علمی نباید برای دریافت داده‌ها به شرکت‌های خصوصی اتکا کند، زیرا انگیزه‌های تجاری مانع شفافیت کامل آن‌ها می‌شود؛ اگرچه پایش مستقل در نهایت به نفع خود شرکت‌ها و افزایش اعتبار محصولاتشان خواهد بود.

خروجی‌های سیاسی مدل‌های زبانی بزرگ اتفاقی نیستند، بلکه حاصل تصمیمات هنجاری و اعمال سیاست‌های شرکت‌های سازنده هستند. شرکت‌های مختلف رویکردهای متفاوتی مانند تلاش برای بی‌طرفی کامل، ارائه دیدگاه‌های دو طرف یا محدودسازی پاسخ‌دهی در زمان انتخابات را دنبال می‌کنند. با این حال، طراحی مدل «بدون سوگیری» با چالش‌های فنی و فلسفی همراه است، چرا که بهینه‌سازی مدل برای «حقیقت‌گویی» ممکن است با مفهوم بی‌طرفی مطلق در تعارض باشد. شرکت‌ها از طریق انتخاب داده‌های آموزشی، نگارش دستورالعمل‌های پیش‌فرض و طراحی رابط‌های کاربری، به‌طور فعال این هنجارها را اعمال می‌کنند که تصمیم‌گیری درباره آن‌ها نیازمند مشارکت عموم و نهادهای پژوهشی است.

پایش طولی مدل‌های زبانی بزرگ با وجود ضرورت حیاتی، با چالش‌های عمده‌ای مانند هزینه‌های مالی بسیار بالا به دلیل لزوم تکرار پرامپت‌ها (۱۵ تا ۲۵ بار برای دستیابی به اطمینان آماری) و موانع حقوقی احتمالی از سوی شرکت‌های فناوری مواجه است. برای غلبه بر این چالش‌ها، شرکت‌های هوش مصنوعی باید گزینه‌های مقرون‌به‌صرفه‌تری برای پژوهشگران فراهم کنند و دانشگاه‌ها و بنیادهای خیریه زیرساخت‌های مشترک ایجاد نمایند. همچنین دولت‌ها باید با احیای برنامه‌های پژوهشی فدرال و تصویب قوانین حمایتی مصونیت حقوقی پژوهشگران را در مسیر ممیزی و نظارت بر هوش مصنوعی تضمین کنند تا امکان حکمرانی آگاهانه و چارچوب‌مند بر این فناوری فراهم شود.