دربارهٔ این انتشار
معضل ابرهوش مصنوعی آمریکا: چگونه از یک فاجعه هوش مصنوعی جلوگیری کنیم؟
سال‌هاست که کارشناسان پیش‌بینی کرده‌اند هوش مصنوعی سیاست جهانی را متحول خواهد کرد. تاریخ ممکن است سال ۲۰۲۶ را به‌عنوان لحظه‌ای ثبت کند که این انقلاب از راه رسید. از آغاز سال جاری، تحولات پی‌درپی بر فرصت‌ها و مخاطرات عصر هوش مصنوعی تأکید کرده‌اند؛ از به‌کارگیری هوش مصنوعی در مداخلات نظامی ایالات متحده گرفته تا ظهور سلاح‌های سایبری مبتنی بر هوش مصنوعی که می‌توانند عملکردی به‌مراتب بهتر از اپراتورهای انسانی داشته باشند. موارد «از دست رفتن کنترل»؛ یعنی مواردی که در آنها مدل‌های هوش مصنوعی از کنترل و نظارت انسان خارج می‌شوند، افزایش یافته‌اند. مقام‌های آمریکایی، از جمله دونالد ترامپ، رئیس‌جمهور ایالات متحده، بر پیشتازی آمریکا در مرز توسعه هوش مصنوعی تأکید می‌کنند، حتی در حالی که درباره خطراتی که در افق در کمین هستند نگرانی دارند.
برخی کارشناسان بر این باورند که بشریت در فاصله اندکی از دستیابی به هوش مصنوعی عمومی قرار دارد؛ فناوری‌ای که قادر است طیف گسترده‌ای از وظایف را به اندازه انسان یا بهتر از او انجام دهد. گمانه‌زنی‌ها درباره اینکه ابرهوش مصنوعی عمومی، یا ASI، می‌تواند ظرف چند سال آینده ظهور کند، رو به افزایش است؛ مفهومی لغزنده که به‌طور کلی به مدل‌های هوش مصنوعی‌ای اطلاق می‌شود که در تمامی وظایف و حوزه‌ها به‌مراتب از قابلیت‌های انسانی فراتر می‌روند. در مقابل، برترین مدل‌های هوش مصنوعی امروز تنها در حوزه‌های محدودی مانند ریاضیات و پردازش داده از قابلیت‌های انسانی فراتر می‌روند و در حوزه‌هایی مانند عقل سلیم و استدلال عمیق از قابلیت‌های انسان عقب‌تر هستند. ظهور ابرهوش مصنوعی عمومی ممکن است به پیشرفت اقتصادی و علمی شتابانی منجر شود یا پیشرفتهای نظامی تحول‌آفرینی را آزاد کند که توازن قدرت جهانی را دگرگون سازند. اما این پدیده همچنین می‌تواند رابطه میان ماشین‌ها و بشریت را به‌طور بنیادین تغییر دهد و شاید، در وخیم‌ترین سناریوها، به سامانه‌هایی تقریباً همه‌توان امکان دهد خالقان انسانی خود را نابود کنند.
بخش عمده این بحث فرضی است. هنوز مشخص نیست که آیا ابرهوش مصنوعی عمومی امکان‌پذیر است، چه زمانی ممکن است توسعه یابد یا آیا می‌توان آن را با شکوفایی بشریت همسو نگه داشت. این عدم قطعیت‌ها بر مباحث مربوط به هرگونه واکنش سیاستی سایه افکنده‌اند. اما از آنجا که پیامدهای ابرهوش مصنوعی عمومی می‌توانند لرزه‌ای و بنیادین باشند، ارزیابی اینکه ایالات متحده چگونه ممکن است با این فناوری مواجه شود و راهبردهای مختلف در قبال ابرهوش مصنوعی عمومی چه تأثیری بر تعامل واشنگتن با جهان خواهند داشت، اهمیت دارد.
یک گزینه، پیگیری برتری از طریق حرکت شتابان به سوی ابرهوش مصنوعی عمومی و هم‌زمان عقب نگه داشتن رقباست. این راهبرد بر این باور استوار است که بزرگ‌ترین خطر برای ایالات متحده، نه فناوری ابرهوش مصنوعی عمومی خارج از کنترل، بلکه رقیبی است که کنترل این فناوری را در اختیار داشته باشد. گزینه دیگر، توسعه مشترک است که در آن ایالات متحده می‌کوشد با توسعه ابرهوش مصنوعی عمومی در چارچوب ائتلافی از کشورها که نسبت به ایمنی آن حساس هستند، به‌طور مسئولانه مزایای آن را برای بشریت آزاد کند و پویایی‌های خطرناک رقابت برای ساخت آن را مهار سازد. گزینه سوم، سرکوب است: ایالات متحده از توسعه ابرهوش مصنوعی عمومی صرف‌نظر می‌کند و مانع از ساخت آن توسط دیگران می‌شود، با این استدلال که ابرهوش برای آنکه در جهان رها شود، بیش از حد خطرناک است.
هر یک از این گزینه‌ها جنبه متفاوتی از چالش ابرهوش مصنوعی عمومی را در اولویت قرار می‌دهد؛ تلاش برای دستیابی به مزیت ژئوپلیتیکی، ضرورت توسعه ایمن یک فناوری انقلابی و اهمیت به حداقل رساندن خطرات وجودی. بااین‌حال، هر یک از آنها همچنین حاوی خطرات یا کاستی‌های جدی است و مستلزم اتخاذ شرط‌بندی‌هایی بالقوه برگشت‌ناپذیر درباره آینده‌ای است که در حال حاضر ناشناخته است. اگر فرض بنیادینی که یک راهبرد خاص بر آن استوار است نادرست از آب درآید، آن راهبرد می‌تواند به شیوه‌هایی فاجعه‌بار شکست بخورد. ازاین‌رو، اشتباه خواهد بود اگر رهبران ایالات متحده در شرایط کنونی به‌طور کامل یکی از این گزینه‌ها را بپذیرند. بهترین گزینه در کوتاه‌مدت، پوشش ریسک محتاطانه است؛ رویکردی که ایالات متحده را برای بهره‌گیری از طیفی از آینده‌های ممکن در موقعیتی مناسب قرار دهد و هم‌زمان توانایی آن را برای اتخاذ تصمیمی روشن‌تر در نهایت افزایش دهد.
خطرات و پاداش‌ها
فوریت بحث درباره ابرهوش مصنوعی عمومی از دستاوردها و انتظارات رو به افزایش ناشی می‌شود. برترین مدل‌های هوش مصنوعی به‌طور فزاینده‌ای در حل مسائل پیچیده در طیف گسترده‌تری از حوزه‌ها مهارت یافته‌اند. برخی از آنها در حوزه‌هایی مانند جنگ سایبری قابلیت‌هایی فراتر از انسان نشان می‌دهند. کارشناسان برجسته درباره نزدیک شدن یک «انفجار هوش» گمانه‌زنی می‌کنند؛ نقطه‌ای که در آن هوش مصنوعی قادر می‌شود به‌سرعت و به‌طور مستمر خود را بهبود دهد. سناریوی پرخواننده «هوش مصنوعی ۲۰۲۷»؛ پیش‌بینی‌ای در سال ۲۰۲۵ که توسط سازمان غیرانتفاعی AI Futures Project تهیه شده و گام‌به‌گام نشان می‌دهد یک جهش سریع چگونه می‌تواند رخ دهد، این فرض را مطرح می‌کند که ابرهوش مصنوعی عمومی ممکن است در همین دهه ظهور کند. به همین ترتیب، داریو آمودی، یکی از بنیان‌گذاران Anthropic، نوشته است که «بشریت در آستانه دریافت قدرتی تقریباً غیرقابل تصور قرار دارد.»
اگر ابرهوش مصنوعی عمومی تحقق یابد، پیامدهای آن می‌تواند تاریخی و دوران‌ساز باشد. خوش‌بینان به ابرهوش مصنوعی عمومی پیش‌بینی می‌کنند که این فناوری می‌تواند با آزاد کردن فناوری‌های جدید جذب کربن، بر تغییرات اقلیمی غلبه کند یا با حل معماهای زیست‌شناسی انسان، سرطان را درمان کند. پیشرفتهای حاصل از ابرهوش مصنوعی عمومی در فناوری پیشرانش می‌تواند سفر به اعماق فضا و استعمار سیارات را امکان‌پذیر سازد. بااین‌حال، این وعده عظیم اقتصادی و علمی در کنار اختلالاتی بالقوه عظیم قرار دارد. ابرهوش مصنوعی عمومی ممکن است با امکان‌پذیر کردن حملات سایبری و سلاح‌های زیستی ویرانگر، بازیگران بدخواه را قدرتمند کند؛ خودکارسازی تصمیم‌گیری نظامی را آغاز کند و موجب شود جنگ‌ها سریع‌تر و کنترل‌ناپذیرتر شوند؛ یا سلاح‌های شگفت‌انگیزی مانند حسگرهایی را آزاد کند که اقیانوس‌ها را عملاً شفاف می‌سازند. این فناوری می‌تواند با اعطای یک مزیت نظامی عظیم به کشورهایی که نخستین‌بار به ابرهوش مصنوعی عمومی دست می‌یابند، توازن قدرت را دگرگون کند. هیچ تضمینی وجود ندارد که این مزایا نصیب جوامع دموکراتیک شوند. آمودی هشدار می‌دهد که ابرهوش مصنوعی عمومی می‌تواند با امکان‌پذیر کردن نظارت فراگیر و خودکارسازی سرکوب، به یک «کابوس تمامیت‌خواهانه» منجر شود.
بزرگ‌ترین خطر آن است که ابرهوش بتواند بشریت را به بردگی بگیرد یا نابود کند. ابرهوش مصنوعی عمومی ممکن است با کمک به نیهیلیست‌ها برای آزاد کردن همه‌گیری‌های جدید یا ایجاد «جنگ‌های برق‌آسا»ی خودکار که به فاجعه هسته‌ای منجر می‌شوند، به نابودی خودِ نژاد بشر کمک کند. یا شاید فناوری‌ای که از خالقان خود هوشمندتر است، در نهایت آنها را تهدیدهایی ببیند که باید از میان برداشته شوند یا منابعی تلقی کند که باید مورد بهره‌برداری قرار گیرند. برخی مدیران اجرایی حوزه هوش مصنوعی «احتمال نابودی» را حتی تا ۲۵ یا ۵۰ درصد برآورد می‌کنند.
هیچ‌یک از این پیش‌بینی‌ها قطعی نیست. برخی کارشناسان تردید دارند که ابرهوش مصنوعی عمومی از نظر فنی امکان‌پذیر باشد یا استدلال می‌کنند که موانع مادی، مانند محدودیت‌های توان محاسباتی، یا «محاسبه» و برق، می‌توانند ظهور آن را به تأخیر بیندازند. برخی دیگر این پرسش را مطرح می‌کنند که آیا ابرهوش مصنوعی عمومی مزایای پایدار ناشی از پیشگامی ایجاد خواهد کرد یا خیر و معتقدند که مزایای اقتصادی و نظامی آن، مانند بیشتر فناوری‌های پیشین، به‌صورت تدریجی و نامتوازن تحقق خواهند یافت. ناظران برجسته همچنین درباره امکان همسوسازی اختلاف نظر دارند؛ یعنی این پرسش که آیا می‌توان ابرهوش مصنوعی عمومی را کنترل کرد و آن را در خدمت شکوفایی انسان قرار داد یا خیر. یان لوکان، که پیش‌تر دانشمند ارشد هوش مصنوعی در Meta بود، احتمال نابودی را تنها ۰٫۰۱ درصد برآورد می‌کند. این عدم قطعیت‌ها با اطلاعاتی که اکنون در دسترس است قابل رفع نیستند، اما در مباحث مربوط به اینکه ایالات متحده چگونه باید پیش برود، وزن زیادی دارند.
نخستین نفر در قله
یکی از گزینه‌های بالقوه، پیگیری برتری در ابرهوش مصنوعی عمومی است؛ یعنی اطمینان از اینکه ابرهوش نخستین‌بار و به‌طور انحصاری در ایالات متحده ظهور کند. این راهبرد از ابرهوش مصنوعی عمومی برای حمایت از ارزش‌های دموکراتیک و برتری ایالات متحده استفاده می‌کند. بر اساس این دیدگاه، سلطه مسیر دستیابی به ایمنی در قبال چالش‌های ژئوپلیتیکی و خطرات وجودی است.
منطق پشتیبان چنین مسیری سه‌گانه است. نخست، برتری در ابرهوش مصنوعی عمومی به دلیل دستاوردهای انقلابی‌ای که ارائه می‌کند، ضروری است. ایالات متحده نمی‌تواند برتری جهانی خود را حفظ یا نظم جهانی را پاسداری کند، اگر یک رقیب استبدادی بر مهم‌ترین فناوری مسلط شود؛ و اگر ابرهوش در اختیار دولت‌های سرکوبگر و نوتوتالیتر قرار گیرد، آزادی ممکن است از میان برود. افزون بر این، برتری ضروری است زیرا امکان خودبهسازی بازگشتی؛ یعنی توانایی مدل‌های پیشرفته هوش مصنوعی برای بهبود تقریباً دائمی خود، به این معناست که یک پیشتازی اولیه به‌صورت تصاعدی انباشته می‌شود. در نهایت، هژمونی آمریکا بهترین حفاظت در برابر هر دو نوع فاجعه، یعنی فاجعه ژئوپلیتیکی و ابرهوش مصنوعی سرکش، است. حفظ همسویی ابرهوش مصنوعی عمومی با شکوفایی انسان‌ها، در صورت گسترش این فناوری به بازیگران سرکش یا غیرمسئول، دشوارتر و شاید ناممکن خواهد شد. اما اگر ابرهوش مصنوعی عمومی منحصراً در ایالات متحده ظهور کند، واشنگتن می‌تواند اطمینان حاصل کند که این فناوری تحت تدابیر حفاظتی سنجیده و سازگار با ارزش‌های دموکراتیک توسعه می‌یابد.
در عمل، تلاش برای دستیابی به برتری در ابرهوش مصنوعی عمومی به معنای رقابت و محدودسازی است. دولت ایالات متحده با اقداماتی از ساخت گسترده مراکز داده گرفته تا تقویت دفاع سایبری و حفاظت در برابر خرابکاری یا دیگر حملات فیزیکی، به آزمایشگاه‌های پیشرو کمک خواهد کرد تا با سرعت به سوی ابرهوش مصنوعی عمومی حرکت کنند. واشنگتن همچنین باید سرمایه‌گذاری‌های سنگین در پژوهش‌های ایمنی را الزامی کند و هم‌زمان یک رژیم حکمرانی داخلی بر توان محاسباتی ایجاد کند که تضمین نماید تنها توسعه‌دهندگان قابل اعتماد قادر به ساخت مدل‌های پیشرفته هوش مصنوعی باشند. در همین حال، ایالات متحده از طریق کنترل‌های سخت‌گیرانه صادرات نیمه‌رساناها و دیگر اقدامات محدودکننده، چین را از توان محاسباتی مورد نیاز برای تأمین قدرت مدل‌های پیشرفته هوش مصنوعی محروم خواهد کرد. در صورت لزوم، حتی می‌تواند برای مختل کردن پیشرفت پکن، از حملات سایبری، خرابکاری یا حملات مستقیم علیه زیرساخت هوش مصنوعی چین استفاده کند. تسریع نوآوری آمریکا و ایجاد مانع بر سر راه دشمنان، به مهم‌ترین مأموریت دستگاه امنیت ملی تبدیل خواهد شد.
برتری، مزیت یک‌جانبه را متصور است، اما تنها با رضایت چندجانبه می‌تواند عملی شود. ایالات متحده بدون کمک متحدان و شرکایی که هم‌اکنون گره‌های حیاتی در اکوسیستم جهانی هوش مصنوعی را در اختیار دارند، یعنی ژاپن، هلند، کره جنوبی، تایوان و دیگران، نمی‌تواند با سرعت به پیش بتازد. ایالات متحده همچنین نمی‌تواند قابلیت‌های چین را سرکوب کند، اگر این متحدان از کنترل‌های صادراتی آمریکا سرپیچی کنند. بنابراین، تلاش برای دستیابی به برتری مستلزم مشارکت دادن متحدان کلیدی در توسعه ابرهوش مصنوعی عمومی یا دست‌کم به‌اشتراک گذاشتن مزایای آن از طریق ائتلاف‌های نظامی و ترتیبات انتشار فناوری است. همان‌گونه که انحصار اتمی ایالات متحده به ایجاد نظم بین‌المللی مدرن در پی جنگ جهانی دوم کمک کرد، راهبرد برتری در ابرهوش مصنوعی عمومی نیز می‌تواند برتری ایالات متحده و سلطه ارزش‌های دموکراتیک را در دهه‌های آینده تداوم بخشد.
اگر ابرهوش مصنوعی عمومی تحقق یابد، پیامدهای آن می‌تواند دوران‌ساز باشد.
اما واشنگتن نمی‌تواند خطرات را نادیده بگیرد. چنین راهبردی فرض می‌کند که ابرهوش مصنوعی عمومی دست‌یافتنی است، از نظر ژئوپلیتیکی تحول‌آفرین خواهد بود و می‌توان آن را با شکوفایی انسان‌ها همسو کرد. هیچ‌یک از این موارد شرط‌بندی مطمئنی نیست. اگر ابرهوش مصنوعی عمومی توهمی بیش نباشد یا صرفاً مزایای محدودی ایجاد کند، ایالات متحده ممکن است منابع عظیمی را در پیگیری برتری بر سر آن هدر دهد. و اگر ابرهوش مصنوعی عمومی سرکش شود، پیامدها می‌تواند فاجعه‌بار باشد. در حالت ایده‌آل، راهبرد برتری با کاهش تعداد شرکت‌هایی که روی ابرهوش کار می‌کنند و ترویج رویه‌های ایمنی مستحکم، در برابر این پیامدهای منفی پوشش ایجاد می‌کند. اما منطق رقابتی این راهبرد، یعنی انگیزه شکست دادن چین، می‌تواند با واداشتن شرکت‌ها به نوآوری سریع‌تر از سرعتی که پروتکل‌های ایمنی قادر به همگامی با آن هستند، این تلاش را تضعیف کند.
همچنین بعید است پکن در حالی که واشنگتن در پی دستیابی به برتری در ابرهوش مصنوعی عمومی است، دست روی دست بگذارد. کنترل‌های صادراتی نیمه‌رساناها به ایالات متحده کمک کرده‌اند تا یک برتری عظیم در توان محاسباتی ایجاد کند، اما یک تلاش تمام‌عیار برای دستیابی به ابرهوش مصنوعی عمومی می‌تواند واکنشی تمام‌عیار و معادل از سوی چین برای دور زدن این محدودیت‌ها به همراه داشته باشد؛ از طریق قاچاق، سرمایه‌گذاری در کارآمدی الگوریتمی و تشدید تلاش‌ها برای سرقت دستاوردهای آمریکا. یا شاید پاسخ چین حتی انفجاری‌تر باشد. اگر پکن به این نتیجه برسد که واشنگتن در حال رقابت برای سلطه بر ابرهوش مصنوعی عمومی است، ممکن است صادرات عناصر نادر خاکی را برای فلج کردن نوآوری آمریکا محدودتر کند یا برای محروم کردن ایالات متحده از دسترسی به تراشه‌های پیشرفته، به تایوان حمله کند.
در نهایت، سیاست داخلی و بین‌المللیِ برتری، چالش‌های عظیمی ایجاد می‌کند. اگر پیامدهای منفی حاصل از این تلاش، یعنی جابه‌جایی شغلی و نگرانی‌های ایمنی، سریع‌تر از دستاوردهای آن ظاهر شوند، ممکن است رأی‌دهندگان آمریکایی تلاش برای سلطه بر ابرهوش مصنوعی عمومی را رد کنند. برتری در ابرهوش مصنوعی عمومی همچنین مستلزم آن است که متحدان اعتماد عظیمی به ایالات متحده داشته باشند، زیرا آنها به آمریکا برای توسعه قابلیت‌های تحول‌آفرینی کمک می‌کنند که می‌توان از آنها برای اهداف خیر یا شر استفاده کرد. اما امروزه حتی متحدان نزدیک آمریکا نیز در پی کاهش وابستگی خود به ابرقدرتی هستند که نسبت به گذشته غیرقابل‌اعتمادتر و سلطه‌جوتر به نظر می‌رسد.
در کنار یکدیگر
دومین گزینه واشنگتن، پیگیری توسعه مشترک است؛ رویکردی که در آن ایالات متحده از طریق پروژه‌ای جمعی با مشارکت متحدان و رقبای خود برای دستیابی به ابرهوش تلاش می‌کند. توسعه مشترک نیز منطق سه‌گانه خاص خود را دارد که با کار گروهی آغاز می‌شود: توسعه ابرهوش مصنوعی عمومی احتمالاً به خرد جمعی پژوهشگران سراسر جهان نیاز خواهد داشت. عنصر دوم مشروعیت است: از آنجا که ابرهوش مصنوعی عمومی سرنوشت بشریت را تحت تأثیر قرار می‌دهد، توسعه آن باید توسط ائتلافی فراگیر انجام شود. عنصر آخر ایمنی است: خطرات ناشی از ابرهوش مصنوعی عمومی ممکن است کمتر در خود فناوری و بیشتر در چشم‌انداز یک رقابت شدید برای دستیابی به آن نهفته باشد. حذف پویایی‌های رقابتی به یک فناوری انقلابی امکان می‌دهد مسئولانه‌تر توسعه یابد و به‌جای آسیبی خودویرانگر، ارتقای مشترک را به همراه آورد.
راهبرد توسعه مشترک مستلزم ایجاد یک معماری جهانی برای توسعه ابرهوش مصنوعی عمومی است. یک هیئت نظارت بین‌المللی تعیین خواهد کرد که نوآوری فناورانه تا چه اندازه و با چه سرعتی پیش برود. نهادهای چندجانبه بر توان محاسباتی پیشرفته حکمرانی خواهند کرد، پژوهش‌های مشترک ایمنی را دنبال خواهند کرد و مدل‌های جدید را آزمایش خواهند نمود. کشورهایی که به این کنسرسیوم می‌پیوندند، دسترسی ترجیحی به پژوهش‌های ابرهوش مصنوعی عمومی دریافت خواهند کرد، در حالی که کشورهایی که پروژه‌های مستقل را دنبال کنند، با انزوا و مجازات مواجه خواهند شد.
نکته‌ای حیاتی آن است که توسعه مشترک مستلزم مشارکت چین است. اگر قابلیت‌های چشمگیر چین در حوزه هوش مصنوعی کنار گذاشته شوند، هیچ رژیم جهانی ایمنی‌ای اعتبار نخواهد داشت و تنها مشارکت چین می‌تواند پویایی‌های خطرناک یک رقابت را مهار کند. بنابراین، توسعه مشترک مستلزم تغییرات گسترده در راهبرد ژئوپلیتیکی ایالات متحده خواهد بود؛ از تمرکز بر رقابت میان قدرت‌های بزرگ به سوی تأکید بر همکاری عمیق و حساس با پکن. ایالات متحده ممکن است برای تضمین مشارکت چین، ناگزیر به پذیرش بده‌بستان‌هایی در قبال اولویت‌های دیرینه خود، مانند حفاظت از تایوان یا حفظ برتری فناورانه، شود. پیامدهای این امر برای بخش خصوصی نیز عمیق خواهد بود. شرکت‌های آمریکایی که میلیاردها دلار در پژوهش‌های اختصاصی سرمایه‌گذاری کرده‌اند، مجبور خواهند شد با رقبای جهانی همکاری کنند و تحت نظارت جهانی قرار گیرند.
برخی مدیران اجرایی حوزه هوش مصنوعی «احتمال نابودی» را حتی تا ۲۵ یا ۵۰ درصد برآورد می‌کنند.
در تئوری، توسعه مشترک مزایای ابرهوش مصنوعی عمومی را ارائه می‌کند و در عین حال خطرات آن را کاهش می‌دهد. در عمل، احتمالاً مشکلاتی وجود خواهد داشت. ایجاد رژیم‌های بین‌المللی کاری کند و زمان‌بر است و پیشرفت نهادی ممکن است از پیشرفت فناورانه عقب بماند. ایجاد معاهده منع گسترش سلاح‌های هسته‌ای و نهادهای پشتیبان آن سال‌ها زمان برد. امروزه، نوآوری در حوزه ابرهوش مصنوعی عمومی به‌راحتی می‌تواند از حکمرانی پیشی بگیرد، به‌ویژه اگر پیشرفتهای فناورانه با سرعت زیادی رخ دهند. اصرار بر اجماع جهانی می‌تواند هم‌زمان با شتاب گرفتن مدل‌های ابرهوش مصنوعی عمومی، موجب فلج شدن فرایند تصمیم‌گیری شود.ترجمه را با حفظ کامل ساختار، ترتیب پاراگراف‌ها، لحن علمی و تخصصی، و بدون حذف یا افزودن محتوا ارائه می‌کنم.
توسعه مشترک همچنین به معنای واگذاری مزیت‌های ایالات متحده است. ایالات متحده ناگزیر خواهد بود دستاوردهای فناورانه را به اشتراک بگذارد و قابلیت‌های شرکت‌های هوش مصنوعی خود را محدود کند و هرگونه امید به کسب دستاوردهای نامتقارن در برابر چین را کنار بگذارد. اگر توسعه مشترک از رقابت میان قدرت‌های بزرگ فراتر رود، چنین فداکاری‌ای ممکن است منطقی باشد. اما مشارکت واقعی چین بعید به نظر می‌رسد. ایالات متحده مدت‌هاست در پی همکاری چین در زمینه چالش‌های فراملی و اقدامات کاهش ریسک بوده است و پکن نیز مدت‌هاست در ازای آن خواستار امتیازات ژئوپلیتیکی بوده است. افزون بر این، پکن هرگز تمایل چندانی به اجازه دادن به نظارت یا بازرسی‌های مداخله‌گرانه‌ای که توسعه مشترک مستلزم آن خواهد بود، نشان نداده است. رژیم‌های نوتوتالیتر معمولاً حاکمیت خود را صادقانه به نهادهای جهانی واگذار نمی‌کنند، مگر آنکه قصد فریب و عدول از تعهدات خود را داشته باشند.
در واقع، توسعه مشترک احتمالاً از یک عدم تقارن ذاتی رنج خواهد برد: حکومت‌های خودکامه و پنهان‌کار، در مقایسه با دموکراسی‌های شفاف، راه آسان‌تری برای تقلب و تخلف خواهند داشت. چین می‌تواند به توسعه مشترک بپیوندد تا از پژوهش‌های ایالات متحده کسب اطلاع کند و سپس از آن خارج شود و هنگامی که زمان مناسب به نظر برسد، به‌طور یک‌جانبه با شتاب به پیش برود. بنابراین، خطر نهایی این است که توسعه مشترک همچنان در نهایت به یک رقابت برای دستیابی به ابرهوش مصنوعی عمومی منتهی شود، در حالی که هم‌زمان توانایی واشنگتن برای پیروزی در این رقابت را نیز به‌طور جبران‌ناپذیری تضعیف کند.
نسخه محدود
گزینه نهایی، سرکوب است: اطمینان از اینکه هیچ کشوری، از جمله ایالات متحده، از آستانه ابرهوش مصنوعی عمومی عبور نکند. منطق این گزینه آن است که پذیرفتن هرگونه خطر وقوع فاجعه ناشی از ابرهوش مصنوعی عمومی از نظر بقای بشریت بی‌نهایت مخاطره‌آمیز است و کاهش این خطر به صفر نیز ناممکن است. چگونه بشریت می‌تواند هرگز مطمئن باشد که قادر است کنترل چیزی را حفظ کند که از نظر هوش، به‌مراتب از خود آن برتر است؟ افزون بر این، خویشتن‌داری داوطلبانه کافی نخواهد بود. نیهیلیست‌ها یا تروریست‌ها ممکن است دقیقاً به این دلیل به دنبال ابرهوش مصنوعی عمومی باشند که خواهان وقوع فاجعه‌اند؛ و در جهانی رقابتی، دولت‌ها ممکن است با وسوسه‌هایی مقاومت‌ناپذیر برای دستیابی به یک مزیت تعیین‌کننده مواجه شوند. بنابراین، سرکوب در پی همکاری چندجانبه برای متوقف کردن توسعه ابرهوش مصنوعی عمومی است، اما در نهایت به توانایی دولت ایالات متحده برای جلوگیری از چنین نوآوری‌هایی در داخل و خارج از کشور متکی است.
این راهبرد مستلزم آن خواهد بود که دولت ایالات متحده محدودیت‌های سخت‌گیرانه‌ای بر پژوهش و توسعه داخلی ابرهوش مصنوعی عمومی اعمال کند، دسترسی به توان محاسباتی را برای آزمایشگاه‌های هوش مصنوعی تنظیم کند تا آنها را پایین‌تر از آستانه‌های خطرناک نگه دارد و شرکت‌های پیشرو را به‌دقت تحت نظارت قرار دهد. ایالات متحده همچنین باید در ایجاد یک رژیم چندجانبه برای گسترش این محدودیت‌ها در سراسر جهان پیشگام شود و دولت‌های همفکر را برای به‌اشتراک‌گذاری اطلاعات و مجازات ناقضان این رژیم با خود همراه کند. اما از آنجا که وسوسه خروج از این نظام بسیار زیاد خواهد بود و ایجاد همکاری گسترده نیز زمان می‌برد، ایالات متحده ناگزیر خواهد بود بخش عمده‌ای از بار سرکوب را بر عهده بگیرد و برای عقب نگه داشتن ناقضان، مجازات‌های سختی همچون تحریم‌ها، حملات سایبری یا اقدام نظامی را اعمال کند.
سرکوب، ایمنی را بهینه می‌کند و اگر نتوان تضمین کرد که ابرهوش مصنوعی عمومی با اهداف انسانی همسو خواهد بود، سرکوب تنها گزینه ایمن است. از سوی دیگر، اگر همسوسازی با سرمایه‌گذاری کافی در حوزه ایمنی امکان‌پذیر باشد، سرکوب می‌تواند برای رسیدن این سرمایه‌گذاری‌ها به بلوغ، زمان بخرد. بااین‌حال، ممکن است این راهبرد کارآمد نباشد.
عدم قطعیت‌های مربوط به ابرهوش مصنوعی عمومی را نمی‌توان با اطلاعاتی که اکنون در دسترس است، برطرف کرد.
بشریت در محدود کردن فناوری‌های نظامی خطرناک، از جمله تسلیحات هسته‌ای، کارنامه‌ای ناقص دارد. رژیم‌های سرکوب و محدودسازی گاه توانسته‌اند گسترش فناوری‌های همه‌منظوره‌ای را که از مزایای گسترده اقتصادی برخوردارند، به تأخیر بیندازند، اما هرگز نتوانسته‌اند مانع از گسترش آنها شوند. طرفداران این دیدگاه استدلال می‌کنند که محوریت توان محاسباتی، یک گلوگاه فناورانه ایجاد می‌کند که واشنگتن می‌تواند آن را تنظیم و کنترل کند. اما با ظهور الگوریتم‌های کارآمدتر یا نوآوری‌های دیگر، ممکن است توان محاسباتی دیگر یک محدودیت تعیین‌کننده نباشد. و اگر یک بازیگر خارجی موفق به توسعه ابرهوش مصنوعی عمومی شود، ایالات متحده ممکن است به‌راحتی خود را در سوی بازنده انقلاب ابرهوش قرار دهد.
پیگیری راهبرد سرکوب همچنین می‌تواند ماهیت قدرت ایالات متحده را، هم در سطح جهانی و هم در داخل کشور، تغییر دهد. سرکوب یک راهبرد صلح‌آمیز نیست؛ ممکن است مستلزم استفاده از اقدامات مداخله‌گرانه و حتی قهری علیه ناقضان باشد. و از آنجا که هزینه تأخیر در متوقف کردن ناقضان بسیار سنگین است، واشنگتن احتمالاً جانب اقدام زودهنگام را خواهد گرفت. بنابراین، در غیاب اجماع جهانی درباره خودداری از توسعه ابرهوش مصنوعی عمومی، سرکوب می‌تواند به مداخلات بی‌پایان ایالات متحده در امور سایر کشورها منجر شود. این راهبرد همچنین می‌تواند قرارداد اجتماعی خود ایالات متحده را دچار اعوجاج کند: ممنوعیت‌های نامحدود بر نوآوری و نظارت گسترده داخلی می‌تواند رابطه میان جامعه آمریکا و دولت را دگرگون کند.
مهم‌تر از همه، سرکوب هزینه‌های سنگینی از بابت مزایایی که تحقق نخواهند یافت به همراه دارد. نوآوری همواره در کنار خطرات، پاداش‌هایی نیز به همراه دارد. میلیون‌ها انسان بی‌شمار در اثر حوادث، جنگ‌ها و دیگر پیامدهای جانبی انقلاب صنعتی جان خود را از دست دادند. سلاح‌های هسته‌ای خطراتی وجودی برای بشریت ایجاد می‌کنند، اما در عین حال در جنگ جهانی دوم و جنگ سرد، دستاوردهای ژئوپلیتیکی بزرگی برای ایالات متحده به همراه آوردند. سرکوب ممکن است تا حدی از خطرات وجودی محافظت ایجاد کند، اما تنها با قربانی کردن تمامی دستاوردهایی که ابرهوش مصنوعی عمومی می‌تواند به همراه آورد؛ از جهش‌های بهره‌وری اقتصادی گرفته تا راه‌حل‌های نوین برای گرسنگی و بیماری.
عاقلانه انتخاب نکنید
راهبردهای برتری، توسعه مشترک و سرکوب، همگی گزینه‌هایی ناقص هستند. هر یک از آنها مستلزم انسجام و بی‌رحمی در پیگیری هدف خود است؛ امری که ممکن است دولت ایالات متحده در دستیابی به آن با دشواری مواجه شود. بااین‌حال، مشکل اصلی حتی بنیادی‌تر از این است. هر یک از این راهبردها بر حدس‌هایی درباره سرعت نوآوری، چشم‌انداز همکاری جهانی یا امکان واداشتن ابرهوش مصنوعی عمومی به خدمت بهزیستی انسان‌ها قمار می‌کنند. اگر این حدس‌ها نادرست باشند، هزینه‌ها می‌توانند بسیار سنگین باشند. در چنین شرایطی، سیاست‌گذاران ایالات متحده نمی‌توانند به‌طور مسئولانه به هیچ‌یک از این راهبردها متعهد شوند. رویکرد بهتر، راهبردی مبتنی بر پوشش ریسک است که با هدف کاهش مخاطرات ناشی از یک انتخاب زودهنگام، ایالات متحده را برای انتخاب نهایی و اجتناب‌ناپذیر در آینده در موقعیت مساعدتری قرار دهد.
این امر، در وهله نخست، به معنای به تعویق انداختن اقدامات سیاستی با هزینه‌های بالا یا پیامدهای برگشت‌ناپذیر است. یک کارزار تمام‌عیار برای فلج کردن زیرساخت هوش مصنوعی چین، واشنگتن را برای دستیابی به برتری در موقعیت مناسبی قرار خواهد داد، اما امکان توسعه مشترک را از میان خواهد برد. محدودیت‌های سخت‌گیرانه و یک‌جانبه بر توسعه هوش مصنوعی پیشرفته، از راهبرد سرکوب حمایت خواهد کرد، اما توانایی ایالات متحده برای رقابت در هر رقابت احتمالی آینده بر سر ابرهوش مصنوعی عمومی را تضعیف خواهد کرد. در عوض، واشنگتن باید اکنون اقداماتی را انتخاب کند که امکان انتخاب‌های آینده را حفظ کنند، نه اینکه آنها را از پیش منتفی سازند.
برای این منظور، ایالات متحده باید اهرم‌های نفوذ و انعطاف‌پذیری‌ای را که برخورداری از پیشتازی در فناوری‌های پیشرفته فراهم می‌کند، حفظ کند. مزیت فناورانه چه زمانی که واشنگتن با شتاب به سوی ابرهوش حرکت می‌کند و چه زمانی که در حال مذاکره درباره شرایط توسعه مشترک است، سودمند خواهد بود. پیمودن این مسیر مستلزم سیاست‌هایی مانند تأمین امنیت زنجیره‌های تأمین نیمه‌رساناها یا گسترش شبکه انرژی است که توسعه هوش مصنوعی را تسهیل می‌کنند، و همچنین استفاده از ظرفیت‌های دولت برای حفاظت از آزمایشگاه‌های پیشرو در برابر سرقت یا خرابکاری. حفظ برتری فناورانه همچنین به معنای استفاده از کنترل‌های صادراتی نیمه‌رساناها و تقویت تدریجی آنها، در کنار انجام اقدامات برنامه‌ریزی و اطلاعاتی‌ای است که ممکن است روزی مبنای رویکردی سخت‌گیرانه‌تر برای مهار پکن قرار گیرند.
بعید است پکن در حالی که واشنگتن در پی دستیابی به برتری در ابرهوش مصنوعی عمومی است، دست روی دست بگذارد.
واشنگتن همچنین باید تعهدات خود را نسبت به پژوهش‌های ایمنی و ایجاد چارچوب‌های حفاظتی سنجیده افزایش دهد. از آنجا که مسئله امکان همسوسازی واقعی ابرهوش مصنوعی عمومی با شکوفایی انسان‌ها اهمیتی محوری دارد، تشدید پژوهش‌های ایمنی پیش‌شرط اتخاذ تصمیمی آگاهانه است. به همین ترتیب، اقداماتی برای محدود کردن حوادث یا استفاده‌های مخرب، مانند محدود کردن انتشار زودهنگام مدل‌های پیشرفتهای که قادر به طراحی سلاح‌های زیستی هستند، می‌تواند خطر وقوع حوادثی را کاهش دهد که ممکن است فضای انتخاب‌های بعدی را محدود کنند.
تدوین برنامه‌های اقتضایی و تعیین محرک‌های تصمیم‌گیری نیز اهمیت دارد. دولت ایالات متحده باید سناریوهای قابل پیش‌بینی، مانند رویدادهای شدید از دست رفتن کنترل یا دستیابی به یک جهش در خودبهسازی بازگشتی، را شبیه‌سازی و بررسی کند تا پاسخ‌های موردنیاز و پیامدهای بلندمدت آنها را درک کند. واشنگتن باید بررسی کند که یک تلاش در مقیاس پروژه منهتن برای دستیابی به ابرهوش مصنوعی عمومی، در پی یک جهش شگفت‌آور در قابلیت‌های هوش مصنوعی چین، مستلزم چه اقداماتی خواهد بود، یا برای واکنش به یک فاجعه بزرگ ناشی از ابرهوش مصنوعی عمومی، چه نوع رژیم تنظیم‌گری سخت‌گیرانه‌ای مورد نیاز خواهد بود.
سرمایه‌گذاری در نهادهایی که از راهبردهای متعدد پشتیبانی می‌کنند و همچنین در اطلاعاتی که به انتخاب میان آنها کمک می‌کند، به همان اندازه حیاتی است. هر یک از این راهبردها نوعی رژیم تنظیم‌گری داخلی برای توان محاسباتی را متصور می‌شود؛ خواه با هدف تحریک نوآوری و خواه برای نظارت بر آن و کند کردن روندش. بنابراین، دولت ایالات متحده، احتمالاً تحت رهبری مرکز استانداردها و نوآوری هوش مصنوعی، باید ابعاد، هزینه‌ها و مزایای رژیم‌های گوناگون از این دست و همچنین ظرفیت نهادی جدید یا گسترش‌یافته مورد نیاز برای اجرای آنها را بررسی کند. به همین ترتیب، سرمایه‌گذاری برای دستیابی به آگاهی اطلاعاتی بهتر درباره دیدگاه‌های چین نسبت به ابرهوش مصنوعی عمومی، ویژگی‌های مدل‌های پیشرو یا وضعیت پژوهش‌های ایمنی، امری ضروری است.
بشریت در محدود کردن فناوری‌های نظامی خطرناک، کارنامه‌ای ناقص دارد.
البته، واشنگتن تحت هر راهبردی به حمایت متحدان دموکراتیک خود نیاز خواهد داشت. ایجاد اختلالات بی‌دلیل در ائتلاف‌های ایالات متحده در حال حاضر، دامنه دسترسی جهانی واشنگتن در مسائل مرتبط با ابرهوش مصنوعی عمومی را در آینده کاهش خواهد داد. اما در عین حال، دلیلی برای تعامل محتاطانه با چین در زمینه ایمنی هوش مصنوعی وجود دارد، مشروط بر آنکه بهای آن، امتیازدهی پیش‌دستانه ایالات متحده در سایر اولویت‌های فناورانه یا ژئوپلیتیکی نباشد. چنین گفت‌وگویی ممکن است روزی، در صورتی که یک شوک غیرمنتظره در حوزه هوش مصنوعی انگیزه‌های قدرت‌های بزرگ را تغییر دهد، بستری برای همکاری ایالات متحده و چین ایجاد کند. دست‌کم، این گفت‌وگو می‌تواند با فراهم کردن بینشی درباره محاسبات و ملاحظات چین، سیاست‌های ایالات متحده را آگاهانه‌تر کند.
در نهایت، ایالات متحده باید تاب‌آوری خود را در برابر بدترین پیامدهای ممکن ایجاد کند. تحلیلگران رَند راهبردی موسوم به «راهبرد دوام‌آوری» طراحی کرده‌اند که هدف آن کمک به ایالات متحده برای سازگاری و بازیابی خود در مواجهه با یک جهش فناورانه هوش مصنوعی از سوی یک دشمن، و در عین حال محدود کردن آسیب‌پذیری در دوره میانی است؛ برای مثال، از طریق مقاوم‌سازی زیرساخت‌های فرماندهی و کنترل هسته‌ای. چنین آمادگی‌هایی با ایجاد نوعی بیمه در برابر سناریویی که در آن ایالات متحده در یک رقابت به مقام دوم برسد، به واشنگتن زمان خواهد داد تا بهترین شیوه مواجهه با ابرهوش مصنوعی عمومی را بررسی کند.
راهبرد پوشش ریسک البته معایبی نیز دارد. فناوری ابرهوش مصنوعی عمومی ممکن است با چنان سرعتی پیشرفت کند که رویدادها از راهبرد پوشش ریسک پیشی بگیرند. اجرای سیاست‌هایی که از نظر سیاسی یا بوروکراتیک چالش‌برانگیز هستند، در نبود تمرکز و فوریتی که یک هدف روشن و مشخص به همراه می‌آورد، حتی دشوارتر خواهد شد. اگر به دلیل آنکه پرسش‌های کلیدی درباره ابرهوش مصنوعی عمومی قابل حل نباشند، عدم قطعیت به وضعیتی دائمی تبدیل شود، راهبرد پوشش ریسک ممکن است شبیه دست‌وپا زدن در آب به نظر برسد. اگر پوشش ریسک به سرگردانی و بی‌عملی تبدیل شود، می‌تواند توانایی ایالات متحده برای مواجهه با طیف متنوعی از سناریوهای ابرهوش مصنوعی عمومی را تضعیف کند. اما در شرایط کنونی، جایگزین‌های پوشش ریسک، قمارهایی خطرناک و مبتنی بر اطلاعات ناقص هستند. هنگامی که پیامدها و مخاطرات تصمیم تا این اندازه بالا و عدم قطعیت تا این حد فراگیر است، راهبردی مبتنی بر پوشش ریسک هوشمندانه و فعالانه ممکن است مطمئن‌ترین گزینه باشد.