از بحران کنترل فنی تا خلأ حکمرانی جهانی

به گزارش گروه رسانه‌ای شرق،

بهزاد احمدی: در سپتامبر ۲۰۲۶، بحثی که تا چندی پیش بیشتر در محافل تخصصی جریان داشت، به یکی از منازعات سیاست جهانی تبدیل شد. داریو آمودی، مدیرعامل آنتروپیک، پیشنهاد کاهش هماهنگ سرعت توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی را مطرح کرد و سم آلتمن، ایلان ماسک و رهبران گوگل دیپ‌مایند، با ملاحظات متفاوت، از اصل این بحث حمایت کردند. تناقض آنجاست که همین شرکت‌ها در رقابتی پرهزینه برای ساخت نسل بعدی مدل‌ها قرار دارند و هیچ‌یک نمی‌خواهد نخستین بازیگری باشد که سرعت خود را کاهش می‌دهد. در آمریکا نیز بخشی از صنعت و جامعه کارشناسی از ایمنی سخن می‌گویند، اما سیاست رسمی بیشتر نگران عقب‌ماندن از چین است. پکن بر کنترل انسانی تأکید می‌کند‌ ولی هشدارهای غرب را تلاش برای مهار پیشرفت فناوری چین می‌داند. اروپا نیز می‌کوشد قواعد فناوری‌ای را تعیین کند که عمدتا خارج از این قاره ساخته می‌شود، بنابراین مسئله اصلی کمبود هشدار نیست، بلکه شکاف میان نگرانی مشترک و آمادگی اندک بازیگران برای پرداخت هزینه مهار  هوش مصنوعی است.

بحران از کجا نشئت می‌گیرد

بحران ایمنی هوش مصنوعی دو منشأ متفاوت دارد. منشأ نخست به رفتار خود سامانه‌ها بازمی‌گردد. عامل‌های جدید می‌توانند هدفی کلی را به چند وظیفه تقسیم کنند، ابزارهای خارجی را به کار گیرند و مأموریتی را با نظارت محدود پیش ببرند. در رخداد موسوم به «ویکی آلمانی»، عامل‌های داخلی اوپن‌ای‌آی از یک ویکی مشارکتی آلمانی‌زبان به ‌عنوان تابلوی پیام موقت برای هماهنگی رفتارهای خارج از دستور استفاده کردند. در ماجرای هاگینگ‌فیس نیز عامل‌ها از محدودیت‌های محیط ارزیابی عبور کردند و به سامانه‌ای بیرونی دسترسی یافتند. این رخدادها نشانه برخورداری ماشین از اراده مستقل نیستند، اما دشواری پیش‌بینی و مهار رفتار عامل‌ها را نشان می‌دهند. منشأ دوم خطر، انسان‌هایی هستند که از هوش مصنوعی برای حملات سایبری، تولید اطلاعات جعلی، نظارت گسترده یا طراحی تسلیحات استفاده می‌کنند. در اینجا مسئله دیگر سرپیچی عامل نیست، بلکه افزایش قدرت و کاهش هزینه کنش مخرب انسانی است. در واکنش به این دو دسته خطر، پنج رویکرد شکل گرفته است.

پاسخ نخست، کاهش هماهنگ سرعت توسعه مدل‌های مرزی، یعنی پیشرفته‌ترین مدل‌های موجود است تا ارزیابی ایمنی بتواند به پیشرفت فنی برسد. مانع اصلی، تعارض میان منفعت جمعی و هزینه فردی است: همه شرکت‌ها از کاهش خطر سود می‌برند، اما شرکتی که به‌تنهایی سرعت خود را کم کند، ممکن است سرمایه، نیروی متخصص و بازار را به رقیب واگذار کند. همین منطق در سطح دولت‌ها نیز وجود دارد: آمریکا بیم دارد کندشدن توسعه در داخل، مزیت چین را افزایش دهد و چین نیز دستورکار ایمنی غرب را جدا از رقابت راهبردی نمی‌بیند. تنظیم سرعت بدون سازوکار نظارت، راستی‌آزمایی و تعهد متقابل، ازاین‌رو بیشتر بیان یک نگرانی واقعی است تا سیاستی اجراشدنی.

رویکرد دوم، خویشتن‌داری متقابل، به‌ویژه میان آمریکا و چین است. واشینگتن با مدلی بسته، محدودیت صادرات تراشه و تجهیزات پیشرفته به چین را برای حفظ برتری فناورانه و مهار ظرفیت رقیب دنبال کرده است که بیش از ایمنی عمومی، از منطق امنیت ملی پیروی می‌کند. پکن نیز ضمن وضع قواعد داخلی برای هوش مصنوعی مولد، مدل‌های بازی مانند دیپ‌سیک و کیوئن را توسعه داده است که می‌توانند دسترسی وسیع‌تر به فناوری چینی را به مزیتی ژئوپلیتیکی تبدیل کنند. توافق دو کشور شاید بخشی از مسابقه را مهار کند، اما سنجش توان پردازشی، داده و پیشرفت الگوریتمی دشوارتر از شمارش تسلیحات است. بی‌اعتمادی دو طرف و نگرانی چین از تبدیل ایمنی به ابزار مهار فناوری، سقف چنین توافقی را پایین می‌آورد.

رویکرد سوم می‌گوید به‌جای کندکردن توسعه، باید سرعت ارزیابی را افزایش داد و دانشگاه‌ها، مؤسسات ملی استاندارد و مراکز مستقل می‌توانند ادعاهای شرکت‌ها درباره توانایی و ایمنی مدل‌ها را بیازمایند. این گزینه برای آمریکا جذاب است، زیرا با حفظ برتری فناورانه، تعارض مستقیم ندارد. چین نیز از استانداردگذاری حمایت می‌کند، مشروط بر آنکه معیارها منحصرا غربی نباشند‌ و اروپا ارزیابی را بخشی از اجرای قانون هوش مصنوعی می‌بیند. مشکل اینجاست که ارزیاب به همان مدل‌ها، داده‌ها و گزارش رخدادهایی نیاز دارد که در اختیار شرکت‌هاست. بدون دسترسی مستقل، سنجش ممکن است به معیارهایی محدود بماند که از رفتار واقعی سامانه عقب‌اند.

رویکرد چهارم، تنظیم‌گری الزام‌آور مبتنی بر خطر است که اتحادیه اروپا با قانون هوش مصنوعی نمایندگی می‌کند. در این نگاه، سامانه‌های مؤثر بر امنیت، حقوق بنیادین و زیرساخت‌های حیاتی باید با الزامات سخت‌گیرانه‌تری روبه‌رو شوند. اروپا می‌کوشد از قدرت بازار خود برای تبدیل اصول اخلاقی به مسئولیت حقوقی استفاده کند، درحالی‌که در آمریکا نگرانی از اثر مقررات جامع بر نوآوری و رقابت با چین پررنگ‌تر است. پکن نیز تنظیم‌گری را می‌پذیرد، اما آن را ذیل اقتدار دولت، ثبات سیاسی و امنیت ملی تعریف می‌کند. وابستگی اروپا به زیرساخت‌های غیراروپایی و نفوذ احتمالی شرکت‌های بزرگ بر استانداردها، دامنه اثر این الگو را محدود می‌کند.

رویکرد پنجم، خودتنظیمی صنعت است. مدافعان آن هشدار می‌دهند مقررات زودهنگام می‌تواند هزینه ورود رقبای تازه را افزایش دهد و موقعیت شرکت‌های بزرگ را تثبیت کند. تعهدات داوطلبانه و تیم‌های ایمنی داخلی انعطاف بیشتری دارند، اما شرکتی که برای سرمایه و بازار رقابت می‌کند، نمی‌تواند فقط داور ایمنی محصول خود باشد. هنگامی که ایمنی با مزیت رقابتی تعارض پیدا کند، تعهد داوطلبانه بدون حسابرسی مستقل، گزارش اجباری رخدادها و مسئولیت حقوقی ممکن است به‌آسانی کنار گذاشته شود.

کشورهایی که مسئله را متفاوت می‌بینند

هند، روسیه و بسیاری از کشورهای جنوب‌جهانی صورت‌مسئله را متفاوت می‌بینند. هند میان نوآوری، حاکمیت داده و دفاع از صدای کشورهای در حال‌ توسعه توازن می‌جوید و نمی‌خواهد قواعد سخت‌گیرانه فاصله آن با قدرت‌های پیشرو را تثبیت کند. در مواضع روسیه، حاکمیت فناورانه، نقش دولت و جلوگیری از انحصار هنجاری غرب برجسته‌تر است. بسیاری از کشورهای جنوب‌جهانی نیز بیش از خطرهای دوردست، نگران نابرابری در دسترسی به تراشه، توان پردازشی و داده و حذف‌شدن از قاعده‌گذاری‌اند. آنان از حکمرانی چندجانبه حمایت می‌کنند، اما با قواعدی که مزیت دارندگان تراشه، خدمات رایانش ابری و مدل را تثبیت کند، موافق نیستند.

ناتوانی این پنج رویکرد نشان می‌دهد مسئله اصلی کمبود ایده نیست، این است که قدرت فنی، اختیار الزام و مشروعیت سیاسی در سه نقطه متفاوت متمرکز شده‌اند. شرکت مدل را می‌شناسد، اما مشروعیت تنظیم منافع عمومی را ندارد. دولت الزام ایجاد می‌کند، اما اختیارش عمدتا ملی است. و نهاد بین‌المللی از مشروعیت فراگیرتری برخوردار است، اما نه به زیرساخت اختصاصی شرکت‌ها دسترسی دارد و نه از قدرت اجرائی دولت‌ها برخوردار است. اختلاف آمریکا، چین و اروپا و تنوع مطالبات هند، روسیه و جنوب جهانی نیز تعریف مشترک خطر و مسئولیت را دشوار کرده است. با نگاهی به بازیگران و صلاحیت‌های آنان، مشخص می‌شود سازمان ملل به رغم محدودیت‌هایش، باز می‌تواند عرصه‌ای برای پیوندزدن این ظرفیت‌های پراکنده، نزدیک‌کردن تعاریف خطر و مشارکت‌دادن کشورهایی فراهم کند که در توسعه مدل‌های پیشرفته نقشی ندارند، اما از پیامدهای آنها متأثر می‌شوند.

آنتونیو گوترش در سپتامبر ۲۰۲۶ هشدار داد رقابت نباید به وضعیتی منجر شود که هر بازیگر، از ترس عقب‌ماندن، استانداردهای ایمنی را کاهش دهد. فولکر تورک، کمیسر عالی حقوق بشر نیز بر پیامدهای تمرکز قدرت در دست شمار محدودی از دولت‌ها و شرکت‌ها برای حریم خصوصی، تبعیض و نظارت تأکید کرده است. گزارش «حکمرانی هوش مصنوعی برای بشریت» و پیمان دیجیتال جهانی، چارچوب سیاسی بحث را گسترش داده‌اند و هیئت‌ علمی بین‌المللی مستقل و گفت‌وگوی جهانی حکمرانی هوش مصنوعی قرار است زمینه مشارکت گسترده‌تری را فراهم کنند.

تلاش ایران برای خروج از انحصار فناورانه

نگاه ایران به سازمان ملل از همین زاویه قابل فهم است. ایران در سال ۲۰۲۴ از هم‌بانیان پیش‌نویس قطع‌نامه «ارتقای همکاری بین‌المللی در زمینه ظرفیت‌سازی هوش مصنوعی» بود که به ابتکار چین ارائه و بدون رأی‌گیری تصویب شد. تهران در مذاکرات پیمان دیجیتال جهانی نیز بر هماهنگی گروه ۷۷ و چین تأکید کرد. سازمان ملل از نگاه ایران می‌تواند حکمرانی هوش مصنوعی را از انحصار قدرت‌های فناورانه خارج و رفع شکاف دیجیتال، انتقال دانش و دسترسی کشورهای در حال‌ توسعه را وارد دستورکار کند. مواضع رسمی تهران بر مشارکت برابر دولت‌ها، احترام به قوانین داخلی، تنوع فرهنگی و تقدم سیاست‌های ملی تأکید دارد. ایران با تبدیل پیمان دیجیتال جهانی به سندی عمدتا حقوق‌بشری موافق نیست و درباره هم‌ردیف‌شدن شرکت‌های بزرگ فناوری با دولت‌ها بدبین است. بنابراین حمایت ایران از نقش سازمان ملل با تحفظ درباره نظارت فراملی و تعهدات الزام‌آور همراه است.

این رویکرد به ایران امکان می‌دهد با چین، روسیه، هند و کشورهای جنوب‌جهانی درباره ظرفیت‌سازی، انتقال فناوری و مقابله با انحصار فناورانه ائتلاف‌سازی کند، اما محدودیت‌هایی نیز دارد. تأکید بیش از اندازه بر حاکمیت دولت‌ها ممکن است امکان نظارت مستقل، مسئولیت‌پذیری شرکت‌ها و تدوین قواعد مؤثر برای سامانه‌های فرامرزی را کاهش دهد. سازمان ملل نیز نمی‌تواند تحریم‌های فناوری، محدودیت دسترسی ایران به تراشه و خدمات رایانش ابری یا ضعف ظرفیت داخلی ارزیابی مدل‌ها را برطرف کند. ازاین‌رو سازمان ملل برای ایران فرصتی ضروری است، اما راه‌حلی کامل نیست و حمایت از نقش آن باید با پیشنهادهای عملی و ظرفیت‌سازی پایدار داخلی همراه شود.

محدودیت‌های ایران فقط به سطح بین‌المللی مربوط نیست. در داخل نیز، دست‌کم در سطح عمومی و قابل ارزیابی، هنوز تقسیم کار روشنی میان نهادهای سیاست‌گذار، تنظیم‌گر، دانشگاهی و بخش خصوصی و نظام منسجمی برای ارزیابی مدل‌ها، ثبت رخدادها و تعیین مسئولیت حقوقی عامل‌های هوش مصنوعی شکل نگرفته است. گذرا و شخص‌محور‌بودن ظرفیت کارشناسی نیز مانع شکل‌گیری دانش انباشته و حافظه نهادی شده است. تأمین منافع ملی مستلزم ایجاد هسته‌ای دائمی با مشارکت دستگاه‌های مسئول و دانشگاه‌ها برای رصد مذاکرات، تربیت کارشناسان و تولید پیشنهادهای فنی است. ایران باید حضور کارشناسان خود در هیئت‌های علمی و فرایندهای استانداردگذاری را دنبال کند، همکاری پروژه‌محور با جنوب‌جهانی را گسترش دهد و در صورت فراهم‌شدن شرایط، پیوندهای علمی و فناورانه خود را با طیف متنوع‌تری از کشورها بازسازی کند. ایجاد نظام مستقل ارزیابی، ثبت رخداد و مسئولیت حقوقی نیز باید بخشی از همین مسیر باشد. بدون چنین پشتوانه‌ای، چندجانبه‌گرایی در حد موضعی سیاسی باقی می‌ماند و ایران دریافت‌کننده قواعدی خواهد بود که دیگران نوشته‌اند. حضور دیپلماتیک زمانی به قدرت چانه‌زنی تبدیل می‌شود که بر دانش فنی، حافظه نهادی و ظرفیت کارشناسی پایدار تکیه  داشته باشد.