3 تهدید وجودی بشر در قرن بیستویکم
هوش مصنوعی، تغییرات اقلیمی و سلاحهای هستهای
بشریت وارد عصری شده است که در آن تواناییهای علمی و فناورانهاش با نیروهای بنیادین طبیعت برابری میکند. این قدرت بیسابقه، در کنار دستاوردهای چشمگیر رفاهی، گونهای تازه از خطر را نیز پدید آورده است: تهدیدهای وجودی که قادر هستند آینده بلندمدت تمدن انسانی را بهطور دائمی محدود یا نابود کنند.
به گزارش گروه رسانهای شرق،
بشریت وارد عصری شده است که در آن تواناییهای علمی و فناورانهاش با نیروهای بنیادین طبیعت برابری میکند. این قدرت بیسابقه، در کنار دستاوردهای چشمگیر رفاهی، گونهای تازه از خطر را نیز پدید آورده است: تهدیدهای وجودی که قادر هستند آینده بلندمدت تمدن انسانی را بهطور دائمی محدود یا نابود کنند.
این یادداشت کوتاه سه تهدید از این دست -هوش مصنوعی پیشرفته، تغییرات اقلیمی و سلاحهای هستهای- را بررسی میکند؛ تهدیدهایی که هریک دارای دامنهای جهانی، پویاییهایی غیرخطی و ظرفیت بروز پیامدهای برگشتناپذیر هستند. با تکیه بر شواهد تاریخی و ادبیات دانشی معاصر، این یادداشت نشان خواهد داد این خطرات نه بهصورت منفرد، بلکه در قالب سامانهای درهمتنیده و تقویتکننده عمل میکنند. استدلال مرکزی آن است که رویکردهای جزیرهای در حکمرانی جهانی برای مواجهه با این مخاطرات ناکافیاند و فقط یک چارچوب یکپارچه و همکاریمحور میتواند از شدت خطرهای مرکب قرن بیستویکم بکاهد.
پیشرفت، قدرت و شکنندگی وجودی: تمدن مدرن با تناقضی بنیادین روبهروست. بشر هرگز تا این اندازه بر انرژی، اطلاعات و ماده تسلط نداشته و در عین حال، هرگز چنین در معرض فاجعهای خودساخته قرار نگرفته است. همان ابزارهایی که رشد اقتصادی، برتری نظامی و پیشرفت علمی را ممکن کردهاند، اکنون توان آن را دارند سامانههای محیطزیستی، سیاسی و فناورانهای را که حیات انسانی به آنها بسته است، از هم بگسلند. اصطلاح «تهدید وجودی» به خطرهایی اطلاق میشود که میتوانند ظرفیت بلندمدت بشریت برای تداوم و شکوفایی را بهطور برگشتناپذیر از میان ببرند؛ چه از طریق انقراض مستقیم و چه از راه فروپاشی پایدار تمدن. هوش مصنوعی، تغییرات اقلیمی و سلاحهای هستهای واجد این تعریف هستند؛ نه به این دلیل که فاجعه حتمی است، بلکه از آن رو که احتمال شکست در گذر زمان انباشته میشود، درحالیکه پیامدهای شکست نهایی و جبرانناپذیرند.
برخلاف مخاطرات تاریخی نظیر جنگهای متعارف یا همهگیریها، این تهدیدها مرزهای ملی و نسلی را درمینوردند و مستقل از یکدیگر عمل نمیکنند. آنها سامانهای بهشدت درهمتنیده از ریسک یا مخاطره را شکل میدهند که در آن، هر تهدید، دیگری را تشدید میکند. از این رو، تحلیل مجزای هر خطر کفایت ندارد و آنچه ضرورت دارد، چارچوبی تحلیلی است که بتواند منطق ریسک مرکب را درک و مدیریت کند.
هوش مصنوعی؛ تهدیدی وجودی برخاسته از طراحی انسانی: هوش مصنوعی گونهای نوین از تهدیدهای وجودی را نمایندگی میکند؛ نه به این دلیل که ذاتا خصمانه است، بلکه به آن سبب که نیت انسانی، خطاهای انسانی و شکنندگی نهادهای اجتماعی را با سرعت و مقیاسی بیسابقه تقویت میکند. برخلاف فناوریهای پیشین که عمدتا توان فیزیکی یا دقت مکانیکی انسان را گسترش میدادند، هوش مصنوعی مستقیما در حوزه قضاوت، پیشبینی و تصمیمگیری راهبردی مداخله میکند؛ حوزههایی که در قلب قدرت سیاسی، هماهنگی اقتصادی و کنترل نظامی قرار دارند. در تاریخ، فناوریهای دگرگونساز همواره پیامدهای ناخواسته داشتهاند، اما هوش مصنوعی در یک نکته اساسی متفاوت است: شکستهای احتمالی آن بالقوه نظاممند، زنجیرهای و سریعاند. سامانههایی که بدون قیود کافی بهینهسازی میشوند، میتوانند نتایجی عقلانی از منظر الگوریتمی، اما فاجعهبار از منظر اجتماعی تولید کنند؛ آنهم بدون نیاز به نیت بدخواهانه. با افزایش خودمختاری سامانههای هوش مصنوعی، مسئله همراستاسازی -یعنی سازگاری اهداف ماشین با ارزشها و منافع انسانی- به چالشی مرکزی بدل میشود. کدربودن یا نبود شفافیت لازم در مدلهای یادگیری ماشین، پاسخگویی و توضیحپذیری را کاهش میدهد و خطر خطا را در حوزههای حساس، از زیرساختهای حیاتی گرفته تا تصمیمسازیهای نظامی، تشدید میکند. کاربرد نظامی هوش مصنوعی، بهویژه در قالب سلاحهای خودمختار، این مخاطرات را به سطحی تازه میبرد. واگذاری تصمیمهای مرگ و زندگی به ماشینها، بازههای تصمیمگیری را فشرده و همان مکث انسانی را حذف میکند که در گذشته بارها مانع فاجعه شده بود. در کنار آن، تمرکز داده، توان محاسباتی و دانش فنی در دست شمار محدودی از دولتها و شرکتها، خطر فرسایش پاسخگویی دموکراتیک و شکلگیری الیگارشی فناورانه را افزایش میدهد. در نهایت، هوش مصنوعی مولد میتواند با تضعیف زیربنای حقیقت مشترک -از طریق تولید انبوه اطلاعات نادرست- ظرفیت جوامع برای تصمیمگیری جمعی را کاهش میدهد؛ درست در زمانی که هماهنگی برای مواجهه با بحرانهای جهانی بیش از هر زمان دیگر ضروری است.
تغییرات اقلیمی؛ تهدیدی نظاممند علیه بنیانهای تمدن: تغییرات اقلیمی تهدیدی وجودی است، نه به سبب احتمال انقراض فوری بشر، بلکه به این دلیل که به تدریج بنیانهای زیستفیزیکی تمدن را فرسایش میدهد. این پدیده از طریق حلقههای بازخورد، نقاط واژگونی و برهمکنش با سامانههای اجتماعی و سیاسی عمل میکند و خطر آن ماهیتی عمیقا تمدنی دارد. شواهد تاریخی نشان میدهد حتی تغییرات اقلیمی محدود با افول تمدنهای بزرگ همزمان بوده است. جوامع مدرن، با وجود فناوری پیشرفته، بهمراتب درهمتنیدهتر و وابستهتر به منابع هستند و همین وابستگی آنها را در برابر اختلالات اقلیمی شکنندهتر میکند. افزایش رویدادهای حدی -موجهای گرما، سیلابها، خشکسالیها و آتشسوزیها- فشار بیسابقهای بر زیرساختها، نظامهای سلامت و انسجام اجتماعی وارد میکند. همزمان، تغییر الگوهای بارش و ذوب یخچالها امنیت غذایی و آبی را تهدید میکند؛ دو عنصری که در طول تاریخ نقشی تعیینکننده در ثبات سیاسی داشتهاند. افزایش سطح دریا و جابهجایی گسترده جمعیت، پیامدهایی هستند که میتوانند نظم سیاسی و حقوقی موجود را به چالش بکشند. تغییرات اقلیمی بیش از آنکه یک عامل مستقل باشد، تقویتکننده خطر است؛ پدیدهای که نابرابری، ضعف حکمرانی و تنشهای ژئوپلیتیکی را تشدید میکند.
سلاحهای هستهای و منطق ریسک وجودی مرکب: سلاحهای هستهای همچنان فوریترین و بیابهامترین ابزار فروپاشی تمدن بهشمار میآیند. با وجود پایان جنگ سرد، هزاران کلاهک هستهای در وضعیت آمادهباش باقی ماندهاند. نظریه بازدارندگی بر فرض عقلانیت بازیگران و پایداری سامانهها استوار است، حال آنکه تاریخ نشان داده بقای بشر بارها مرهون بخت و قضاوت فردی بوده است. سامانههای فرماندهی و کنترل هستهای، به عنوان ساختارهایی اجتماعی-فنی، در برابر خطای انسانی، نقص فنی و حملات سایبری آسیبپذیرند. افزون بر این، پیامدهای جنگ هستهای ماهیتی جهانی دارند. حتی یک درگیری محدود میتواند با ایجاد زمستان هستهای، کشاورزی جهانی و امنیت غذایی را بهشدت مختل کند. برهمکنش سلاحهای هستهای با هوش مصنوعی و تغییرات اقلیمی، منطق ریسک مرکب را به اوج میرساند. هوش مصنوعی تصمیمگیری را شتاب میبخشد، تغییرات اقلیمی بیثباتی ژئوپلیتیکی را تشدید میکند و سلاحهای هستهای ابزار فاجعهای آنی و برگشتناپذیر را فراهم میآورند.
جان کلام
تهدیدهای وجودی قرن بیستویکم محصول تقدیر نیستند، بلکه پیامد طراحی، انتخاب و حکمرانی انسانیاند. هوش مصنوعی، تغییرات اقلیمی و سلاحهای هستهای هریک بازتاب توان خارقالعاده بشرند، اما بدون بلوغ اخلاقی، نهادی و سیاسی میتوانند به ابزارهای خودویرانگری بدل شوند. بقای تمدن انسانی به توانایی ما در مهار نیروهایی بستگی دارد که خود آفریدهایم، پیش از آنکه آنها بر ما مسلط شوند.
آخرین مطالب منتشر شده در روزنامه شرق را از طریق این لینک پیگیری کنید.
