شک و تردیدهای یک جنگافزار تازه
تسلیحات را ممنوع کنید نه فناوری را
ترجمه: محمدرضا دستورانی
بشر در طول تاریخ همیشه میخواست در جنگها بیشترین ضربهها را به دشمن وارد کند و در عین حال خود را از پیامدهای ناخواسته جنگها در امان نگه دارد. گسترش فناوریهای نوین، این امکان را پدید آورد که جنگافزارهایی چشموگوش بسته، به مقابله دشمنان بروند. پهپادها (که نوعی هواپیماهای بدونسرنشین و قابل برنامهریزی برای مقابله با دشمنان هستند) و روباتهای جنگجو، در این دسته قرار میگیرند. اکنون با توسعه و گسترش این جنگافزارها (که در موارد بسیاری دچار خطاهای فاحشی شدهاند)، مباحث اخلاقی بسیاری پدید آمده است، از جمله اینکه آیا مجازیم قدرت کشتن انسانها را به ابزارهایی دهیم که ممکن است خطا کنند؟ همین نگرانیها، باعث تاسیس سازمانهای مردمنهادی برای بررسی این موضوع و در نهایت شکلگیری جنبشهای مدنی قابلتوجهی شده است. این جنبشها میگویند روباتها احساس ندارند و نمیتوانند بین یک سرباز و نیروی نظامی با شهروندان عادی تمایز قایل شوند و در نتیجه باعث افزایش تلفات غیرنظامیان میشوند. آنچه در ادامه میآید، گفتوگوی نشریه «نیوساینتیست» است با «مارک بیشاپ»، متخصص هوش مصنوعی و استاد محاسبات شناختی در گلداسمیت در دانشگاه لندن و
رییس انجمن پژوهشهای هوش مصنوعی و شبیهسازی رفتار. او در این گفتوگو میگوید ممنوعیت استفاده از جنگافزارهایی که بدون دخالت انسان حمله و شلیک میکنند، بسیار ضروری است. جنبش مبارزه برای متوقفکردن روباتهای قاتل چیست؟ این جنبش، اتحادیهای شامل سازمانهای غیردولتی و گروههای فشار است که برای ممنوعیت تولید و بهکارگیری ابزارها و جنگافزاری کاملا خودکار فعالیت میکند. در این جنگافزارها، انسان نه در انتخاب دقیق هدف و نه در تصمیمگیری نهایی برای شلیککردن یا چشمپوشی از هدف، هیچ دخالتی ندارد. چنین جنگافزارهایی چه زمانی ساخته و در دسترس قرار میگیرد؟ هماکنون نیز نمونههایی از چنین فناوریهایی در دسترس است، برای مثال سالهاست که بیشتر ناوهای نیروی دریایی آمریکا به سیستمی به نام سامانه دفاع هوایی فالانکس مجهز شدهاند. این سامانه وظیفه دارد موشکها و پهپادهای دشمن را که به ناوها نزدیک میشوند، شناسایی و نابود کند. پهپاد (هواپیماهای بدونسرنشین) رزمی اسراییل با نام هارپی نمونه دیگری است که از فناوری «شلیک کن، فراموش کن» استفاده میکند و بهمنظور شناسایی و انهدام سامانههای
راداری بهکار گرفته میشود. نیروی محرکه پیشرفت این فناوری چیست؟ راهبرد نظامی کنونی غرب بیشتر روی استفاده از پهپادها متمرکز است نه استفاده از تجهیزات رایج. اما باید در نظر داشت که این احتمال هم وجود دارد که پهپادها را بربایند. جنگافزارهای کاملا خودکار، عملا در برابر این تهدید، ایمن هستند. استفاده از این تجهیزات، باعث کاهش هزینهها نیز میشود. این به معنای آن است که تولیدکنندگان بیشتر میفروشند. همه این موارد نشاندهنده الزام و اجبار تجاری برای گسترش جنگافزارهای خودکار و لزوم استفاده دولتها از آنها است. خطرهای اینگونه جنگافزارها چیست؟ دلیلهایی وجود دارند که باعث میشود نسبت به تواناییهای جنگافزارهای خودکار تردید کنیم، برای مثال آیا این جنگافزارها میتوانند بهدرستی قضاوت کنند که آیا اکنون زمان آن فرارسیده که خود را وارد ماجرا کنند، یا میتوانند به طرز مناسبی به تهدیدها واکنش نشان دهند یا میتوانند با دقت به طرزی قابل اعتماد، بین نظامیان و غیرنظامیان تمایز قایل شوند؟ علاوه بر این هنگامیکه سامانههای نرمافزاری پیچیده را در ارتباط و تعامل با یکدیگر قرار میدهیم،
احتمال بسیار زیادی وجود دارد که پیامدهای پیشبینینشدهای روی دهد. یک مثال آشکار از چنین مواردی در سال ۲۰۱۱ در وبسایت آمازون مشاهده شد. در آن رویداد، روباتهای اینترنتی قیمتگذاری، بهای کتابی به نام «The Making of a Fly» را تا بیش از ۲۳میلیوندلار بالا بردند. و به همین دلیل، شما نگران تشدید درگیریها هستید؟ بله. دانشمندان کرهجنوبی در حال ساخت و توسعهدادن یک روبات هستند که وظیفهاش گشتزنی در مرز این کشور با کرهشمالی است. اگر این روبات به اشتباه به سمت هدفی شلیک کند یا بهطور نامتناسبی به یک تهدید واکنش نشان دهد، بهسادگی میتوان تصور کرد یک تجاوز مرزی کوچک تا حد یک درگیری جدی و خطرناک تشدید خواهد شد. نمونه ترسناکتر این موضوع در زمان جنگ سرد و در خلال رزمایش «اِیبِل آرچِر ۸۳» (Able Archer 83) رخ داد. در آن زمان سیستمهای دفاع خودکار روسیه، به اشتباه ورود یک موشک را تشخیص دادند. در چنین موقعیت بحرانی، مداخله یک سرهنگ روس بود که از وقوع یک جنگ هستهای پیشگیری کرد. با این توصیفات میتوان گفت زمانی که سامانههای خودکاری داریم که خودشان با سامانههای خودکار دیگر ارتباط و تعامل دارند،
احتمال وقوع یک درگیری به طرز فوقالعاده وحشتناکی زیاد میشود. آیا روباتها میتوانند خطرهایی را که انسانها را تهدید میکنند، کاهش دهند؟ طبق نظر افرادی مانند «رونالد آرکین» متخصص علوم روباتیک اهل آمریکا، شاید روباتها نسبت به سربازانی که داغدارند یا به دنبال انتقام هستند، ارزیابیهای بیطرفانهتری داشته باشند. در این حالت، بهکارگیری روباتها، موجب تشدید درگیریها نمیشود اما این عمکرد بهتر تنها هنگامی تحقق مییابد که این جنگافزارها بتوانند بهطرز قابلاعتمادی تصمیم بگیرند چه زمانی مداخله کنند، بهطور متناسبی قضاوت کنند و با دقت زیادی بین هدفها تمایز قایل شوند. در این صورت، ما باید چه کار کنیم؟ فناوری مورداستفاده در سامانههای جنگافزاری خودکار استفادههای دیگری هم دارند که دستگاه هدایت خودکار خودرو گوگل، یک نمونه از آن است. بنابراین متوقفکردن توسعه این فناوری ممکن است مشکلساز باشد. ما بهجای ممنوعکردن فناوریهای تازه، باید توجهمان را روی تنظیم یک معاهده بینالمللی متمرکز کنیم که استفاده از جنگافزارهای خودکار را ممنوع میکند.
NewScientist, May 2013
برای اطلاع از آخرین اخبار و تحلیلها به کانال شرق در «تلگرام» بپیوندید.