|

امکانات، توانایی‌ها و آینده خودروهای خودران در گفت‌وگو با دکتر «کاظم فولادی‌قلعه»

نمی‌توان به چنین سیستم‌هایی اعتماد کرد

گروه علم: چندی پیش، یک دستگاه خودروی تسلا مدل اس، با یک دستگاه کامیون تصادف کرد و راننده خودروی تسلا درگذشت. این تصادف زمانی رخ داد که سرنشین، خودرو را در حالت رانندگی خودکار (اتوپایلت) قرار داده بود و رانندگی آن را بر عهده نداشت و به همین دلیل، موضوع این تصادف و مرگ سرنشین آن، بسیار جنجالی شده است. این حادثه اولین مرگ در اثر تصادف، در 210‌ میلیون کیلومتر استفاده عملیاتی از سیستم راننده اتوماتیک در سراسر جهان محسوب می‌شود. بنابر اعلام تسلا موقعیت نادر ایجادشده در صحنه تصادف موجب بروز این سانحه شده است. این حادثه زمانی رخ داد که یک کامیون در جلوی تسلا به سمت چپ پیچید. در این تصادف، سرنشین خودرو بر اثر شدت جراحات کشته شد. درحالی‌که عملکرد رانندگی خودکار خودروهای تسلا، نظر بسیاری از کارشناسان و همچنین مردم عادی را به این خودرو (که بسیاری آن را خودروی آینده توصیف می‌کنند)، جلب کرده بود، این تصادف باعث شد برخی ضعف عملکرد این خودرو را عامل مرگ سرنشین آن تلقی کنند. تسلا در مطلبی در وبلاگ خود ذکر کرده که مدل اس در حال حرکت در بزرگراه با استفاده از راننده اتوماتیک بود که ناگهان یک کامیون در مسیرش قرار گرفت که درنهایت به برخورد این دو خودرو منجر شد. در این تصادف «جاشوا براون» 40 ساله، راننده تسلا، کشته شد. وی پیش از این با دوربینی که روی داشبورد تسلا نصب کرده بود، صحنه‎ای را هنگام رانندگی ضبط و در سایت یوتیوب منتشر کرده بود. این ویدئو نشان می‎دهد که خودرو تسلا در شرایطی مشابه، توانسته بود مسیر را تغییر دهد و به‌این‌ترتیب مانع تصادف با کامیونی شود که در جاده در حال حرکت بود. آقای «براون» در نوشته‎ای که ضمیمه این ویدئو کرد، گفته بود: «تسلا مدل اس، در حالت خودکار توانست از تصادف جلوگیری کند. این بهترین خودرویی است که تا به حال داشتم». با این همه، بهترین خودروها هم گاهی اشتباه می‌کنند، اشتباه‌هایی مرگ‌بار. به بهانه تصادف این خودروی خودران و برای درک بهتر کارایی چنین خودروهایی، با دکتر «کاظم فولادی‌قلعه»، عضو هیأت علمی دانشگاه تهران و پژوهشگر حوزه‌ تخصصی هوش مصنوعی گفت‌وگو کردیم. وی مدرک دکترای خود را در رشته‌ مهندسی برق و کامپیوتر، گرایش هوش مصنوعی و رباتیک از دانشگاه تهران دریافت و به مدت 11 سال درس‌های تخصصی هوش مصنوعی را در مقاطع مختلف تدریس کرده است. علاوه بر این، استاد راهنما و مشاور پایان‌نامه‌های متعددی در این حوزه بوده و چندین مقاله تخصصی در حوزه‌های مربوط را در مجلات و کنفرانس‌ها منتشر کرده است. از دیگر زمینه‌های فعالیت‌های وی، مطالعات بنیادین فضای سایبر است که ایراد ده‌ها سخنرانی و حضور در برنامه‌های متعدد رادیویی و تلویزیونی نتیجه فعالیت در این زمینه است. ‌‌‌ ‌ پیش از این اتفاق، همیشه می‌پرسیدند در صورت تصادف و وقوع یک سانحه مرگ‌بار چه کسی مسئول است؟ سرنشین خودرو، طراح خودرو یا شرکت سازنده؟ اکنون که این اتفاق روی داده است زمان آن رسیده که یک‌بار دیگر بپرسیم واقعا چه کسی مسئول است؟ برای پاسخ به این پرسش می‌توانیم به موقعیت‌های مشابهی که پیش از این روی داده است، نیم‌نگاهی داشته باشیم. برای مثال، تصور کنید که اصلا موضوع خودروی خودران مطرح نیست و این اتفاق برای یک خودروی سواری معمولی رخ داده است. در این شرایط عرف پذیرفته است که عوامل مختلف در شکل‌گیری حادثه را در نظر بگیرد؛ مثلا 25 درصد جاده، 50 درصد راننده و 25 درصد وسیله سواری. از طرف دیگر تعهدات شرکت سازنده هم مطرح است و باید دید که آیا نسبت به بی‌خطربودن این وسیله ادعایی داشته است یا خیر یا اینکه مسئولیتی را متوجه راننده می‌کند. در هر صورت یک چیز مسلّم است و آن اینکه مسئولیت بر گردن موجودیتی است که عرفا مختار و دارای اراده شناخته‌شده باشد و حتی اگر گفته شود مقصر جاده یا وسیله‌ نقلیه است، برای کاهش میزان جرم راننده (موجودیت مختار) است. ‌ اکنون که این مشکل در عمل پیش آمده است، برای حل مشکلات حقوقی و اخلاقی مربوط به فناوری‌های نوین چه باید کرد؟ (یعنی دولت‌ها باید قانون‌هایی را تصویب کنند یا به فکر فرایندهایی دیگر باشند؟). قاعدتا باید قوانین مناسبی تنظیم و اعمال شود اما آنچه در این میان مهم است، جهت‌گیری این قوانین است که باید معطوف به مسئولیت‌پذیری یک موجود مختار باشد: حال در این بین نقش طراح، سازنده و راننده تعیین می‌شود. طبعا اگر اشتباه طراح به گونه‌ای باشد که سازنده با اعتماد به آن خطری را متوجه استفاده‌کنندگان کند، باید مسئولیت متوجه طراح باشد. اگر اشکال در طراحی نباشد و سازنده کوتاهی کرده باشد، به‌همین‌ترتیب. درنهایت مسئولیتی که متوجه راننده است باید تبیین و از وی مطالبه شود. البته پیشرفت فضای سایبر، شکل‌های پیچیده‌تر و نوینی از روش‌های اعمال قانون را فراهم کرده است که می‌توان از مزایای آنها در طرح‌ریزی فرایندهای قانونی مربوط بهره جست. ‌ خودروی تسلا با یک کامیون (که ابعاد بزرگ و قابل‌توجهی دارد)، تصادف کرد. آیا عاقلانه است که به چنین فناوری کور و بی‌دقتی اعتماد کنیم؟ من به گزارشی فنی درباره علت بروز این حادثه برخورد نکردم، اما وقوع نقص فنی محتمل‌ترین دلیل است. به این معنی که وقوع چنین اتفاقی برای هر سیستم تکنولوژیک دیگر نیز امکان‌پذیر است. مثلا ممکن است پردازشگر تصویر به مشکلی برخورد کرده باشد یا پدیده مقابل خودش را اشتباه تشخیص داده باشد یا اینکه هیچ‌کدام از اینها دلیل اصلی نیست و فقط سرعت پردازش کافی نبوده و در نتیجه سیستم هوشمند به موقع تصمیم نگرفته است! اما سؤال بجا، درباره اعتمادکردن به این پدیده‌های تکنولوژیک است. اگر این پرسش را از من بپرسید، می‌گویم من نمی‌توانم به چنین سیستم‌هایی اعتماد کنم! و البته دقیقا به این علت که نقاط ضعف کنونی این فناوری را می‌شناسم. یکی از تعاریف متداول هوش مصنوعی این است: «انجام کارهایی توسط ماشین که درحال‌حاضر انسان‌ها آن کارها را بهتر از ماشین انجام می‌دهند» و این تعریف درباره تشخیص مانع و رانندگی با خودرو کاملا صادق است. بنابراین کاری که ما آن را بهتر از ماشین انجام می‌دهیم، باید خودمان انجام دهیم، به ویژه جایی که پای جان انسان در میان باشد. ‌ سرنشین تسلا که در این سانحه درگذشت، پیش از این ویدئویی در اینترنت منتشر کرد و با توجه به واکنش خوب خودرو در برخورد با مانع، «این خودرو را بهترین خودرویی که داشته‌ام» توصیف کرد. اکنون این تصادف نشان داد که حتی عملکردهای خوبش هم تکرارپذیر نیست، یعنی به نظر می‌رسد بسیاری از فناوری‌های نوین، شرط‌های مهمی مانند تکرارپذیری و قابلیت اعتماد را ندارند. نظر شما چیست؟ به لحاظ آزمایش علمی، تکرارپذیری در مواردی مطرح است که شرایط آزمایش ثابت باشد. در کاربردی مثل ماشین‌های خودران، محیط که جزء مهمی از شرایط آزمایش است، در حال تغییر است (اصطلاحا پویا / دینامیک) است؛ بنابراین مفهوم تکرارپذیری در این مورد، خیلی قابل استفاده نیست. در مورد قابلیت اعتماد هم که صحبت کردیم. بیشتر به نظر می‌رسد این اظهارنظرها جنبه‌ تبلیغاتی دارد و برای عوام جذابیت ایجاد می‌کند، ضمن اینکه درباره سرنشین این خودرو در رسانه‌ها اظهار شده است: «راننده این خودرو، جاشوا براون 40ساله و اهل ایالت اوهایو بوده است. این فرد که قبلا در نیروی دریایی آمریکا خدمت می‌کرد، مدیریت یک شرکت مشاوره فناوری را بر عهده داشته است. تسلا در بیانیه خود در این زمینه جاشوا براون را فردی توصیف کرده که روی خلاقیت متمرکز شده بود و به ماموریت‌های تسلا عمیقا اعتقاد داشت» که بر ادعای تبلیغاتی‌بودن و علمی‌نبودن ویدئوی مذکور صحه می‌گذارد. ‌ تسلا در بیانیه‌ای که منتشر کرد، گفت از مرگ سرنشین خودرو متأسف است و تلویحا تقصیر را گردن شرکت سازنده حسگرها انداخت، شرکت سازنده حسگر هم مدعی شد که پیش از این نگفتیم عملکرد حسگرها کامل است و هنوز تا کامل‌شدن راه درازی دارد، خلاصه آنکه کسی مسئولیت این سانحه را نپذیرفت. اکنون چه باید کرد؟ طبیعی است که شرکت‌های دخیل در این ماجرا بخواهند از بار مسئولیت شانه خالی کنند، هم برای حفظ اعتبار و هم حفظ‌ بازار خود. اما به نظر من مسئولیت بیشتر با شرکت سازنده خودرو است تا شرکت سازنده‌ حسگر. سازنده‌ حسگر ممکن است شرایط کاربرد دیگری را در نظر گرفته باشد که ظاهرا آن را اعلام هم کرده است. بنابراین سازنده‌ خودرو باید محدودیت‌های حسگر را در نظر می‌گرفت. ‌ به نظر شما، با توجه به امکانات و وضعیت فعلی این خودروها و همچنین نقایص کنونی آنها، آیا عاقلانه است که از آنها در خیابان‌های شهری استفاده کنیم یا باید استفاده از آنها را (دست کم تا مدتی)، به مکان‌های کم‌تردد محدود کرد؟ اگر من بخواهم با اطلاعات فنی و به‌دور از فضای تبلیغاتی تصمیم بگیرم، فکر می‌کنم هنوز استفاده از این خودروها زود است، حتی در محل‌های کم‌تردد. البته شکل‌های کم‌خطرتر این خودروها که در ابعاد کوچک‌تر و با سرعت کمتر برای حمل کالا و بدون سرنشین طراحی و استفاده می‌شود، امروزه معقول است. ‌ به نظر شما برای بهبود وضعیت و عملکرد این خودروها چه باید کرد؟ قطعا انجام آزمایش‌های پیچیده روی عملکرد آن ضروری است و باید آزمون‌های سخت‌گیرانه‌ای وجود داشته باشد. ضمن اینکه اساسا پیشرفت در دانش بینایی ماشینی و بازشناسی اشیا و دیگر تکنیک‌های ضروری هوش مصنوعی هم لازم است. درنظرگرفتن ملاحظات دقیق قانونی هم فوق‌العاده مهم است، حتی مهم‌تر از جنبه‌های فنی. ‌ طبق آمار سال 2010، هر روزه سه‌هزارو 500 نفر (سالانه یک‌میلیون‌و 300‌ هزار نفر) در جهان در اثر تصادف و سانحه‌های مربوط به خودرو جان می‌بازند. در این مرگ‌ها، انسان‌ها نقش اصلی را دارند، اما کسی واکنشی نشان نمی‌دهد. اما در مقابل مرگ یک نفر که فناوری تا حدودی در پدیدآمدن آن نقش داشت، واکنش‌های تندی ابراز شد. آیا این نکته بیانگر این موضوع نیست که نسبت به خودمان با اغماض رفتار می‌کنیم اما نسبت به فناوری بسیار سخت‌گیر هستیم؟ من فکر می‌کنم مشکل از این نیست که ما نسبت به فناوری سخت‌گیر هستیم. بیشتر احساس می‌کنم درگیر همان فضای تبلیغاتی این خودروها شدیم و توقع زیادی از آنها پیدا کردیم، بنابراین تحمل چنین شکست‌هایی را نداریم! در این تصادف، همه از این ناراحتند که اگر آقای «براون» خودش ماشین را کنترل می‌کرد، شاید سرنوشت دیگری می‌داشت. کلا عرف عمومی این را قبول دارد که انسان برای جان خودش حداکثر کوشش را می‌کند، ولی متأسفانه ماشین‌ها چنین اهتمامی ندارند و به همین دلیل، وقوع این قبیل حوادث، اتهام سنگینی را متوجه آنها می‌کند. ‌ با توجه به آغاز فعالیت اتوبوس‌ها و حتی کشتی‌های خودران و بدون راننده، در مجموع آینده خودروهای خودران را چگونه می‌بینید؟ معتقدم پیشرفت دانش و فناوری، حوزه‌ کاربرد این پدیده‌ها را گسترش می‌دهد؛ اما اثربخشی و اعتماد عمومی به آنها مستلزم ملاحظات دقیق قانونی و ضمنا خروج از فضای تبلیغاتی است، به این معنی که توقع از این سیستم‌ها باید معقول و متناسب با ظرفیت تکنولوژیک آنها شود.

برای اطلاع از آخرین اخبار و تحلیل‌ها به کانال شرق در «تلگرام» بپیوندید.