یک رسوایی برای متا: این شرکت اجازه رفتارهای تحریک‌آمیز جنسی و نژادی را به ربات‌ها می‌دهد

به گزارش گروه رسانه‌ای شرق،

یک سند داخلی از سیاست‌های متا که توسط رویترز مشاهده شده است، قوانین این غول رسانه‌های اجتماعی برای چت‌بات‌ها را فاش می‌کند که رفتارهای تحریک‌آمیز در مورد موضوعاتی از جمله رابطه جنسی، نژاد و افراد مشهور را مجاز می‌داند.

براساس این گزارش یک سند داخلی متا پلتفرمز که سیاست‌های مربوط به رفتار چت‌بات را شرح می‌دهد، به هوش مصنوعی این شرکت اجازه داده است تا «کودکان را در مکالمات عاشقانه یا شهوانی درگیر کرده»، اطلاعات پزشکی نادرست تولید کند و به کاربران کمک نماید استدلال کنند که سیاه‌پوستان «احمق‌تر از سفیدپوستان» هستند.

این سند متا مربوط به استانداردهای چت بات هوش مصنوعی در همه زیرگروه‌های متا از جمله متا ای‌آی و چت‌بات‌های موجود در فیس‌بوک، واتس‌اپ و اینستاگرام است. متا اصل سند را قبول کرده اما گفته بخش‌هایی را که بیان می‌کرد چت‌بات‌ها مجاز به معاشقه و ایفای نقش عاشقانه با کودکان هستند، حذف کرده است.

طبق این سند، قوانین مربوط به چت‌بات‌ها با عنوان «GenAI: استانداردهای ریسک محتوا»، توسط کارکنان حقوقی، سیاست عمومی و مهندسی متا، از جمله مدیر ارشد اخلاق آن، تصویب شده است. این سند که بیش از ۲۰۰ صفحه دارد، تعریف می‌کند که کارکنان و پیمانکاران متا هنگام ساخت و آموزش محصولات هوش مصنوعی مولد این شرکت، چه رفتارهای  قابل قبولی را از چت‌بات باید در نظر بگیرند.

در این سند آمده است که این استانداردها لزوماً منعکس‌کننده خروجی‌های «ایده‌آل یا حتی مطلوب» هوش مصنوعی مولد نیستند. اما رویترز می‌گوید دریافته که این استانداردها اجازه رفتارهای تحریک‌آمیز توسط ربات‌ها را داده‌اند.