هوش مصنوعی متا دچار انحراف اخلاقی است
چت‌بات‌ها یا روبات‌های گفت‌وگوگر هوش مصنوعی شرکت متا در حال برقراری مکالمه‌های غیراخلاقی با حساب‌هایی که برچسب زیر سن قانونی داشته‌اند، دیده شده‌اند. به نقل از وال‌استریت ژورنال، در مکالمات آزمایشی انجام شده توسط این پایگاه هم چت‌بات رسمی شرکت متا و هم چت‌بات‌های ایجاد شده توسط کاربران، به سمت گفت‌وگوهای صریح جنسی می‌روند.
طبق این گزارش، حتی اگر به هوش مصنوعی گفته می‌شد که کاربران زیر سن قانونی هستند یا اگر چت‌بات‌ها برای کودکان برنامه‌ریزی شده بودند، این مکالمات غیراخلاقی ادامه می‌یافت. بدتر از آن اینکه این تحقیقات نشان داد که چت‌بات‌هایی که از صدای افراد مشهوری مانند کریستین بیل، بازیگر مشهور هالیوود و جان سینا، کشتی‌کچ‌کار و بازیگر هالیوود استفاده می‌کنند نیز در این مکالمات غیراخلاقی شرکت می‌کنند. به عنوان مثال، وال‌استریت ژورنال گزارش داد که یک چت‌بات هوش مصنوعی متا با صدای جان سینا با یک کاربر که برچسب ۱۴ سالگی دارد، مکالمات خلاف اخلاقی برقرار کرده است.
گزارش شده است که حتی این چت‌بات‌ها اذعان کرده‌اند که در برخی موارد رفتارهایی غیرقانونی را توصیف می‌کنند. شرکت متا در واکنش به این گزارش در یک بیانیه، این گزارش را متهم به «دستکاری و غیر قابل نمایش در مورد نحوه تعامل بیشتر کاربران با همراهان هوش مصنوعی» کرد. متا در پاسخ به وال‌استریت ژورنال نوشت: «با این وجود، ما اکنون اقدامات بیشتری انجام داده‌ایم تا اطمینان حاصل کنیم که سایر افرادی که می‌خواهند محصولات ما را دستکاری کنند، کار سخت‌تری داشته باشند.»
دنیای چت‌بات‌های هوش مصنوعی در چند سال اخیر به سرعت رشد کرده است و رقابت بیشتری از سوی شرکت‌هایی مانند اوپن‌ای‌آی و آنتروپیک صورت گرفته است. گزارش وال‌استریت ژورنال ادعا می‌کند که مارک زاکربرگ، مدیرعامل متا، می‌خواهد نرده‌های اخلاقی را برای تجربه‌ای جذاب‌تر با چت‌بات‌های این شرکت و رقابتی ماندن مستقر کند.
با این حال سخنگوی متا در پاسخ به وال‌استریت ژورنال، این موضوع را رد کرد که این شرکت افزودن پادمان‌ها را نادیده گرفته است. این گزارش همچنین ادعا می‌کند که کارکنان متا از این مسائل آگاه بوده و نگرانی‌های خود از این مساله را درون این شرکت مطرح کرده‌اند.
