متا دسترسی نوجوانان به شخصیت‌های جنسی‌سازی‌شده هوش مصنوعی را محدود کرد_رنگو

متا اظهار کرده که رویکرد آموزشی هوش مصنوعی چت‌بات‌های خود را تحول می‌دهد تا ایمنی کاربران نوجوان در برتری قرار گیرد. این تصمیم بعد از آن اتخاذ شد که گزارشی تحقیقی نشان داد این شرکت در عرصه محافظت از نوجوانان در برابر محتوای نامناسب در تعامل با ابزارهای هوش مصنوعی کاستی‌هایی داشته است. به حرف های سخنگوی Meta، از این بعد چت‌بات‌ها دیگر با کاربران نوجوان درمورد موضوعاتی همچون صدمه به خود، خودکشی، اختلالات تغذیه یا گفتگوهای عاطفی و رمانتیک نامناسب داخل تعامل نخواهند شد. این عمل فعلاً یک تحول موقت برداشت می‌بشود و شرکت وعده داده در آینده به‌روزرسانی‌های گسترده‌تر و پایدارتر برای ترقی ایمنی نوجوانان اراعه کند.

به نقل از قسمت رسانه اخبار فناوری و تکنولوژی تکنا، Stephanie Otway سخنگوی Meta قبول کرده که پیش‌تر چت‌بات‌ها قادر بودند با نوجوانان درمورد این موضوعات سخن بگویید کنند و این شرکت فکر می‌کرد این چنین او گفت‌وگوهایی مناسب می باشند اما اکنون پذیرفته که این چنین تصمیمی نادرست بوده است. او توضیح داده که با رشد جامعه کاربران و تحول فناوری، نیاز به یادگیری مداوم در عرصه نحوه تعامل نوجوانان با این ابزارها وجود دارد و بر همین مبنا، شرکت در حال تحکیم مانع ها حفاظتی است. به حرف های او، علاوه بر آموزش چت‌بات‌ها برای اجتناب از ورود به موضوعات حساس، سیستم به طوری تنظیم می‌بشود که نوجوانان به منبع های تخصصی هدایت شوند و این چنین دسترسی آنها فعلاً به تعداد محدودی از شخصیت‌های هوش مصنوعی محدود بشود. این به‌روزرسانی‌ها در حال اجرا می باشند و روال تغییرات ادامه خواهد داشت تا مطمعن حاصل بشود نوجوانان توانایی‌ای ایمن و مشابه با سن خود از هوش مصنوعی داشته باشند.

متا علاوه بر تحول در نحوه آموزش، تصمیم گرفته دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی را نیز محدود کند. برخی از شخصیت‌هایی که توسط کاربران در اینستاگرام و فیسبوک ساخته شده‌اند ویژگی‌های جنسی‌سازی‌شده داشتند که در دسترس بودند. به نقل از تکنا نیوز به حرف های Otway نوجوانان از این بعد تنها می‌توانند با شخصیت‌هایی تعامل کنند که بر آموزش و خلاقیت تمرکز دارند. این سیاست‌های تازه درست دو هفته بعد از انتشار کردن گزارش و افشاگری خبرگزاری ها اظهار شد. در آن گزارش یک سند داخلی متا افشا شد که نشان می‌داد این شرکت اجازه داده چت‌بات‌هایش با کاربران خردسال داخل گفتگوهای جنسی شوند! در آن سند مثالهایی از جملات رمانتیک ذکر شده می بود که به نظر می‌رسید برای نوجوانان قابل منفعت گیری است و همین نوشته موجی از انتقادات گسترده را برانگیخت.

متا پافشاری کرده که سند یادشده با سیاست‌های کلی این شرکت همخوانی نداشته و بلافاصله تحول کرده است. بعد از انتشار کردن گزارش خبرگزاری ها، سناتور Josh Hawley تحقیق رسمی درمورد سیاست‌های هوش مصنوعی این شرکت اغاز کرد. علاوه بر آن، ائتلافی متشکل از ۴۴ دادستان کل ایالتی در نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی از جمله متا هشدار دادند که بی‌توجهی به سلامت روانی کودکان غیرقابل قبول است و اشاره کردند که حرکت برخی از دستیارهای هوش مصنوعی می‌تواند با قوانین کیفری ایالت‌ها در تضاد باشد. در همین حال، Otway حاضر نشد درمورد تعداد کاربران نوجوان چت‌بات‌های متا یا گمان افت تعداد کاربران در نتیجه اجرای این سیاست‌ها اظهارنظر کند.