هشدار مدیرعامل آنتروپیک یکچهارم احتمال فاجعه در آینده هوش مصنوعی, داریو آمودی، مدیرعامل استارتاپ هوش مصنوعی آنتروپیک، در نشست اکسیوس هوش مصنوعی + کنگره واشنگتن برآورد کرد که با احتمال ۲۵ درصد، پیشرفتهای این فناوری میتواند به نتایج فاجعهبار و خارج از کنترل منجر شود. این اظهارنظر در پاسخ به سوالی درباره خطر نابودی بشر توسط هوش مصنوعی بیان شده است.
تحلیل ریسکهای وجودی و سوءاستفاده از تکنولوژی آمودی منظور خود از بد پیش رفتن را سناریوهای گستردهای تشریح کرد که ثبات نظامهای اجتماعی را به چالش میکشند. او به مواردی چون ریسکهای وجودی، سوءاستفاده گسترده از ابزارهای هوشمند و پیامدهای پیشبینینشده اشاره کرد که میتوانند زیربنای امنیت و نظم را لرزاندند. سوابق هشدارها و تأثیر بر بازار کار این نخستین بار نیست که مدیرعامل آنتروپیک دقایق را به خطرها میفروشد.
او پیشتر از حذف نیمی از مشاغل اداری سطح ورودی توسط هوش مصنوعی خبر داده و در مورد صادرات تراشههای پیشرفته به چین هشداردهنده بوده است.
در سوی دیگر، آمودی بر احتمال ۷۵ درصدی نتایج مثبت تأکید دارد. این خوشبینی ریشه در باور به پتانسیل تبدیلکننده هوش مصنوعی در حوزههایی چون پیشرفت پزشکی، افزایش بهرهوری اقتصادی و ارائه راهکارهای نوین برای مقابله با بحرانهای جهانی مانند تغییرات اقلیمی دارد.
ضرورت توسعه مسئولانه و ایمنی با وجود چشماندازهای روشن، وجود ریسک یکچهارم الزام میکند که شرکتهای پیشرو در توسعه مدلهای هوش مصنوعی با حداکثر دقت، شفافیت و تعهد به اصول ایمنی عمل کنند. تعادل بین نوآوری و کنترل ریسک، چالش اصلی آینده این صنعت خواهد بود.
