ایلیا زودکوفسکی و نیت سورِز، دو پژوهشگر هوش مصنوعی در کتاب جدیدشان هشدار دادند که توسعه ابرهوش مصنوعی می‌تواند بشریت را به سمت نابودی سوق دهد.
این دو پژوهشگر آمریکایی، این موضوع را در کتاب جدیدی مطرح کرده‌اند که با نام «اگر کسی آن را بسازد، همه می‌میرند: چرا هوش مصنوعی فراانسانی همه ما را خواهد کشت» منتشر شده است. آن‌ها در گفتگو با شبکه ای‌بی‌سی‌نیوز گفتند که توسعه هوش مصنوعی بسیار سریع‌تر از آنچه باید و در غیبت اقدامات مناسب ایمنی، در حال پیشروی است.
آقای زودکوفسکی گفت: «ما کارهای زیادی به‌جز نوشتن کتاب کردیم. و اگر در تلاش هستند جلوی انقراض کامل بشریت را بگیرید، واقعا باید کارهای زیادی که از دست‌تان برمی‌آید، انجام دهید.»
ابرهوش مصنوعی، نوعی از هوش مصنوعی خواهد بود که توانایی فکری آن فراتر از انسان پیش‌بینی شده است.
زودکوفسکی گفت: «شرکت‌های هوش مصنوعی می‌گویند که ابر هوش مصنوعی احتمالا ظرف دو یا سه سال دیگر ساخته خواهد شد. با این حال، به گفته او این شرکت‌ها به خوبی نمی‌دانند که چه خطراتی را به جان می‌خرند.»
سورِز، نویسنده دیگر این کتاب گفت چت‌بات‌های کنونی یک قدم اولیه هستند و شرکت‌ها در تلاش‌ها اند که ابزارهای هوش مصنوعی هوشمندتر بسازند.
این نویسنده افزوده است با توجه به این‌که سیستم‌های مدرن هوش مصنوعی، به جای این‌که به شکل سنتی ساخته شوند، «پرورش می‌یابند»، این موضوع، کنترول آن‌ها را دشوارتر می‌کند. او گفت: «زمانی که این سامانه‌ها رفتارهای غیرمنتظره از خود نشان می‌دهند، توسعه‌دهندگان نمی‌توانند صرفاً کدها را اصلاح کنند.»
او با اشاره به تهدید یک خبرنگار نیویارک‌تایمز از سوی چت‌ربات هوش مصنوعی و گزارش‌ها از نقش این فناوری در مواردی از اخاذی، گفت: «این رفتارها از ویژگی پرورش‌یافتگی ابزارهای هوش مصنوعی ناشی می‌شوند، نه چیزی که کسی عمداً در آن‌ها برنامه‌ریزی کرده باشد.»
پژوهشگران خواستار توقف کامل توسعه ابرهوش مصنوعی شده‌اند. زودکوفسکی هشدار داد: «فکر نمی‌کنم بخواهید برنامه‌ای بچینید برای درگیر شدن با چیزی که از بشریت باهوش‌تر است. این یک برنامه احمقانه است.»
