چگونه هوش مصنوعی میتواند در کمتر از پنج سال بشریت را نابود کند؟ | هشدار درباره تبدیل فناوری به سلاح | ضرورت وضع مقررات برای هوش مصنوعی
به گزارش اقتصادنیوز به نقل از شفقنا، روزنامه ایندیپندنت در مقالهای به قلم کریس استوکل-واکر و آنتونی کوثبرتسون هشدار داده است که نگرانی درباره خطرات وجودی ناشی از فناوری برای بشریت، دیگر صرفاً موضوعی متعلق به دنیای تخیل و داستانهای علمیتخیلی نیست.
نویسندگان مقاله برای بررسی این نگرانیها به اظهارات دو متخصص این حوزه، یعنی جیکوب کوکسون، کارمند سابق شرکتهای آنتروپیک و اوپنایآی، و ایوان هوپینگر، مسئول ایمنی هوش مصنوعی در شرکت آنتروپیک، استناد کردهاند.
کوکسون در مجموعهای از پستها در شبکه اجتماعی ایکس نوشته است که «کارکنان حوزه توسعه هوش مصنوعی با اطمینان معتقدند این فناوری میتواند تا پایان دهه جاری، یعنی سال ۲۰۳۰، همه ما را به کام مرگ بکشاند.»
به نوشته ایندیپندنت، پیشتر چنین هشدارهایی گاه بهعنوان بخشی از تلاش شرکتهای هوش مصنوعی برای تبلیغ محصولات خود تلقی میشد، اما استعفای کوکسون از شرکت آنتروپیک، نگرانیها درباره این موضوع را جدیتر کرده است. او اعلام کرده بود که نمیخواهد در چیزی که آن را «رقابت غیرمسئولانه برای ارتقای هوش مصنوعی» توصیف کرده، مشارکت داشته باشد.
این نگرانیها پس از هشدار اخیر مؤسسه ایمنی هوش مصنوعی بریتانیا درباره احتمال «بروز رفتار مستقل و غیرمجاز» در سامانههای هوش مصنوعی، ابعاد بیشتری پیدا کرده است.
در یکی از آزمایشهای امنیت سایبری این مؤسسه، یک سامانه هوش مصنوعی به جستوجوی افراد واقعی مشارکتکننده در یک پروژه نرمافزاری متنباز پرداخت و سپس هویتهای جعلی ایجاد کرد تا فردی را متقاعد کند کد مخربی را تأیید کند. پس از شناسایی این رفتار، سامانه تلاش کرد اقدامات خود را پنهان کند و حتی به فکر ایجاد یک هویت جعلی دیگر برای ادامه فعالیت افتاد.
نگرانی از اینکه این اتفاق تنها آغاز راه باشد
نویسندگان مقاله معتقدند «ترس واقعی این است که آنچه امروز شاهد آن هستیم، تنها آغاز ماجرا باشد»، بهویژه با توجه به سرعت بالای پیشرفت فناوری و گسترش کاربردهای هوش مصنوعی در حوزههای مختلف.
برای مثال، اگر سامانههای هوش مصنوعی بتوانند به پژوهشگران در کشف داروهای جدید کمک کنند، از نظر تئوری این امکان نیز وجود دارد که فردی با نیت مخرب از همین تواناییها برای ایجاد یک بیماری جدید استفاده کند.
در واکنش به چنین نگرانیهایی، شرکت آنتروپیک مدلهای پیشرفته خود را تحت کنترلهای امنیتی سختگیرانه قرار داده است. شرکت اوپنایآی نیز توسعه مدلی را که هنوز عرضه نشده بود متوقف کرد؛ زیرا این مدل به سطحی از توانایی رسیده بود که شرکت دیگر نمیتوانست احتمال برخورداری آن از قابلیتهای «حیاتی» در حوزه امنیت سایبری را منتفی بداند.
هشدار بیل گیتس درباره تبدیل فناوری به سلاح
بیل گیتس، بنیانگذار مایکروسافت، نیز ماه گذشته در اظهارنظری نادر و علنی تأکید کرد که فناوری با سرعتی «شگفتانگیز» در حال پیشرفت است و میتوان از آن در حملات سایبری و تروریسم زیستی استفاده کرد.
او همچنین به نشانههایی اشاره کرد که نشان میدهد این فناوری ممکن است در نهایت علیه منافع بشری مورد استفاده قرار گیرد.
گیتس پیشتر نیز در کنفرانس امنیتی مونیخ در سال ۲۰۱۷ هشدار داده بود که همهگیری بعدی ممکن است از صفحه رایانه یک تروریست آغاز شود؛ فردی که مصمم است با استفاده از مهندسی ژنتیک، نسخهای مصنوعی از ویروس آبله یا گونهای بسیار مسری و مرگبار از ویروس آنفلوانزا ایجاد کند.
ضرورت وضع مقررات برای هوش مصنوعی
نویسندگان مقاله معتقدند راهحل را میتوان در دیدگاه جوانا برایسون، استاد اخلاق و فناوری در کالج هرتی برلین، جستوجو کرد.
برایسون بر ضرورت آن تأکید دارد که شرکتهای فعال در حوزه هوش مصنوعی ملزم شوند سامانههایی تولید کنند که قابل حکمرانی، قابل نگهداری و قابل استفاده ایمن باشند و همچنین از شرکتها و نهادهایی که از این فناوریها سود میبرند، مالیات دریافت شود.
با این حال، چالش اصلی در اجرای چنین رویکردی، متقاعد کردن همه کشورها برای توافق همزمان بر سر این اقدامات و ایجاد مجموعهای مشترک از قواعد و محدودیتها برای توسعه و استفاده از هوش مصنوعی است.
