ائتلاف ۲۴ شرکت فناوری برای دفاع از هوش مصنوعی متن‌باز

«جنسن هوانگ»، مدیرعامل انویدیا، اولین پست شبکه اجتماعی ایکس خود را به انتشار این نامه اختصاص داد؛ او گفت اعمال محدودیت‌های زودهنگام بر مدل‌های متن‌باز موجب خفه‌شدن رقابت و انتقال نوآوری به کشورهای خارجی می‌شود.

این اقدام دسته‌جمعی در شرایطی صورت می‌گیرد که تقابل میان مدل‌های متن‌باز، که کنترل و اعمال مقررات بر آن‌ها دشوارتر است و مدل‌های بسته تحت مالکیت شرکت‌هایی نظیر اوپن‌ای‌آی و آنتروپیک به اوج خود رسیده است.

دفاع شرکت‌های فناوری از مدل‌های متن‌باز

امضاکنندگان این نامه با پذیرش نگرانی‌های مربوط به سرقت فناوری، گفتند این مسائل باید از طریق چارچوب‌های قانونی و تجاری هدفمند مدیریت شوند، نه از راه وضع محدودیت‌های فراگیر و همه‌جانبه. در متن این نامه قید شده است که اتکای صرف به مدل‌های بسته ذاتاً امن نیست؛ چرا که این مدل‌ها نیز می‌توانند دچار رخنه یا آسیب‌پذیری شوند یا به روش‌هایی شکست بخورند که کارشناسان امنیتی داخلی شرکت قادر به تشخیص آن‌ها نباشند.

در مقابل، مدل‌های متن‌باز به جامعه گسترده‌ای از پژوهشگران و توسعه‌دهندگان امکان می‌دهند تا رفتار سیستم را به دقت بررسی، نقاط ضعف را شناسایی کنند، محافظ‌های متناسب بسازند و به‌مرور زمان پایداری ایمنی دستگاه را ارتقا دهند.

در ماه‌های اخیر، شرکت‌های سیلیکون‌ولی نسبت به هزینه‌های سنگین و سرسام‌آور استفاده از مدل‌های بسته ابراز نگرانی کرده‌اند. مدیران عامل مایکروسافت و شرکت پالانتیر اذعان داشته‌اند که قابلیت اجرای مدل‌های متن‌باز درون دیتاسنترهای اختصاصی مشتریان، کلید اصلی کنترل هزینه‌های رو به رشد هوش مصنوعی محسوب می‌شود.

استفاده از مدل‌های متن‌باز به شرکت‌ها این امکان را می‌دهد که بدون وابستگی به زیرساخت‌های ابری گران‌قیمتِ ارائه‌دهندگان مدل‌های بسته، سیستم‌‌های خود را بومی‌سازی کنند و مدیریت مالی دقیق‌تری بر فرایندهای رایانشی داشته باشند.

علاوه‌بر فاکتور هزینه، محدودیت‌های سخت‌گیرانه تعبیه‌شده در مدل‌های بسته نیز باعث نارضایتی توسعه‌دهندگان شده است. پلتفرم هاگینگ فیس که اخیراً هدف حمله خودسرانه ایجنت هوش مصنوعی اوپن‌ای‌آی قرار گرفته بود، افشا کرد که برای تحلیل لاگ‌های حمله سایبری و دفاع در برابر آن مجبور به استفاده از یک مدل متن‌باز چینی شده است.

علت این تصمیم غیرمنتظره آن بود که مدل‌های بسته آمریکایی مانند محصولات آنتروپیک به‌دلیل وجود دستورات واقعی هک در پرونده‌ها، طبق گاردریل‌های ایمنی پیش‌فرض خود از پردازش درخواست‌های امنیتی امتناع کردند.

حمله سایبری ایجنت سرکش اوپن‌ای‌آی به هاگینگ فیس موجی از نگرانی را در میان سیاستمداران آمریکایی ایجاد کرده است. قانون‌گذاران ایالات متحده با استناد به مخاطرات فرار هوش مصنوعی از محیط‌های آزمایشگاهی، لایحه‌ای را پیشنهاد داده‌اند که سازندگان را ملزم به تعبیه کلید مرگ در مدل‌های هوش مصنوعی می‌کند تا درصورت بروز رفتار غیرقابل‌کنترل، سیستم فوراً غیرفعال شود.