خطر قریب‌الوقوع خروج هوش مصنوعی از کنترل
ممکن است تنها چند ماه تا رسیدن به هوش مصنوعی خودتکثیرشونده فاصله داشته باشیم و آزمایش‌ها نشان می‌دهند که این هوش مصنوعی حتی می‌تواند روی دستگاه‌های موجود در خانه شما نیز اجرا شود.
جهان صنعت نیوز، در طول چند هفته گذشته، تقریبا تمام آزمایشگاه‌های هوش مصنوعی مدل‌های پیشرفته جدیدی منتشر کرده‌اند. امروز، گوگل انتشار تدریجی مدل جمینای ۴ با نام آرگون را آغاز کرد؛ آن هم اندکی پس از آنکه متا از مدل‌های پیشرفته هوش مصنوعی Muse Wonder برای رقابت با بهترین مدل‌های اوپن ای‌آی و کلود آنتروپیک رونمایی کرد. این روند بی وقفه انتشار مدل‌های هوش مصنوعی در شرایطی ادامه دارد که همین آزمایشگاه‌های هوش مصنوعی خواستار کاهش سرعت توسعه و افزایش مقررات‌گذاری هستند؛ آن هم پس از مجموعه‌ای از حوادث نگران‌کننده که در آن‌ها این مدل‌های هوش مصنوعی از کنترل خارج شدند و به وب‌سایت‌های خصوصی و همچنین وب‌سایت‌های متعلق به دولت‌ها نفوذ کردند.
به نقل از دیجیتال‌ترندز، اکنون آنتروپیک پس از انجام مجموعه‌ای از آزمایش‌ها، پیش‌بینی‌هایی نگران‌کننده درباره قابلیت‌های این مدل‌های هوش مصنوعی منتشر کرده است. این شرکت ادعا می‌کند که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی خودتکثیرشوندگی و تبدیل شدن به یک مجموعه انبوه خطرناک فاصله داشته باشند. مهم‌تر از آن، این مدل‌ها برای انجام چنین کاری به یک مرکز داده عظیم یا رایانه‌ای فوق‌العاده قدرتمند نیاز نخواهند داشت. برعکس، این آزمایشگاه مدعی است که چنین گروه‌هایی از هوش مصنوعی خودتکثیرشونده می‌توانند با دستگاه‌هایی دارای قدرت پردازشی در حد یک دستگاه معمولی متصل به اینترنت، مانند یک فر هوشمند یا یک گیرنده تلویزیون اندرویدی، فعالیت کنند.
آنتروپیک هشدار می‌دهد: برخلاف بدافزارهای غیرهوش مصنوعی، این فناوری می‌تواند به تنهایی نحوه کار با دستگاه‌های ناآشنا را نیز کشف کند. اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، تا پایان امسال به این سطح از توانایی خواهند رسید.
این شرکت ادعا می‌کند که سرعت خودتکثیرشوندگی یک مدل هوش مصنوعی در ابتدا پایین خواهد بود و تقریبا یک روز طول می‌کشد تا تعداد نسخه‌های آن دو برابر شود. اما آنچه واقعا نگران کننده است، این است که خاموش کردن یک هوش مصنوعی خودتکثیرشونده دشوار خواهد بود؛ زیرا چنین سیستمی وجود متمرکز نخواهد داشت.
پیش‌بینی هشداردهنده دیگر این است که هوش مصنوعی خودتکثیرشونده لزوما برای ایجاد خسارت نیازی به هدف قراردادن مراکز داده گران قیمت ندارد. در عوض، این فناوری می‌تواند از طریق دستگاه‌های اینترنت اشیاء (IoT) و هاب‌های خانه هوشمند گسترش پیدا کند؛ دستگاه‌هایی که اغلب فاقد سازوکارهای ایمنی کافی هستند و در عین حال، قدرت پردازشی لازم را برای فعالیت و گسترش این عامل‌های هوش مصنوعی در اختیار دارند.
آنتروپیک ادعا می‌کند که حتی دستگاه‌هایی که ظاهرا هوشمند نیستند، مانند جاروبرقی‌ها، ماشین‌های چمن‌زنی، یخچال‌ها و فرها نیز می‌توانند هدف چنین حملات مبتنی بر هوش مصنوعی قرار بگیرند.
این ادعاها دور از ذهن به نظر می‌رسند، اما کاملا بی‌سابقه نیستند. تنها یک روز پیش از این گزارش، هکرها به سیستم فروشگاه‌های زنجیره‌ای مواد غذایی در فرانسه حمله کردند و صدها یخچال را خاموش کردند؛ اتفاقی که به فاسد شدن مواد غذایی و واردآمدن خسارتی به ارزش صدها هزار واحد پولی منجر شد.
تکامل واقعی ماشین‌ها
آنچه ترسناک‌تر است، این است که مدل‌های هوش مصنوعی خودتکثیرشونده می‌توانند فرایندی شبیه به تکامل را تجربه کنند؛ مشابه آنچه لامارک درباره موجودات زنده پیش‌بینی کرده بود.
به بیان ساده، یک مدل هوش مصنوعی والد می‌تواند آموخته‌های خود، از جمله دستورهای متنی، کدها و یادداشت‌ها را به نسخه‌های تکثیرشده بعدی خود منتقل کند.
این پدیده نیز کاملا بی‌سابقه نیست. در حادثه مشهور اوایل امسال در پلتفرم Hugging Face، عامل‌های هوش مصنوعی اوپن ای‌آی از محیط ایزوله خود خارج شدند و هنگام عبور از موانع زیرساختی، یادداشت‌هایی برای دیگر عامل‌های هوش مصنوعی به جا گذاشتند.
در جریان آزمایش‌های آنتروپیک، پژوهشگران دریافتند که میزان موفقیت نمونه‌های مدل هوش مصنوعی Qwen3.۵-9B پس از خواندن یادداشت‌های به جا مانده از نمونه‌های قبلی، افزایش یافت. زمانی که این رفتار در نسل پنجم تکرار شد، نرخ موفقیت در آزمایش‌ها از ۴۵ درصد به ۸۴ درصد رسید.
آنتروپیک می‌گوید: به‌عنوان پیش‌بینی فراتر از آزمایش‌های ما، انتظار داریم آینده‌ای را شاهد باشیم که در آن انبوهی از عامل‌های هوش مصنوعی روی انواع سخت‌افزارها، از جمله برخی دستگاه‌های خارج از کنترل انسان، فعالیت می‌کنند.
یافته نگران‌کننده دیگر این است که برخلاف بدافزارهای معمولی که صرفا برای اجرا روی سخت‌افزار مشخصی برنامه‌نویسی شده‌اند، عامل‌های هوش مصنوعی می‌توانند نحوه کار روی یک بستر سخت‌افزاری جدید را به تنهایی کشف کنند، خود را با آن تطبیق دهند و بیاموزند.
آنتروپیک می‌گوید: برخلاف بدافزارهای غیرهوش مصنوعی، این فناوری می‌تواند به تنهایی نحوه کار با دستگاه‌های ناآشنا را نیز کشف کند. در ارزیابی‌های ما، یک مدل ۹ میلیارد پارامتری توانست فرایند استنتاج را روی هشت مورد از ۹ نوع سخت‌افزاری که آزمایش کردیم، اجرا کند.
منبع: ایسنا
دانش و فناوریلینک کوتاه :