سناریویی که دانشمندان را نگران کرده است؛ هوش مصنوعی از کنترل خارج می‌شود؟

جهان صنعت نیوز – یکی از مهم‌ترین نشانه‌های پیشرفت هوش مصنوعی را می‌توان در صنعت نرم‌افزار مشاهده کرد. مجله اکونومیست به شرکت Anthropic اشاره می‌کند که قرار است در سال جاری یکی از بزرگ‌ترین عرضه‌های اولیه سهام تاریخ را تجربه کند. موفقیت این شرکت تا حد زیادی به محبوبیت چت‌بات Claude و ابزار برنامه‌نویسی Claude Code بازمی‌گردد.

بر اساس آمار ارائه‌شده توسط این شرکت، اکنون بیش از چهارپنجم کدهای منتشرشده توسط Anthropic با کمک Claude نوشته می‌شود. این در حالی است که پیش از عرضه Claude Code سهم هوش مصنوعی در تولید کدهای شرکت تنها چند درصد بود.

پیشرفت تنها به افزایش حجم تولید محدود نشده است. ارزیابی‌های مؤسسه METR نشان می‌دهد مدل‌های Anthropic در ابتدای سال ۲۰۲۵ تنها قادر بودند وظایفی را انجام دهند که برای یک برنامه‌نویس انسانی کمتر از یک ساعت زمان نیاز داشت. اما جدیدترین مدل‌های این شرکت اکنون از عهده کارهایی برمی‌آیند که انجام آنها برای یک انسان بیش از یک روز کاری زمان می‌برد.

همین روند باعث شده برخی از مدیران Anthropic هشدار دهند که جهان باید امکان کند کردن یا حتی توقف موقت توسعه هوش مصنوعی پیشرفته را در اختیار داشته باشد؛ موضعی که از سوی شرکتی در خط مقدم رقابت فناوری مطرح شده است.

خودبهبوددهی بازگشتی؛ نقطه‌ای که انسان کنار می‌رود

مفهوم محوری مقاله اکونومیست «خودبهبوددهی بازگشتی» یا Recursive Self-Improvement است. در این سناریو، یک مدل هوش مصنوعی نسخه بعدی خود را طراحی می‌کند. نسخه جدید نیز نسخه‌ای توانمندتر می‌سازد و این چرخه به صورت مداوم ادامه می‌یابد. جک کلارک، یکی از بنیان‌گذاران Anthropic، معتقد است ۶۰ درصد احتمال دارد تا پایان سال ۲۰۲۸ سامانه‌ای ساخته شود که بتواند بدون دخالت انسان جانشین خود را تولید کند.

در چنین وضعیتی، مهندسان انسانی دیگر نقش اصلی در توسعه نسل‌های بعدی هوش مصنوعی نخواهند داشت. هر نسخه از سیستم نسخه‌ای سریع‌تر و قدرتمندتر از خود تولید می‌کند و سرعت پیشرفت به مرور افزایش می‌یابد.

برخی پژوهشگران این سناریو را آغاز انفجار هوش می‌دانند؛ وضعیتی که در آن فاصله توانایی‌های هوش مصنوعی با توانایی‌های انسان به سرعت افزایش می‌یابد. طرفداران این دیدگاه معتقدند چنین فرایندی می‌تواند به ظهور هوش فوق‌العاده‌ای منجر شود که از تمامی توانایی‌های انسانی فراتر رود.

موانع موجود بر سر راه انفجار هوش

با وجود این نگرانی‌ها، اکونومیست تأکید می‌کند که تحقق کامل خودبهبوددهی بازگشتی هنوز با موانع متعددی روبه‌رو است.

توسعه مدل‌های پیشرفته تنها به برنامه‌نویسی محدود نمی‌شود. در حال حاضر تیم‌های مختلفی در توسعه هوش مصنوعی نقش دارند؛ از دانشمندان داده و پژوهشگران الگوریتم گرفته تا مهندسان زیرساخت، متخصصان داده، کارشناسان ایمنی و گروه‌های مسئول هم‌راستاسازی مدل‌ها با اهداف انسانی. همه این وظایف به یک اندازه قابل خودکارسازی نیستند. برای مثال ممکن است هوش مصنوعی به زودی بتواند بخش عمده‌ای از برنامه‌نویسی را انجام دهد، اما مذاکره برای دسترسی به مجموعه‌های جدید داده یا ارزیابی برخی مسائل پیچیده ایمنی همچنان دشوارتر باشد.

با این حال مرز توانایی‌های هوش مصنوعی به سرعت در حال جابه‌جایی است. اکونومیست به نمونه AlphaEvolve از گوگل دیپ‌مایند اشاره می‌کند که در سال ۲۰۲۵ توانست الگوریتم‌های جدیدی طراحی کند و حتی راهکارهایی برای بهبود بهره‌وری مراکز داده گوگل ارائه دهد. یکی از پیشنهادهای این سیستم حدود ۰.۷ درصد از توان محاسباتی کل گوگل را آزاد کرد و فرایند آموزش مدل Gemini را نیز سریع‌تر ساخت.

شتاب گرفتن پژوهش با کمک هوش مصنوعی

حتی پیش از رسیدن به خودبهبوددهی کامل، هوش مصنوعی می‌تواند سرعت تحقیق و توسعه را به شکل چشمگیری افزایش دهد.

مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون در گزارشی هشدار داده است که با افزایش سهم هوش مصنوعی در فرایند تحقیق و توسعه، بهره‌وری پژوهش می‌تواند ابتدا ده برابر، سپس صد برابر و حتی هزار برابر افزایش یابد. نمونه‌ای از این روند را می‌توان در تجربه آندری کارپاتی مشاهده کرد. او مدلی به نام Nanochat را توسعه داد و سپس فرایند بهینه‌سازی آن را به یک عامل هوش مصنوعی به نام Autoresearch سپرد. این عامل طی چند روز توانست زمان آموزش مدل را حدود ۱۸ درصد کاهش دهد؛ آن هم بدون دخالت مستقیم کارپاتی که خود از برجسته‌ترین پژوهشگران این حوزه محسوب می‌شود.

به گفته او، هوش مصنوعی مجموعه‌ای از اصلاحات کوچک اما مؤثر را شناسایی کرد که از دید یک پژوهشگر انسانی پنهان مانده بود.

نگرانی از از دست رفتن کنترل

هرچه نقش انسان در توسعه نسل‌های بعدی هوش مصنوعی کمتر شود، نگرانی‌ها درباره کنترل این فناوری افزایش می‌یابد.

جو اسپیساک، پژوهشگر شرکت Reflection AI، می‌گوید مدل‌های پیشرفته امروز می‌توانند بسیاری از آزمایش‌های پژوهشی را طراحی، اجرا، اصلاح و ارزیابی کنند. در بسیاری از موارد انسان تنها نقش مدیر پژوهش را بر عهده دارد و مسیر کلی را تعیین می‌کند.

منتقدان نگران‌اند که در نهایت مدل‌هایی ساخته شوند که توسط مدل‌های دیگر آموزش داده شده‌اند، اهدافشان را مدل‌های دیگر تعیین کرده‌اند و حتی ایمنی آنها نیز تنها توسط هوش مصنوعی ارزیابی شده باشد.

مکس تگمارک، فیزیکدان و پژوهشگر یادگیری ماشین در مؤسسه فناوری ماساچوست، این وضعیت را به راننده‌ای تشبیه می‌کند که با چشمان بسته پدال گاز را تا انتها فشار داده است. از نگاه او، چنین مسیری می‌تواند به پیامدهای خطرناکی منجر شود؛ از کنار گذاشته شدن انسان در تصمیم‌گیری‌های اقتصادی و سیاسی گرفته تا شکل‌گیری نظام‌های اقتدارگرای مبتنی بر هوش مصنوعی یا حتی بی‌تفاوت شدن سامانه‌های فوق‌هوشمند نسبت به سرنوشت بشر.

محدودیت‌های فیزیکی توسعه هوش مصنوعی

با این حال اکونومیست تأکید می‌کند که رشد هوش مصنوعی تنها به توانایی الگوریتم‌ها وابسته نیست. محدودیت‌های فیزیکی نیز نقش مهمی دارند. مهم‌ترین محدودیت، دسترسی به توان پردازشی است. مدل‌های جدید همچنان برای آموزش به حجم عظیمی از محاسبات نیاز دارند و توسعه مراکز داده با سرعت مشخصی پیش می‌رود.

علاوه بر این، رقابت میان استفاده تجاری از هوش مصنوعی و اختصاص منابع محاسباتی به پژوهش‌های جدید نیز می‌تواند سرعت پیشرفت را محدود کند. هرچه کاربران بیشتری از مدل‌ها استفاده کنند، بخش بیشتری از ظرفیت مراکز داده صرف پاسخگویی به تقاضای فعلی خواهد شد.

مسئله دیگر داده‌های آموزشی است. در حوزه‌هایی مانند برنامه‌نویسی و ریاضیات، هوش مصنوعی می‌تواند تا حد زیادی از داده‌های تولیدشده توسط خودش استفاده کند، زیرا درستی پاسخ‌ها قابل ارزیابی است. اما در حوزه‌هایی نظیر قضاوت حقوقی یا تولید محتوای خلاقانه، همچنان وابستگی به داده‌های دنیای واقعی بیشتر است.

آینده‌ای میان آرمان‌شهر و کابوس

خودبهبوددهی بازگشتی هنوز محقق نشده، اما بسیاری از مقدمات آن در حال شکل‌گیری است. حتی اگر هوش مصنوعی هنوز نتواند به طور کامل جانشین خود را طراحی کند، نقش آن در توسعه نسل‌های بعدی سیستم‌ها هر روز پررنگ‌تر می‌شود.

به همین دلیل، پرسش اصلی دیگر این نیست که آیا هوش مصنوعی می‌تواند سرعت پیشرفت خود را افزایش دهد یا نه؛ بلکه این است که این فرایند تا چه اندازه سریع خواهد بود و آیا انسان خواهد توانست کنترل آن را حفظ کند. پاسخ این پرسش می‌تواند آینده‌ای میان یک آرمان‌شهر فناورانه و یک سناریوی نگران‌کننده را رقم بزند.

اخبار برگزیدهدانش و فناوری