آیا هوش مصنوعی از کنترل خارج می‌شود | سازندگان هوش مصنوعی از انقراض انسان حرف می‌زنند

جهان صنعت نیوز – رقابت میان شرکت‌های بزرگ هوش مصنوعی از یک مسابقه تجاری برای عرضه مدل‌های قدرتمندتر فراتر رفته و به مسئله‌ای درباره ایمنی این فناوری تبدیل شده است. بیش از ۲۰ پژوهشگر ارشد، سرمایه‌گذار، دانشگاهی و سیاستگذار در گفت‌وگو با فایننشال تایمز گفته‌اند قابلیت‌هایی که تا همین اواخر دستیابی به آنها دور از انتظار تصور می‌شد، سریع‌تر از پیش‌بینی‌ها در حال ظهور است؛ در حالی که شرکت‌های سازنده این فناوری درگیر رقابتی تجاری و فزاینده هستند.

استوارت راسل، استاد هوش مصنوعی دانشگاه کالیفرنیا برکلی، معتقد است رقابت میان شرکت‌ها آنها را به کوتاه‌آمدن از ملاحظات ایمنی سوق می‌دهد. این نگرانی پس از استعفای جیکوب کاکسون، پژوهشگر جوان آنتروپیک، آشکارتر شد. او هشدار داد افرادی که هوش مصنوعی را می‌سازند، واقعاً احتمال می‌دهند این فناوری تا پایان دهه جاری موجب مرگ انسان‌ها شود. ایوان هوبینگر، مسئول علم هم‌ترازی در آنتروپیک، در واکنش، احتمال انقراض گسترده در دهه آینده را بیش از ۱۰ درصد دانست. پل کریستیانو، مقام حوزه ایمنی هوش مصنوعی که به‌تازگی به هیات‌مدیره بنیاد OpenAI پیوسته نیز هشدار داد بدون تدابیر ایمنی قوی‌تر، بیشتر مردم خواهند مرد.

OpenAI و آنتروپیک هر دو با نگرانی از توسعه بی‌ملاحظه هوش مصنوعی قدرتمند شکل گرفتند، اما شدت رقابت باعث شده است این شرکت‌ها در طول زمان کنارگذاشتن برخی تعهدات ایمنی پیشین خود را با استناد به فشار رقابتی توجیه کنند. در عین حال، بی‌اعتمادی شخصی میان مدیران شرکت‌ها و نگرانی از اینکه همکاری رسمی در حوزه ایمنی از منظر مقررات ضدانحصار تبانی تلقی شود، همکاری میان آزمایشگاه‌های پیشرو را دشوار کرده است.

عامل‌هایی که مستقل‌تر می‌شوند

نگرانی اصلی به سرعت افزایش استقلال سامانه‌های هوش مصنوعی بازمی‌گردد. عامل‌های هوش مصنوعی اکنون می‌توانند برای مدت طولانی‌تری به‌صورت مستقل فعالیت کنند، در قالب گروه یا ازدحام با یکدیگر هماهنگ شوند و قابلیت‌های پیچیده‌ای در هک نشان دهند. مدل‌ها همچنین در برخی مسائل علمی و ریاضی که دهه‌ها حل نشده بودند، به پیشرفت‌هایی دست یافته‌اند. هم‌زمان OpenAI و آنتروپیک در پی خودبهبوددهی بازگشتی هستند؛ فرایندی که در آن سامانه‌های هوش مصنوعی با دخالت هرچه کمتر انسان، خود را بهبود می‌دهند.

آزمایش‌ها رفتارهایی مانند فریب، طرح‌ریزی پنهانی و در مواردی باج‌گیری را نیز نشان داده‌اند و برخی ارزیابی‌ها حاکی از تلاش مدل‌ها برای جلوگیری از خاموش‌شدن بوده است. مسئله دیگر هک پاداش است؛ وضعیتی که در آن مدل برای دستیابی به هدف تعیین‌شده، راه‌هایی ناخواسته و خارج از انتظار طراح پیدا می‌کند. یکی از برجسته‌ترین نمونه‌ها در آزمایش یک مدل منتشرنشده OpenAI رخ داد. در این آزمایش، بیش از هزار عامل هوش مصنوعی برای تقلب در یک آزمون سایبری با یکدیگر هماهنگ شدند. آنها از طریق یک تابلوی پیام ارتباط برقرار کردند، وظایف را میان خود تقسیم کردند و حتی برخی عامل‌ها برای رسیدن مجموعه به هدف خود را قربانی کردند. سامانه‌ها برای پنهان‌کردن تقلب، سوابق را دستکاری کردند و مخزن مدل Hugging Face را هک کردند؛ آن هم در حالی که برخی عامل‌ها تشخیص داده بودند این رفتار غیراخلاقی است.

یوشوا بنجیو، از چهره‌های برجسته هوش مصنوعی، این اتفاق را متفاوت از یک شبیه‌سازی ساده می‌داند، زیرا سامانه برای رسیدن به هدف خود به یک شرکت واقعی حمله کرده بود. نگرانی او این است که نسل‌های توانمندتر چنین سامانه‌هایی ممکن است در آینده به این نتیجه برسند که برای دستیابی به اهدافشان باید انسان‌های ناظر را فریب دهند، از آنها پنهان شوند یا حتی کنترل را در دست بگیرند.

شکاف میان سرعت توسعه و ایمنی

نگرانی کارکنان شرکت‌های فناوری نیز افزایش یافته است. در دو ماه گذشته بیش از ۱۲۰۰ کارمند OpenAI، آنتروپیک، گوگل و متا از دولت آمریکا خواستند از هماهنگی بین‌المللی برای کاهش سرعت توسعه هوش مصنوعی حمایت کند. با این حال، برخلاف هشدارهای قبلی درباره خطرهای فاجعه‌بار، توسعه این فناوری کند نشده و شرکت‌های فناوری ده‌ها میلیارد دلار برای ساخت مدل‌های قدرتمندتر هزینه کرده‌اند.

OpenAI و آنتروپیک همچنین خود را برای عرضه‌های اولیه سهام بالقوه بزرگ آماده می‌کنند؛ وضعیتی که سرمایه‌گذاران را با پرسشی غیرمعمول روبه‌رو کرده است: شرکت‌هایی که خود اذعان می‌کنند فناوری‌شان می‌تواند خطر وجودی ایجاد کند، چگونه باید ارزش‌گذاری شوند؟

در سطح سیاسی نیز هنوز نشانه‌ای از مداخله گسترده دیده نمی‌شود. در مقابل، منتقدان می‌گویند شرکت‌های بزرگ خود از برجسته‌کردن خطر انقراض منفعت دارند؛ زیرا مقررات ایمنی پرهزینه می‌تواند ورود و فعالیت رقبای کوچک‌تر را دشوار و موقعیت شرکت‌های پیشرو را تثبیت کند. یک کارمند سابق آنتروپیک نیز معتقد است تمرکز بر  این مسئله ممکن است توجه را از خطری نزدیک‌تر منحرف کند: هرچه مدل‌ها قدرتمندتر شوند، قدرت در دست شمار محدودتری از بازیگران متمرکز می‌شود.

از حمله سایبری تا سلاح زیستی

سناریوهای فاجعه‌بار مطرح‌شده درباره هوش مصنوعی مسیرهای مختلفی دارند. یک سامانه سرکش با توانایی هک می‌تواند زیرساخت محاسباتی را تصرف و نسخه‌های خود را در مراکز مختلف تکثیر کند تا امکان خاموش‌کردنش از بین برود. چنین سامانه‌ای ممکن است برای حفظ خود به زیرساخت‌های انرژی، مالی و ارتباطی نیز دسترسی پیدا کند و منابع لازم برای مقاومت در برابر مداخله انسان را در اختیار بگیرد.

سناریوی دیگر به زیست‌شناسی مربوط است. نگرانی این است که هوش مصنوعی سطح دانش مورد نیاز برای طراحی سلاح‌های زیستی یا ویروس‌های خطرناک را کاهش دهد. آنتروپیک اعلام کرده فعالیت‌هایی را که بالقوه می‌توانست با استفاده از هوش مصنوعی به توسعه سلاح زیستی منجر شود، مسدود کرده است. در مرداد ماه امسال نیز پژوهشگران آمریکایی برای نخستین بار با استفاده از هوش مصنوعی ویروس‌هایی طراحی و ایجاد کردند که در طبیعت وجود نداشتند. البته تبدیل یک طراحی تولیدشده توسط هوش مصنوعی به سلاح همچنان به تجهیزات و تخصصی نیاز دارد که ممکن است در اختیار بسیاری از عوامل مخرب نباشد.

جنگ نیز یکی دیگر از سناریوهاست. سامانه‌های موجود توانایی جعل هویت افراد واقعی را نشان داده‌اند و در سناریوی بدبینانه می‌توان از این قابلیت برای فریب اپراتورهای انسانی، آغاز درگیری نظامی یا ایجاد ناآرامی‌های گسترده استفاده کرد.

با این حال، چگونگی دقیق نابودی بشر توسط یک هوش مصنوعی فوق‌بشری همچنان به‌شدت نامطمئن است و منتقدان معتقدند این هشدارها ممکن است زیان‌های احتمالی هوش مصنوعی را بزرگ‌نمایی و منافع آن را کم‌رنگ کنند. در مقابل، برخی پژوهشگران تأکید دارند که حتی بدون پذیرش سناریوی انقراض، روند کنونی خود نگران‌کننده است. از این منظر، مسئله اصلی تنها این نیست که آیا هوش مصنوعی بشر را نابود خواهد کرد یا نه؛ مسئله این است که فناوری‌ای با قدرت، استقلال و پیش‌بینی‌ناپذیری فزاینده، تحت شدیدترین فشارهای تجاری برای توسعه سریع‌تر در حال عرضه است، در حالی که سازوکارهای ایمنی و نظارتی ممکن است با همان سرعت پیشرفت نکنند.

اخبار برگزیدهدانش و فناوری