به گزارش آماج، داده‌های تازه شرکت آنتروپیک نشان می‌دهد که هوش مصنوعی به‌تدریج نقش پررنگ‌تری در پژوهش و توسعه نسل‌های بعدی خود ایفا می‌کند؛ روندی که نگرانی‌ها درباره آینده این فناوری و امکان خارج شدن آن از کنترل انسان را افزایش داده است.
خودبه‌سازی بازگشتی؛ چرخه‌ای برای پیشرفت سریع‌تر هوش مصنوعی
پژوهشگران فناوری شواهد اولیه‌ای از پدیده‌ای با عنوان «خودبه‌سازی بازگشتی» (Recursive Self-Improvement) شناسایی کرده‌اند. در این فرآیند، سامانه‌های هوش مصنوعی می‌توانند در طراحی، توسعه و بهینه‌سازی نسخه‌های پیشرفته‌تر خود مشارکت کنند.
آنتروپیک از این روند با عنوان «بستن چرخه» یاد می‌کند؛ وضعیتی که در آن هر مرحله از بهبود سامانه‌ها می‌تواند سرعت پیشرفت مرحله بعدی را افزایش دهد و چرخه‌ای شتابان از توسعه هوش مصنوعی به وجود آورد.
افزایش سهم هوش مصنوعی در هدایت پروژه‌های تحقیقاتی
داده‌های آنتروپیک بر پایه بررسی پیام‌ها و اسناد داخلی مرتبط با ۱۵ هزار وظیفه کاری به دست آمده است. سامانه‌های مبتنی بر مدل Claude در این بررسی، میزان مشارکت و نقش خود را در فعالیت‌های تحقیق و توسعه ارزیابی کردند.
بر اساس یک رتبه‌بندی شش‌سطحی، مدل‌های هوش مصنوعی در ابتدای سال جاری میلادی تنها هدایت حدود یک درصد از فعالیت‌های تحقیقاتی را بر عهده داشتند. این سهم در ماه اوت، در پروژه‌هایی که با نظارت انسان هدایت می‌شدند، به ۲۶ درصد رسید.
با وجود این رشد قابل توجه، هنوز هیچ پروژه‌ای به‌طور کامل و بدون دخالت انسان انجام نشده است. به بیان دیگر، هوش مصنوعی در حال پذیرفتن مسئولیت‌های بیشتری در فرآیند توسعه است، اما نظارت انسانی همچنان بخشی از این روند محسوب می‌شود.
هشدار مدیرعامل آنتروپیک درباره خطر از دست رفتن کنترل
داریو آمودی، مدیرعامل آنتروپیک، درباره پیامدهای احتمالی شتاب گرفتن این روند هشدار داده است. او معتقد است اگر فرآیند خودبه‌سازی بدون بررسی و نظارت کافی ادامه پیدا کند، ممکن است توانایی انسان برای درک و کنترل سامانه‌های هوش مصنوعی تحت تأثیر قرار بگیرد.
آمودی تأکید کرده است که توسعه چنین فناوری‌هایی باید با نهایت احتیاط دنبال شود تا پیشرفت سامانه‌ها از ظرفیت نظارتی و کنترلی انسان فراتر نرود.
آیا خودبه‌سازی کامل هوش مصنوعی تا سال ۲۰۲۷ محقق می‌شود؟
برآوردها درباره زمان دستیابی به سامانه‌های خودبه‌ساز بازگشتی در حال تغییر است. پیش‌تر برخی پژوهشگران احتمال می‌دادند این تحول تا پایان سال ۲۰۲۸ محقق شود، اما سرعت گرفتن پیشرفت‌ها در محیط‌های آزمایشگاهی باعث شده است برخی پیش‌بینی‌ها به زمان نزدیک‌تری اشاره کنند.
جک کلارک، هم‌بنیان‌گذار آنتروپیک، می‌گوید مدت‌ها درباره احتمال ظهور سامانه‌هایی هشدار داده که می‌توانند امنیت ملی، اقتصاد جهانی و حتی توانایی ساخت و توسعه نسل‌های بعدی خود را تحت تأثیر قرار دهند. از نگاه او، این تحولات دیگر صرفاً موضوعی علمی‌تخیلی نیستند.
کلارک با اشاره به واگذاری بخش‌هایی از فرآیند کدنویسی به مدل‌های هوش مصنوعی از سوی مهندسان، پیش‌بینی کرده است که خودبه‌سازی کامل ممکن است تا سال ۲۰۲۷ محقق شود.
چرا این روند اهمیت دارد؟
افزایش مشارکت هوش مصنوعی در توسعه نسل‌های بعدی خود می‌تواند سرعت پیشرفت فناوری را به شکل چشمگیری افزایش دهد؛ اما هم‌زمان پرسش‌های مهمی درباره نظارت انسانی، ایمنی و کنترل این سامانه‌ها مطرح می‌کند. هنوز مشخص نیست خودبه‌سازی کامل دقیقاً چه زمانی و با چه محدودیت‌هایی امکان‌پذیر خواهد شد، اما داده‌های منتشرشده از سوی آنتروپیک نشان می‌دهد این موضوع به یکی از دغدغه‌های جدی صنعت هوش مصنوعی تبدیل شده است.
برای دنبال کردن تازه‌ترین خبرها و تحلیل‌های فناوری و هوش مصنوعی، آماج را دنبال کنید.
