به گزارش آماج، اورزولا فون در لاین، رئیس کمیسیون اروپا، از ایده کاهش شتاب توسعه هوش مصنوعی حمایت کرده و گفته است اگر برخی از سازندگان پیشرفتهترین مدلهای هوش مصنوعی به ضرورت کاهش سرعت پیشرفت این فناوری رسیدهاند، قانونگذاران نیز باید برای مدیریت این روند با صنعت همراه شوند.
فون در لاین این موضع را در سخنرانی خود در کنفرانس «وضعیت اتحادیه» مطرح کرد و گفت اتحادیه اروپا قصد دارد با آزمایشگاههای بزرگ هوش مصنوعی وارد گفتوگو شود تا بررسی کند نهادهای عمومی چگونه میتوانند از تلاشهای صنعت برای مدیریت سرعت توسعه این فناوری پشتیبانی کنند.
اروپا به دنبال گفتوگو با آزمایشگاههای هوش مصنوعی
رئیس کمیسیون اروپا با اشاره به اظهارات مدیران شرکتهای پیشرو در حوزه هوش مصنوعی گفت برخی از آنها معتقدند زمان آن رسیده است که سرعت توسعه مدلهای «خودبهبود» یا RSI کاهش پیدا کند. این مدلها بهطور بالقوه میتوانند بخشی از فرایند اصلاح، آموزش مجدد و بهبود کدهای خود را با دخالت انسانی محدود انجام دهند.
فون در لاین با تأکید بر اهمیت این موضوع گفت اگر توسعهدهندگان به چنین نتیجهای رسیدهاند، نهادهای قانونگذار نیز باید این مسئله را جدی بگیرند. با این حال، او زمان مشخصی برای آغاز این گفتوگوها اعلام نکرد و نام شرکتهایی را که قرار است در این فرایند مشارکت کنند نیز مشخص نکرد.
چه کسانی خواستار کاهش سرعت توسعه هوش مصنوعی شدهاند؟
بحث درباره کاهش سرعت توسعه هوش مصنوعی پیش از این نیز از سوی برخی مدیران صنعت مطرح شده بود. داریو آمودی، مدیرعامل شرکت Anthropic، اخیراً خواستار کاهش سرعت ارتقای قابلیتهای مدلهای هوش مصنوعی از سوی آزمایشگاههای رقیب شده بود.
او همچنین پیشنهاد کرده بود ارزیابی مدلها با مشارکت نهادهای شخص ثالث انجام شود و برای ایجاد امکان هماهنگی میان شرکتها، موضوع معافیتهای ضدانحصاری نیز مورد بررسی قرار گیرد. سم آلتمن و ایلان ماسک نیز در همان مقطع از این رویکرد حمایت کردند.
در مقابل، برخی چهرههای برجسته فناوری از جمله مارک زاکربرگ، مدیرعامل متا، و جنسن هوانگ، مدیرعامل انویدیا، با ایده کاهش سرعت توسعه یا افزایش محدودیتهای جدید برای صنعت هوش مصنوعی مخالفت کردهاند. دونالد ترامپ نیز درباره شدت خطرات هوش مصنوعی موضع متفاوتی داشته است.
هشدار اروپا درباره تهدیدهای امنیت سایبری
فون در لاین یکی از نگرانیهای اصلی درباره مدلهای پیشرفته هوش مصنوعی را امنیت سایبری دانست. به گفته او، مدلهای پیشگام و فرامرزی میتوانند در صورت استفاده مخرب، ظرفیت انجام حملات سایبری در مقیاس بسیار گسترده را ایجاد کنند و احتمال دارد چنین ابزارهایی در آینده در اختیار گروههای متخاصم قرار بگیرند.
او همچنین به نمونههایی از رفتارهای غیرمنتظره ایجنتهای هوش مصنوعی در محیطهای آزمایشی اشاره کرد؛ از جمله مواردی که در آنها ایجنتها تلاش کردهاند از محدودیتهای محیط آزمایش عبور کنند و با سامانههای دیگر تعامل داشته باشند.
در یکی از نمونههای مطرحشده، به یک رخداد امنیتی مرتبط با پلتفرم Hugging Face اشاره شد که در جریان آن، ایجنتهای مورد ارزیابی در محیط شرکت OpenAI از برخی محدودیتهای امنیتی عبور کرده و به زیرساخت این پلتفرم آسیب زدهاند.
همکاری اروپا با کانادا و بریتانیا برای ایمنی هوش مصنوعی
رئیس کمیسیون اروپا همچنین اعلام کرد اتحادیه اروپا قصد دارد برای ارزیابی مدلهای هوش مصنوعی، راستیآزمایی، ایجاد سازوکارهای هشدار زودهنگام و افزایش ایمنی این فناوری با متحدان خود همکاری کند.
کانادا، بریتانیا و سایر شرکا از جمله طرفهایی هستند که فون در لاین به همکاری با آنها اشاره کرده است. هدف این همکاری، ایجاد سازوکارهایی برای شناسایی و مدیریت ریسکهای مدلهای پیشرفته عنوان شده است.
اظهارات فون در لاین نشان میدهد بحث درباره سرعت توسعه هوش مصنوعی وارد مرحلهای شده که علاوه بر شرکتهای فناوری، قانونگذاران و نهادهای دولتی نیز درباره نحوه مدیریت ریسکهای احتمالی آن اظهارنظر میکنند. با این حال، اینکه چنین گفتوگوهایی به چه نوع مقررات یا محدودیتهایی منجر خواهد شد، هنوز مشخص نیست.
برای دنبال کردن تازهترین اخبار فناوری، هوش مصنوعی و تحولات صنعت دیجیتال، به آماج مراجعه کنید.
