به گزارش آماج، سم آلتمن، مدیرعامل اوپن‌ای‌آی، معتقد است مزایای گسترده هوش مصنوعی می‌تواند آن‌قدر بزرگ باشد که جامعه جهانی ناچار شود برخی پیامدهای منفی و آسیب‌های جانبی این فناوری، از جمله افزایش هک و کلاهبرداری‌های سایبری، را در مسیر توسعه آن بپذیرد.
آلتمن این دیدگاه را در گفت‌وگویی با پادکست «دیکودد» رسانه پولیتیکو مطرح کرده و هم‌زمان بر ضرورت رویکردی متعادل‌تر در تنظیم‌گری هوش مصنوعی تأکید کرده است. اظهارات او در شرایطی مطرح می‌شود که نگرانی‌ها درباره امنیت مدل‌های پیشرفته و کنترل سیستم‌های خودکار در حال افزایش است.
آلتمن: نباید به بهانه ایمنی، هوش مصنوعی را بیش از حد محدود کرد
مدیرعامل اوپن‌ای‌آی بر این باور است که دستیابی به دستاوردهای بزرگ در حوزه هوش مصنوعی ممکن است با هزینه‌هایی همراه باشد. از نگاه او، برخی تهدیدها و خسارت‌های جانبی را نمی‌توان به‌طور کامل حذف کرد و باید آنها را در برابر مزایای احتمالی این فناوری سنجید.
آلتمن همچنین نسبت به وضع قوانینی که بتواند توسعه هوش مصنوعی را بیش از اندازه محدود کند، هشدار داده است. او معتقد است تمرکز بیش از حد قدرت و فناوری در دست تعداد محدودی از شرکت‌ها، افراد یا حتی یک کشور می‌تواند پیامدهای خطرناک‌تری داشته باشد.
او در این گفت‌وگو گفت: «اگر به نام ایمنی دست به محدودسازی افراطی این فناوری بزنیم و کار به جایی برسد که قدرت تنها در اختیار گروهی اندک از شرکت‌ها، افراد یا یک کشور مشخص قرار بگیرد، با فاجعه‌ای تمام‌عیار روبه‌رو خواهیم شد.»
تفاوت رویکرد اوپن‌ای‌آی و آنتروپیک
موضع اخیر آلتمن از تفاوت دیدگاه میان اوپن‌ای‌آی و آنتروپیک درباره نحوه مدیریت خطرات هوش مصنوعی حکایت دارد. آنتروپیک که شماری از کارکنان سابق اوپن‌ای‌آی در شکل‌گیری آن نقش داشتند، تمرکز بیشتری بر ایمنی و کنترل ریسک‌های مدل‌های پیشرفته دارد.
آلتمن در مقابل، اوپن‌ای‌آی را رویکردی میانه و عمل‌گرا توصیف می‌کند؛ رویکردی که به گفته او میان احتیاط شدید درباره خطرات هوش مصنوعی و آزادی عمل گسترده برای توسعه این فناوری قرار می‌گیرد.
این اختلاف دیدگاه در حالی پررنگ‌تر شده که شرکت‌های بزرگ هوش مصنوعی هم‌زمان با توسعه مدل‌های قدرتمندتر، با فشار بیشتری از سوی قانون‌گذاران و افکار عمومی برای کنترل خطرات احتمالی مواجه هستند.
هشدار درباره احتمال از دست رفتن کنترل انسان
با وجود دفاع آلتمن از تنظیم‌گری سبک‌تر، او احتمال از دست رفتن کنترل انسان بر سیستم‌های خودمختار را نیز به‌طور کامل رد نکرده است. به گفته او، چنین سناریویی می‌تواند بسیار خطرناک باشد و باید درباره نحوه مواجهه با آن با دقت بیشتری فکر کرد.
این موضع نشان می‌دهد بحث درباره آینده هوش مصنوعی صرفاً به میزان سرعت توسعه فناوری محدود نیست و موضوعاتی مانند امنیت، تمرکز قدرت، نظارت و نحوه کنترل سیستم‌های خودمختار نیز در مرکز توجه قرار دارند.
بحث درباره هزینه‌های توسعه هوش مصنوعی
دیدگاه آلتمن تا حدی با اظهارات اخیر جنسن هوانگ، مدیرعامل انویدیا، هم‌راستا دانسته شده است. هوانگ نیز بر ضرورت سنجش آسیب‌های احتمالی هوش مصنوعی در برابر مزایای گسترده این فناوری تأکید کرده بود.
در مقابل، منتقدان رویکرد شتاب‌گرایانه معتقدند سرعت توسعه نباید باعث شود خطرات امنیتی و اجتماعی فناوری نادیده گرفته شود. از همین رو، پیدا کردن نقطه تعادل میان نوآوری، آزادی توسعه و نظارت ایمنی به یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی تبدیل شده است.
این بحث در اوپن‌ای‌آی نیز با انتقادهایی درباره نحوه مدیریت ریسک همراه بوده است. بر اساس گزارش منبع، دیوید رابینسون، پژوهشگر باسابقه حوزه ایمنی، چند روز پیش از انتشار این گفت‌وگو از اوپن‌ای‌آی جدا شد و از آنچه فرهنگ نامناسب مدیریت خطرات در این شرکت می‌دانست، انتقاد کرد.
در نهایت، اظهارات آلتمن بار دیگر این پرسش را مطرح می‌کند که در مسیر توسعه سریع هوش مصنوعی، چه میزان از ریسک قابل پذیرش است و چه خطراتی باید پیش از گسترش بیشتر این فناوری مهار شوند. پاسخ به این پرسش همچنان یکی از مهم‌ترین موضوعات مورد بحث میان شرکت‌های فناوری، پژوهشگران و قانون‌گذاران است.
برای دنبال کردن تازه‌ترین اخبار و تحلیل‌های فناوری و هوش مصنوعی، به آماج مراجعه کنید.
