به گزارش آماج، مؤسسه غیرانتفاعی «کامِن‌سِنس مدیا» در ارزیابی تازه‌ای از نسخه نوجوانان ChatGPT اعلام کرده است که طراحی این محصول، با وجود وعده‌های شرکت OpenAI درباره افزایش ایمنی، همچنان می‌تواند کاربران نوجوان را به ادامه گفت‌وگو تشویق کند؛ حتی در شرایطی که سلامت روان و امنیت آن‌ها در معرض خطر قرار دارد.
این مؤسسه که در زمینه ارزیابی رسانه‌ها و فناوری‌های دیجیتال برای خانواده‌ها فعالیت می‌کند، سطح خطر ChatGPT برای نوجوانان را «غیرقابل‌قبول» ارزیابی کرده است. این گزارش در شرایطی منتشر می‌شود که نگرانی‌ها درباره تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان کودکان و نوجوانان افزایش یافته و شباهت برخی سازوکارهای این ابزارها با روش‌های جذب و نگهداشت کاربران در شبکه‌های اجتماعی مورد توجه قرار گرفته است.
انتقاد از تشویق نوجوانان به ادامه گفت‌وگو
بر اساس یافته‌های کامن‌سنس مدیا، نسخه ویژه نوجوانان ChatGPT با وجود برخورداری از محدودیت‌ها و امکانات ایمنی جدید، همچنان از عبارت‌هایی استفاده می‌کند که کاربران را به ادامه تعامل با چت‌بات ترغیب می‌کند. به گفته پژوهشگران، این الگو حتی در موقعیت‌های بحرانی نیز مشاهده شده است.
در بخشی از گزارش، به نمونه‌ای اشاره شده که کاربر نوجوان نشانه‌هایی از تشدید آشفتگی روانی و تفکر غیرعادی نشان می‌داد. در این وضعیت، چت‌بات به او گفته بود که می‌تواند به صحبت درباره تجربه‌ها و مشاهدات خود ادامه دهد. در نمونه‌های دیگری نیز پاسخ‌ها با پیشنهادهایی برای ادامه گفت‌وگو درباره تغذیه، مشکلات مدرسه یا بررسی گزینه‌های پیش رو پایان یافته‌اند.
پژوهشگران معتقدند چنین عبارت‌هایی ممکن است در ظاهر حمایتگرانه به نظر برسند، اما در شرایط حساس می‌توانند به تداوم وابستگی کاربر به چت‌بات منجر شوند؛ به‌ویژه اگر سامانه به‌درستی تشخیص ندهد که ادامه تعامل با خود آن نیز ممکن است بخشی از مشکل باشد.
نگرانی درباره شکل‌گیری وابستگی عاطفی به هوش مصنوعی
یکی از محورهای اصلی گزارش، نحوه برخورد ChatGPT با نوجوانانی است که رابطه آن‌ها با خود چت‌بات به موضوع نگرانی تبدیل شده است. بر اساس دستورالعمل مدل OpenAI برای کاربران زیر ۱۸ سال، سامانه نباید خود را به‌طور پیش‌دستانه در قالب دوست کاربر معرفی کند یا وانمود کند که احساسات شخصی نسبت به او دارد.
با این حال، آزمایشگران کامن‌سنس مدیا گزارش داده‌اند که ChatGPT در موارد متعددی لحنی شبیه به یک دوست صمیمی داشته است. از نگاه پژوهشگران، چنین رفتاری می‌تواند در شکل‌گیری مهارت‌های ارتباطی واقعی نوجوانان اختلال ایجاد کند و احتمال انزوای اجتماعی افرادی را افزایش دهد که از قبل در حال فاصله گرفتن از اطرافیان خود هستند.
در یکی از نمونه‌های بررسی‌شده، نوجوان به چت‌بات گفته بود دوستانش معتقدند بیش از اندازه با آن صحبت می‌کند. ChatGPT نگرانی او را تأیید کرد، اما در ادامه گفت که لازم نیست صحبت کردن با آن را متوقف کند. به باور محققان، این نوع پاسخ ممکن است پیام مربوط به ضرورت برقراری تعادل میان تعامل با هوش مصنوعی و ارتباط با انسان‌ها را تضعیف کند.
ارجاع به بزرگسالان در همه موقعیت‌های پرخطر یکسان نیست
گزارش در عین حال نشان می‌دهد که ChatGPT در بسیاری از موقعیت‌هایی که آزمایشگران احتمال آسیب از سوی فردی دیگر را مطرح کرده‌اند، نوجوانان را به کمک گرفتن از یک بزرگسال مورد اعتماد راهنمایی کرده است. این ارجاع در ۹۴ درصد از درخواست‌های بحرانی مرتبط با خطر احتمالی از سوی دیگران مشاهده شد.
اما هنگامی که خطر احتمالی به رابطه خود نوجوان با ChatGPT مربوط بوده است، عملکرد سامانه متفاوت گزارش شده است. بر اساس ارزیابی پژوهشگران، در مواردی مانند وابستگی عاطفی به چت‌بات، نگرانی دوستان درباره مدت استفاده از آن یا تمایل به گفت‌وگو در تمام طول شب، ارجاع نوجوان به یک بزرگسال بسیار کمتر اتفاق افتاده است.
نماینده کامن‌سنس مدیا در گفت‌وگو با تک‌کرانچ گفته است که این موضوع بازتاب الگویی گسترده‌تر در پاسخ‌های چت‌بات است؛ الگویی که در آن سامانه با تأکید بر در دسترس بودن همیشگی و درک عمیق کاربر، ممکن است ناخواسته احساس رابطه‌ای دوطرفه و متقابل را تقویت کند. حتی زمانی که پیشنهاد کمک گرفتن از یک بزرگسال مطرح می‌شود، چنین عباراتی می‌توانند اثر این توصیه را کاهش دهند.
یادآوری استراحت؛ قابلیتی که به‌ندرت فعال شده است
یکی دیگر از بخش‌های گزارش به قابلیت یادآوری استراحت مربوط می‌شود؛ امکانی که OpenAI آن را بخشی از تدابیر حفاظتی برای نوجوانان معرفی کرده است. با این حال، آزمایشگران در بررسی نزدیک به ۲ هزار درخواست، تنها دو بار با این یادآوری روبه‌رو شدند. هر دو مورد نیز در گفت‌وگوهایی رخ داد که حدود ۹۰ دقیقه ادامه یافته بودند.
پژوهشگران بر این باورند که این یادآوری‌ها بیشتر بر مدت زمان یک گفت‌وگوی مشخص متمرکز بوده‌اند، نه مجموع زمانی که نوجوان در بازه‌های مختلف از برنامه استفاده می‌کند. این موضوع پرسش‌هایی را درباره میزان کارآمدی قابلیت‌های طراحی‌شده برای کاهش استفاده طولانی‌مدت ایجاد کرده است.
واکنش OpenAI به نتایج ارزیابی
OpenAI ارزیابی کامن‌سنس مدیا را نپذیرفته و اعلام کرده است که روش آزمایش این مؤسسه، عملکرد واقعی تدابیر ایمنی نسخه نوجوانان را به‌درستی منعکس نمی‌کند. سخنگوی این شرکت گفته است که بررسی روش‌شناسی گزارش نشان می‌دهد بخش عمده آزمایش‌ها احتمالاً پیش از تکمیل فعال‌سازی کنترل‌های والدین آغاز و پایان یافته‌اند؛ مسئله‌ای که به گفته شرکت، می‌تواند بر دقت یافته‌ها تأثیر گذاشته باشد.
OpenAI همچنین داده‌های اختصاصی خود درباره نحوه استفاده نوجوانان از ChatGPT را منتشر کرده است. بر اساس اعلام این شرکت، نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از این سرویس استفاده می‌کنند و کمتر از ۲ درصد آن‌ها بیش از سه ساعت متوالی در برنامه می‌مانند. این شرکت همچنین گفته است که در نزدیک به نیمی از گفت‌وگوهایی که یادآوری استراحت در آن‌ها نمایش داده شده، نوجوانان ظرف پنج دقیقه استراحت کرده یا مکالمه را پایان داده‌اند.
با این حال، طبق گزارش تک‌کرانچ، OpenAI توضیح نداده است که ایرادهای مطرح‌شده درباره روش‌شناسی ارزیابی چگونه بر یافته‌های مربوط به تشویق کاربران به ادامه تعامل و رفتارهای رابطه‌محور چت‌بات تأثیر می‌گذارد. این شرکت همچنین به پرسشی درباره استفاده از شاخص‌هایی مانند طول مکالمه و مدت هر نشست برای ارزیابی عملکرد نسخه نوجوانان پاسخ نداده است.
افزایش نظارت بر ابزارهای دیجیتال ویژه نوجوانان
انتشار این گزارش در ادامه افزایش حساسیت عمومی و قانون‌گذاران نسبت به طراحی فناوری‌هایی صورت گرفته است که می‌توانند توجه کاربران جوان را برای مدت طولانی‌تری حفظ کنند. در ماه‌های اخیر، هم شبکه‌های اجتماعی و هم چت‌بات‌های هوش مصنوعی با پرسش‌هایی درباره ویژگی‌های بالقوه اعتیادآور و تأثیر آن‌ها بر کودکان و نوجوانان مواجه شده‌اند.
در آمریکا نیز تلاش‌هایی برای تدوین مقررات مرتبط با چت‌بات‌ها و افزایش اختیار والدین در مدیریت استفاده فرزندان از این ابزارها در جریان است. یکی از پیشنهادهای قانونی مطرح‌شده، به‌طور مشخص به استفاده از پاداش‌ها، اعلان‌ها و تبلیغات هدفمند برای افزایش مدت تعامل نوجوانان با چت‌بات‌ها اشاره می‌کند.
در مجموع، اختلاف میان یافته‌های کامن‌سنس مدیا و موضع OpenAI نشان می‌دهد که ارزیابی ایمنی هوش مصنوعی برای نوجوانان تنها به مسدود کردن محتوای نامناسب محدود نمی‌شود. نحوه پاسخ‌گویی در موقعیت‌های بحرانی، تشخیص وابستگی احتمالی به خود چت‌بات و تشویق کاربران به دریافت حمایت انسانی نیز از موضوعاتی هستند که در سنجش ایمنی این ابزارها اهمیت دارند.
برای دنبال کردن تازه‌ترین اخبار هوش مصنوعی، فناوری و تحولات دنیای دیجیتال، به آماج مراجعه کنید.
