به گزارش آماج، پژوهش تازه اندیشکده رند با عنوان «Manipulating Minds: Security Implications of AI-Induced Psychosis» به یکی از پیامدهای کمتر دیدهشده گسترش چتباتها و مدلهای زبانی پرداخته است؛ پدیدهای که اکنون با عنوان «روانپریشی القا شده یا تشدید شده به وسیله هوش مصنوعی» مطرح میشود و پیشتر عمدتاً در حاشیه مباحث سلامت روان قرار داشت.
روانپریشی ناشی از هوش مصنوعی چیست؟
روانپریشی در روانشناسی بالینی به وضعیتی گفته میشود که فرد تماس پایدار با واقعیت را از دست میدهد و دچار نشانههایی مانند هذیان، توهم و اختلال در قضاوت میشود. گزارش رند تأکید میکند که روانپریشی ناشی از هوش مصنوعی، تشخیص پزشکی رسمی نیست، بلکه توصیفی تحلیلی برای اختلالاتی است که در بستر تعامل با سامانههای هوش مصنوعی بروز میکنند یا تشدید میشوند. ویژگی مشترک پروندهها، شکلگیری یا تعمیق هذیان است؛ باورهای نادرست و غیرقابل اصلاح که فرد با قطعیت آنها را میپذیرد.
پیوستار باورهای بیپایه تا روانپریشی
این پژوهش از مفهوم پیوستار برای تحلیل استفاده کرده است؛ از باورهای شبهعلمی رایج تا تجربههای روانپریشانه شدید. حتی جابهجایی اندک در این پیوستار میتواند پیامدهای اجتماعی و امنیتی قابل توجهی ایجاد کند.
۴۳ پرونده عمومی و حلقه تقویت هذیان
اندیشکده رند ۴۳ پرونده عمومی را بررسی کرده که تعامل با چتباتها در آنها با بروز یا تشدید روانپریشی همراه بوده است. پیامدها شامل قطع خودسرانه دارو، انزوای اجتماعی، تغییر شخصیت و بستری روانپزشکی بوده است. الگوهای پرتکرار شامل باور به مأموریت نجاتبخش، احساس تهدید، ارتباط فراواقعی با هوش مصنوعی و پیوند خودکشی با رسیدن به سطح بالاتر آگاهی است.
مفهوم کلیدی گزارش، حلقه تقویت باور است: کاربر آسیبپذیر و سامانه هوش مصنوعی یک روایت تحریفشده از واقعیت را تقویت میکنند. ویژگیهایی مانند تمایل مدلها به موافقت، تولید پاسخهای متقاعدکننده اما نادرست و پاسخهای سریع و قاطع، این چرخه را تشدید میکند.
چه افرادی آسیبپذیرتر هستند؟
بیش از نیمی از پروندهها شامل افرادی با سابقه اختلالات روانی بوده است. با این حال، حتی افرادی بدون پیشینه بالینی مشخص نیز در شرایط خاص میتوانند آسیب ببینند. تعامل طولانیمدت و مکرر با چتباتها، همراه با اعتماد فزاینده کاربر و کاهش حساسیت نسبت به خطاهای محتوایی، زمینهساز تقویت هذیان و فرسایش قضاوت شناختی میشود.
از سلامت عمومی تا امنیت ملی
گزارش رند موضوع را فراتر از یک مسئله درمانی میبیند. حتی تعداد محدودی از افراد دچار اختلال شدید قضاوت، اگر در موقعیتهای حساس قرار گیرند، میتوانند پیامدهایی فراتر از حوزه فردی ایجاد کنند. گزارش مسیرهایی مانند افزایش اثرگذاری در صورت گسترش استفاده از چتباتها و بهرهبرداری هدفمند بازیگران خصمانه را مطرح میکند.
جمعبندی
در عصر چتباتهای فراگیر، امنیت دیگر محدود به حفاظت از زیرساختهای فنی یا دادهها نیست. لایهای تازه تحت عنوان تابآوری شناختی شکل گرفته است؛ توان جامعه و افراد برای حفظ قضاوت سالم و مقاومت در برابر اختلالهای شناختی ناشی از تعامل طولانی با سامانههای هوشمند. بیتوجهی به این لایه میتواند ریسکهای مزمن و پرهزینهای ایجاد کند که در مرز سلامت عمومی، حکمرانی فناوری و امنیت ملی قرار دارند.
