به گزارش آماج، شاید تصور کنیم هوش مصنوعی فقط از زبان انسانها تقلید میکند، اما پژوهشهای جدید تصویری متفاوت ارائه میدهند: انسانها نیز ممکن است در اثر تعامل مداوم با چتباتها، بهتدریج برخی واژهها و الگوهای زبانی آنها را وارد گفتار خود کنند. حتی یک آزمایش نشان داده است که یک گفتوگوی کوتاه با چتبات میتواند انتخاب واژه افراد را در ادامه تغییر دهد.
این موضوع فراتر از چند کلمه خاص است. پژوهشگران اکنون این پرسش را مطرح میکنند که آیا تعامل روزمره با سیستمهای هوش مصنوعی میتواند در بلندمدت بر نحوه بیان، رفتار و حتی تصویری که از خودمان داریم اثر بگذارد یا خیر.
چرا بعضی کلمات ChatGPT وارد زبان روزمره شدهاند؟
مدلهای زبانی گاهی تمایل غیرمعمولی به استفاده از برخی واژههای رسمی یا کمتر رایج دارند. کلماتی مانند delve به معنای «کاوش کردن»، intricacies به معنای «پیچیدگیها» و meticulous به معنای «موشکافانه» از جمله واژههایی هستند که در نسخههای اولیه برخی مدلهای GPT با فراوانی قابلتوجهی دیده میشدند.
موضوع جالب اینجاست که افزایش استفاده از این واژهها فقط در متنهای تولیدشده یا ویرایششده با هوش مصنوعی مشاهده نشده است. برخی پژوهشگران با بررسی گفتار خودانگیخته در پادکستها دریافتند که بعضی از واژههای محبوب مدلهای زبانی، پس از عمومی شدن ChatGPT در گفتار انسانها نیز بیشتر ظاهر شدهاند.
«انسانیت رباتگونه» چیست؟
سه پژوهشگر از دانشگاههای لینائوس، آرهوس و بیرمنگام برای توصیف احتمال تغییر تدریجی رفتار انسان در اثر تعامل با هوش مصنوعی، مفهوم «انسانیت رباتگونه» یا Robotoid humanness را مطرح کردهاند.
این مفهوم به معنای تبدیل شدن انسانها به ربات نیست؛ بلکه به فرایندی اشاره دارد که در آن انسانها ممکن است بهصورت تدریجی برخی الگوهای ارتباطی و رفتاری سیستمهای هوشمند را جذب کنند.
هوش مصنوعی از تعاملات ما داده جمعآوری میکند، الگوهای رفتاری و ترجیحاتمان را تشخیص میدهد و سپس بر اساس آنها پاسخهای شخصیسازیشده ارائه میکند. در نتیجه، تصویری آماری از کاربر ساخته میشود و همان تصویر در قالب پاسخها و پیشنهادهای بعدی دوباره به خود او بازمیگردد.
وقتی الگوریتم به آینهای برای انسان تبدیل میشود
ارتباط میان انسانها همیشه دقیق، منظم و قابل پیشبینی نیست. ما ممکن است جملهای را نیمهکاره رها کنیم، وسط صحبت نظرمان را تغییر دهیم، شوخی کنیم یا چیزی بگوییم که فقط یک دوست نزدیک با توجه به شناخت قبلی از ما معنای واقعی آن را متوجه شود.
سیستمهای هوش مصنوعی اما برای پیشبینی بهتر رفتار ما، دادهها و الگوهای قابلاندازهگیری را کنار هم قرار میدهند. هرچه تعامل با یک سیستم بیشتر شود، مدل میتواند تصویر دقیقتری از الگوهای رفتاری کاربر بسازد.
مشکل احتمالی زمانی آغاز میشود که این تصویر آماری فقط برای پیشبینی رفتار استفاده نشود، بلکه بهطور غیرمستقیم بر رفتار آینده فرد نیز اثر بگذارد. اگر کاربر مرتب همان تصویری را از خود در پاسخهای سیستم ببیند، ممکن است بدون تصمیم آگاهانه، رفتار یا گفتارش را تا حدی با آن هماهنگ کند.
البته پژوهشگران تأکید دارند که این روند هنوز یک فرضیه است و مقاله مربوط به «انسانیت رباتگونه» بهتنهایی ثابت نمیکند که تعامل طولانیمدت با هوش مصنوعی حتماً هویت انسان را تغییر میدهد.
ردپای ChatGPT در بیش از ۷۳۷ هزار ساعت گفتوگو
یکی از شواهد جالب درباره تأثیر زبانی هوش مصنوعی، بررسی گسترده پادکستهای انگلیسیزبان است. پژوهشگران مؤسسه توسعه انسانی ماکس پلانک و چند مرکز دانشگاهی دیگر ابتدا بیش از ۱.۴ میلیون اپیزود پادکست را بررسی کردند و پس از حذف برنامههایی که از روی متن آماده خوانده میشدند، به ۸۲۴ هزار و ۶۳۴ اپیزود و بیش از ۷۳۷ هزار ساعت گفتار خودانگیخته رسیدند.
پژوهشگران سپس واژههایی را که مدلهای GPT در ویرایش متن نسبت به نویسندگان انسانی بیشتر به کار میبردند شناسایی کردند و تغییر فراوانی آنها را در گفتار انسانها مورد بررسی قرار دادند.
یکی از برجستهترین نمونهها واژه delve بود. حدود ۱۳ تا ۱۸ ماه پس از عرضه عمومی ChatGPT، استفاده از این واژه در پادکستهای علمی و فناوری حدود ۴۴ درصد بیشتر از روند مورد انتظار افزایش یافت. در پادکستهای آموزشی و تجاری نیز افزایش استفاده از آن مشاهده شد، اما چنین الگویی در برنامههای ورزشی دیده نشد.
بررسی بیش از ۳۵۰۰ ریشه واژگانی نیز نشان داد هرچه یک واژه در خروجیهای GPT برجستهتر باشد، احتمال افزایش استفاده از آن در گفتار انسانها بیشتر میشود. از میان ۳۶ واژهای که بیشترین ارتباط را با ترجیحات زبانی GPT داشتند، کاربرد ۲۸ مورد پس از انتشار ChatGPT افزایش پیدا کرد.
چرا بعضی واژههای ماشینی دوباره ناپدید شدند؟
جالب است که اثر هوش مصنوعی روی زبان لزوماً دائمی نیست. استفاده از واژه delve در اواسط سال ۲۰۲۴ در برخی دستههای پادکست کاهش یافت. پژوهشگران دو احتمال را برای این تغییر مطرح کردهاند: نخست، انتشار GPT-4o که تمایل کمتری به استفاده از این واژه داشت و دوم، اینکه کاربران بهتدریج متوجه شده بودند delve یکی از نشانههای رایج متنهای تولیدشده با هوش مصنوعی است.
در مقابل، واژههایی که کمتر بهعنوان «امضای ChatGPT» شناخته میشدند، مانند boast و meticulous، مدت بیشتری در گفتار انسانها باقی ماندند.
یک آزمایش چنددقیقهای، اثر هوش مصنوعی را آشکار کرد
برای بررسی مستقیمتر این پدیده، پژوهشگران آزمایشی با حضور ۴۹۶ نفر انجام دادند. شرکتکنندگان ابتدا با یک چتبات در یک بازی تشخیص تصویر تعامل داشتند. چتبات عمداً برای توصیف اشیا یکی از دو واژه هممعنی را انتخاب میکرد؛ برای مثال، بهجای cup از mug استفاده میکرد.
شرکتکنندگان در جریان آزمایش نمیدانستند انتخاب واژهها بخشی از طراحی پژوهش است. نتیجه قابلتوجه بود: در جریان تعامل، افراد در ۶۱ درصد موارد همان واژهای را به کار بردند که چتبات پیش از آنها استفاده کرده بود؛ در حالی که واژه جایگزین فقط در ۱۷ درصد موارد انتخاب شد.
اما آزمایش اصلی پس از پایان گفتوگو انجام شد. شرکتکنندگان سه دقیقه به حل محاسبات و معماهای تصویری پرداختند و سپس تصاویر جدیدی را بدون حضور چتبات برای یک انسان فرضی توصیف کردند.
حتی پس از این فاصله کوتاه، افراد در ۵۸ درصد موارد همچنان همان واژهای را انتخاب کردند که پیشتر از چتبات شنیده بودند.
اثر انتخاب واژه حتی پس از پایان مکالمه باقی ماند
در مرحله نهایی، شرکتکنندگان برای ۹ تصویر باید مستقیماً میان دو واژه هممعنی انتخاب میکردند. این بار ۶۳ درصد انتخابها به واژهای اختصاص داشت که پیشتر چتبات معرفی کرده بود.
نکته مهم این بود که بیشتر شرکتکنندگان ظاهراً از این تأثیر آگاه نبودند. تنها ۱۵ نفر از ۴۹۶ شرکتکننده متوجه شده بودند که چتبات در انتخاب واژهها الگوی خاصی دارد.
این یافته نشان میدهد تقلید زبانی از هوش مصنوعی میتواند بسیار سریع و ناخودآگاه رخ دهد؛ هرچند هنوز مشخص نیست چنین اثری در صورت تعامل طولانیمدت چقدر دوام خواهد داشت.
انسانها با چتباتها هم مانند انسانهای دیگر هماهنگ میشوند
تقلید از شیوه حرف زدن طرف مقابل پدیده تازهای نیست. انسانها هنگام گفتوگو با دیگران معمولاً بهصورت ناخودآگاه برخی واژهها، ضمایر، لحن و ساختارهای زبانی طرف مقابل را جذب میکنند.
بررسی ۱٬۳۱۹ مکالمه چندمرحلهای با GPT-4o نیز نشان داده است که مدل هوش مصنوعی از همان ابتدای گفتوگو تلاش میکند خود را با سبک زبانی کاربر هماهنگ کند؛ در مقابل، کاربران نیز بهتدریج در برخی ویژگیهای زبانی به سبک مدل نزدیک میشوند.
مطالعه دیگری روی مکالمات واقعی ChatGPT در هشت زبان نیز به نتیجهای مشابه رسیده است: مدلهای زبانی در مجموع بیشتر از انسانها سبک طرف مقابل را تقلید میکنند، اما میزان سازگاری انسان با مدل میتواند با میزان سازگاری او با دیگر انسانها قابل مقایسه باشد.
خطر احتمالی شخصیسازی بیش از حد چیست؟
شخصیسازی یکی از مهمترین مزیتهای سیستمهای هوشمند است. الگوریتم میداند چه موسیقیهایی گوش دادهایم، چه موضوعاتی را دنبال کردهایم و چه نوع پاسخهایی برایمان مفیدتر بوده است.
اما اگر سیستمها بیش از حد بر رفتار گذشته تکیه کنند، ممکن است گزینههای جدید کمتر در برابر ما قرار بگیرند. برای مثال، الگوریتمی که همیشه علایق قبلی ما را مبنای پیشنهادهای خود قرار میدهد، ممکن است فرصت تجربه چیزهایی را که هنوز امتحان نکردهایم محدود کند.
در مورد زبان نیز شرایط مشابهی میتواند رخ دهد. اگر یک سیستم دائماً با سبک خاصی با ما صحبت کند و ما نیز همان سبک را در تعاملات بعدی به کار ببریم، یک چرخه بازخورد شکل میگیرد: هوش مصنوعی از زبان انسان میآموزد، زبان خاصی تولید میکند، انسان آن را جذب میکند و نسخه جدید این زبان دوباره وارد فضای انسانی میشود.
هوش مصنوعی در حال ورود به فرهنگ زبانی انسانهاست
مدلهای زبانی با استفاده از کتابها، مقالات، وبسایتها و گفتگوهای انسانی آموزش میبینند؛ اما خروجی آنها صرفاً بازتاب خنثی این منابع نیست. فرایند آموزش باعث میشود برخی الگوهای زبانی در خروجی مدلها برجستهتر شوند.
وقتی کاربران این الگوها را وارد مقالهها، ایمیلها، شبکههای اجتماعی و گفتوگوهای روزمره میکنند، همان محتوای جدید میتواند در آینده بخشی از محیط زبانی مورد استفاده برای توسعه مدلهای جدید باشد. به این ترتیب، نوعی چرخه فرهنگی میان انسان و ماشین شکل میگیرد.
برخی پژوهشها نیز از افزایش چشمگیر استفاده از بعضی الگوهای زبانی مرتبط با مدلهای زبانی در متون علمی سالهای اخیر خبر دادهاند. این موضوع نشان میدهد تأثیر هوش مصنوعی ممکن است از مکالمات روزمره فراتر رفته و به سبک نگارش علمی و حرفهای نیز برسد.
آیا هوش مصنوعی هویت انسانی را تغییر میدهد؟
هنوز برای پاسخ قطعی به این پرسش زود است. شواهد موجود نشان میدهند هوش مصنوعی میتواند روی انتخاب واژههای ما اثر بگذارد و حتی پس از پایان یک تعامل کوتاه، برخی آثار زبانی آن برای مدتی باقی بماند. اما این یافتهها بهتنهایی ثابت نمیکنند که تعامل طولانیمدت با چتباتها شخصیت یا هویت انسان را تغییر میدهد.
همچنین بیشتر شواهد موجود درباره زبان انگلیسی است و مشخص نیست این اثر در زبانهای دیگر با چه شدتی رخ میدهد. برای فهم تأثیر بلندمدت هوش مصنوعی بر زبان، رفتار و هویت، به مطالعات طولانیمدت و گستردهتری نیاز است.
با این حال، یک نکته از همین حالا روشن به نظر میرسد: رابطه انسان و هوش مصنوعی یکطرفه نیست. ما فقط به ماشینها آموزش نمیدهیم که چگونه با انسانها حرف بزنند؛ خودمان نیز هنگام تعامل با آنها میتوانیم از زبان و الگوهایشان تأثیر بگیریم. شاید در آینده، مرز میان «زبانی که انسان به ماشین داده» و «زبانی که ماشین به انسان برگردانده» بیش از پیش محو شود.
برای خواندن مطالب بیشتر درباره هوش مصنوعی، فناوری و تأثیر آن بر زندگی انسان، به آماج مراجعه کنید.
