به گزارش آماج، قابلیت هوش مصنوعی «متا ایآی» در اینستاگرام پس از آنکه برای برخی کاربران پرسشهایی درباره اطلاعات شخصی و خصوصی پیشنهاد کرد، با انتقادهای جدی درباره حریم خصوصی و نحوه مدیریت دادهها روبهرو شده است. متا اعلام کرده این مشکل را شناسایی و برطرف کرده، اما پرسشهایی درباره نحوه عملکرد این قابلیت همچنان باقی مانده است.
پرامپتهای عجیب متا ایآی چه بودند؟
این جنجال از دوم سپتامبر آغاز شد؛ زمانی که «کیلی رابینز»، فعال حوزه فرزندپروری و سبک زندگی در اینستاگرام، ویدئویی منتشر کرد و درباره تجربه خود با ابزار هوش مصنوعی متا توضیح داد.
رابینز میگوید پس از انتشار ویدئویی از آواز خواندن خود و دخترش در صندلی عقب خودرو، متا ایآی پرسشهایی غیرمنتظره به او پیشنهاد کرده است؛ از جمله اینکه «چه کسی در صندلی کودک است؟» یا «کیلی رابینز کجا زندگی میکند؟»
او مدعی شد پس از انتخاب این پرسشهای پیشنهادی، هوش مصنوعی توانسته اطلاعاتی را از پستهای قبلی او استخراج کند و جزئیاتی درباره زندگی شخصی و موقعیت مکانیاش ارائه دهد. به گفته رابینز، این ابزار حتی از اطلاعات موجود در حسابهای مرتبط با خانواده او، از جمله حساب کاربری مادرش، نیز استفاده کرده است.
آیا هوش مصنوعی به عکس حذفشده دسترسی داشته است؟
یکی از جنجالیترین بخشهای این ماجرا، ادعای رابینز درباره دسترسی متا ایآی به اطلاعات موجود در عکسی بود که او تصور میکرد چند سال قبل آن را از حساب خود حذف کرده است.
متا این ادعا را به شکل مطرحشده رد کرده و توضیح داده است که تصویر مربوط به فرزندان رابینز مدت کوتاهی پیش از ساخت ویدئو حذف شده بود. با این حال، به گفته این شرکت، یک باگ موقت باعث شده بود تصویر برای مدتی همچنان قابل مشاهده باشد.
واکنش متا به انتقادها
سخنگوی متا در بیانیهای اعلام کرد مشکل مربوط به پیشنهاد پرسشهای نامناسب برطرف شده است و «متا ایآی» دیگر نباید پرسشهایی را که به اطلاعات خصوصی کاربران درباره پستهایشان مربوط میشود، پیشنهاد کند.
این شرکت همچنین پذیرفت که این قابلیت به هدف مورد انتظار خود دست پیدا نکرده است. طبق توضیحات متا، هدف از طراحی این ویژگی کمک به کاربران برای یافتن اطلاعات بیشتر درباره محتوای در دسترس آنها بوده، اما نحوه اجرای آن در برخی موارد به پیشنهاد پرسشهایی منجر شده که میتوانستند جنبه خصوصی داشته باشند.
چرا پاسخ متا برای کاربر کافی نبود؟
رابینز در پستی که ۱۰ سپتامبر منتشر کرد، گفت از اینکه متا مشکل را به رسمیت شناخته است خوشحال است، اما همچنان درباره جزئیات اصلاحات انجامشده پرسش دارد.
او پرسید دقیقاً چه چیزی در سیستم تغییر کرده و چه تدابیر امنیتی در مرحله طراحی یا اجرای اولیه نتوانستهاند از بروز چنین مشکلی جلوگیری کنند. یکی دیگر از نگرانیهای او نحوه برخورد متا ایآی با اطلاعات مربوط به کودکان بود؛ موضوعی که به دلیل حساسیت دادههای مربوط به افراد کمسنوسال اهمیت بیشتری پیدا میکند.
متا ایآی به چه اطلاعاتی دسترسی دارد؟
برطرف شدن پیشنهادهای نامناسب لزوماً به این معنا نیست که هوش مصنوعی متا دیگر نمیتواند از اطلاعات موجود در محتوای کاربران برای پاسخ دادن یا ارائه پیشنهاد استفاده کند.
این ابزار ممکن است بر اساس دادههایی که در اختیارش قرار میگیرد، از جمله محتوای عمومی، تصاویر منتشرشده، پیامها یا پستهای قبلی، اطلاعاتی را برای پاسخگویی یا پیشنهاد موضوعات مرتبط پردازش کند. به همین دلیل، ماجرای اخیر بار دیگر اهمیت شفافیت درباره نوع دادههای قابل دسترسی و نحوه استفاده از آنها توسط ابزارهای هوش مصنوعی را برجسته کرده است.
یک باگ یا یک نگرانی بزرگتر درباره حریم خصوصی؟
متا تلاش کرده این اتفاق را به عنوان مشکلی مشخص در عملکرد یک قابلیت معرفی و اعلام کند که آن را برطرف کرده است. با این حال، این ماجرا نشان میدهد استفاده از هوش مصنوعی در شبکههای اجتماعی میتواند پرسشهای تازهای درباره مرز میان «اطلاعات قابل دسترس» و «اطلاعات خصوصی» ایجاد کند.
حتی اگر پیشنهادهای نامناسب حذف شوند، کاربران همچنان نیاز دارند بدانند هوش مصنوعی به چه محتوایی دسترسی دارد، دادهها چگونه پردازش میشوند و چه سازوکارهایی برای محافظت از اطلاعات حساس، بهویژه دادههای مربوط به کودکان، در نظر گرفته شده است.
برای پیگیری اخبار و گزارشهای بیشتر درباره هوش مصنوعی، شبکههای اجتماعی و امنیت دیجیتال، به آماج مراجعه کنید.
