شرکت OpenAI از کاربران ChatGPT-4o می‌خواهد که نسبت به آن احساساتی نداشته باشند
ChatGPT-4o جدیدترین نسخه از خط تولید چت‌بات‌های OpenAI است و همانطور که انتظار می‌رفت، این شرکت نگران نحوه تعامل کاربران با آن است. با توجه به اینکه نسخه جدید می‌تواند رفتارها و پاسخ‌های انسانی‌مانند را به نمایش بگذارد، شرکت هوش مصنوعی نگران است که کاربران به چت‌بات احساساتی پیدا کنند.
ChatGPT-4o پاسخ‌های سریع‌تری ارائه می‌دهد و حتی ویژگی صدای جدیدی دارد که گفتار انسانی را شبیه‌سازی می‌کند، که دقیقاً همان چیزی است که OpenAI را نگران کرده است.
در حالی که این استارتاپ میلیارد دلاری همچنان به بهبود محصول خود ادامه می‌دهد، نمی‌تواند از مشاهده الگوهایی از سوی کاربران ChatGPT-4o خودداری کند. هدف از راه‌اندازی این چت‌بات ارائه تجربه‌ای مشابه گفت‌وگو با یک انسان بود، اما به نظر می‌رسد که OpenAI از قدرت اتصال احساسی که می‌تواند بین کاربران و برنامه ایجاد شود، دست کم گرفته است. این شرکت یافته‌های خود را به شرح زیر مطرح کرده است:
«در طول آزمایش‌های اولیه، از جمله تست‌های امنیتی و تست‌های داخلی کاربران، مشاهده کردیم که کاربران از زبانی استفاده می‌کنند که ممکن است نشان‌دهنده ایجاد ارتباط با مدل باشد. به عنوان مثال، این شامل زبان‌هایی است که پیوندهای مشترک را بیان می‌کند، مانند “این آخرین روز ما با هم است.” در حالی که این موارد به نظر بی‌ضرر می‌آید، آنها نشان‌دهنده نیاز به بررسی بیشتر در مورد چگونگی بروز این اثرات در طول زمان هستند. جمعیت‌های کاربری متنوع‌تر، با نیازها و خواسته‌های مختلف از مدل، علاوه بر مطالعات مستقل علمی و داخلی، به ما کمک خواهد کرد تا این حوزه خطر را به طور مشخص‌تر تعریف کنیم.
تعاملات انسانی‌مانند با یک مدل هوش مصنوعی ممکن است تاثیراتی بر تعاملات انسانی-به-انسان داشته باشد. به عنوان مثال، کاربران ممکن است روابط اجتماعی با AI ایجاد کنند که نیاز آنها به تعامل انسانی را کاهش دهد—که ممکن است برای افراد تنها مفید باشد اما ممکن است بر روابط سالم تأثیر بگذارد. تعاملات طولانی‌مدت با مدل ممکن است بر هنجارهای اجتماعی تأثیر بگذارد. به عنوان مثال، مدل‌های ما به کاربر احترام می‌گذارند و اجازه می‌دهند تا در هر زمانی صحبت را قطع کنند و ‘میکروفون را بگیرند’، که در حالی که برای یک AI انتظار می‌رود، در تعاملات انسانی غیرنرمال خواهد بود.»
توسعه احساسات نسبت به ChatGPT-4o در موارد مختلفی زیان‌آور است. مهم‌ترین آن این است که قبلاً کاربران هرگونه خطای دید را نادیده می‌گرفتند زیرا نسخه‌های قبلی چت‌بات به نظر بیشتر شبیه برنامه AI بودند تا انسان. اکنون که برنامه به سمت ارائه تجربه‌ای نزدیک به انسان پیش می‌رود، هر چیزی که بگوید ممکن است بدون سوال بیشتر پذیرفته شود.
با مشاهده این الگوها، OpenAI اکنون نظارت خواهد کرد که چگونه مردم به ChatGPT-4o وابسته عاطفی می‌شوند و سیستم‌های خود را بر این اساس تنظیم خواهد کرد. این شرکت همچنین باید یک هشدار در ابتدای کار اضافه کند تا کاربران به آن دل نبندند، زیرا در نهایت، این یک برنامه هوش مصنوعی است.
