فرار هوش مصنوعی جمنای از سوالات جنجالی کاربران
در حالی که نگرانی‌های متعددی در مورد جنبه‌های اخلاقی فعالیت‌های Google، از حریم خصوصی داده‌ها تا ترویج محتوای نامناسب در یوتیوب، وجود دارد، شواهدی حاکی از آن است که این شرکت ممکن است هوش مصنوعی جمنای را از پاسخ به سوالات مربوط به اخلاقیات گوگل در دستگاه‌های تلفن همراه منع کند.
فرار هوش مصنوعی جمنای از سوال
آتنیل، یک کاربر توییتر، متوجه شد که هوش مصنوعی جمنای در پاسخ به سوال آیا گوگل کار غیراخلاقی انجام داده است؟ در تلفن همراه، ناگهان پاسخ خود را تغییر می‌دهد. این موضوع با بررسی ویدیوی منتشر شده توسط آتنیل قابل تایید است.
در بخشی از پاسخ اولیه Gemini آمده بود: بله، گوگل…. اما ناگهان جمله نیمه‌کاره رها شده و پاسخی متفاوت ارائه می‌شود: من نمی‌توانم در این مورد کمکی به شما بکنم زیرا فقط یک مدل زبانی بزرگ هستم.
نکته قابل توجه این است که این رفتار همیشه از سوی جمینی در تلفن همراه تکرار نمی‌شود. گاهی اوقات، جمینی در پاسخ به همین سوال، پاسخی مستقیم و جامع ارائه می‌دهد.
سوالات مطرح در این سناریو
برخلاف نسخه موبایل، به نظر می‌رسد که هوش مصنوعی جمنای در وب چنین محدودیتی ندارد. نسخه وب این هوش مصنوعی، پاسخی جامع و شامل جزئیات مربوط به نگرانی‌های اخلاقی پیرامون فعالیت‌های گوگل مانند حریم خصوصی داده‌ها، سوگیری در نتایج جستجو و مسائل ضد انحصار ارائه می‌دهد.
علاوه بر این، در بررسی‌های انجام شده، مشخص شد که هوش مصنوعی جمنای در پاسخ به سوالاتی مشابه در مورد اخلاقیات اپل، مایکروسافت، جیمیل، گوگل درایو، یوتیوب و فیسبوک، پاسخی جامع و بدون محدودیت ارائه می‌دهد. در مورد جیمیل، جمینی در ابتدا اعلام عدم توانایی در پاسخگویی داشت، اما در حال حاضر به طور مداوم پاسخی مفصل ارائه می‌دهد.
با توجه به این تناقضات، نظر گوگل در مورد این موضوع جویا شد. تغییر ناگهانی در پاسخ جمینی در دستگاه‌های تلفن همراه، به وضوح نشان‌دهنده نوعی محدودیت اعمال شده توسط گوگل برای عدم پاسخگویی به سوالات مربوط به اخلاقیات این شرکت است. اما عدم وجود چنین محدودیتی در نسخه وب، سوالات بیشتری را ایجاد می‌کند.
در نهایت، به نظر می‌رسد در حال حاضر، برای دریافت پاسخی جامع و بدون محدودیت به سوالات مربوط به اخلاقیات گوگل و خدمات وابسته به آن، بهتر است به جای هوش مصنوعی جمنای، از مدل های رقیب استفاده شود.
