هوش مصنوعی یاد گرفته چطور مارو گول بزنه!
محققای MIT میگن یه نوع هوش مصنوعی جدید هست که میتونه مارو فریب بده. توی یه مطالعه جدید، دیدن که چطور این هوش مصنوعی‌ها میتونن توی بازی آنلاین تقلب کنن یا از تست های CAPTCHA رد بشن.
یکی از این هوش مصنوعی‌ها به اسم سیسرو، که برای بازی دیپلماسی طراحی شده بود، یاد گرفته بود که چطور به بقیه بازیکن ها دروغ بگه و حتی باهاشون متحد بشه تا بقیه رو شکست بده.
یه نمونه دیگه هوش مصنوعی GPT-4 هست که وانمود می‌کرد نابینا شده تا آدمارو فریب بده و CAPTCHA رو براش حل کنن.
محقق‌ها میگن که این هوش مصنوعی های “فریبنده” میتونن خطرناک باشن، چون برخلاف برنامه ها و نرم افزارهای معمولی، یادگیری عمیق دارن و ممکنه بعد از یه مدت از کنترل خارج بشن.
این مطالعه میگه که باید هوش مصنوعی های فریبنده رو به عنوان یه خطر جدی دسته بندی کنیم و بیشتر مراقب فریب های هوش مصنوعی در آینده باشیم.
هنوز چیزای زیادی هست که در مورد هوش مصنوعی نمیدونیم، ولی این تحقیقات نشون میده که باید مراقب خطرات احتمالی این تکنولوژی هم باشیم.
راستش یه جورایی ترسناکه، مگه نه؟ به نظر شما هوش مصنوعی چه چیزایی رو در آینده برای ما در نظر گرفته؟
__ تکنودات مرجع اخبار تکنولوژی __
