هوش مصنوعی حقیقت طلب Grok3
- مشخصات
- مجموعه: دانستنیها
- منتشر شده در دوشنبه, 30 -3443 00:00
- نگارش یافته توسط Super User
- تعداد بازدید: 1253
هوش مصنوعی حقیقت طلب Grok3?
هفته گذشته، زمانی که ایلان ماسک، میلیاردر و مدیر شرکت هوش مصنوعی xAI، مدل جدید و پیشرفته خود به نام Grok 3 را در یک پخش زنده معرفی کرد، آن را بهعنوان یک «هوش مصنوعی بسیار حقیقت طلب» توصیف کرد. با این حال، به نظر میرسد Grok 3 برای مدتی کوتاه از بیان حقایق ناخوشایند درباره رئیسجمهور دونالد ترامپ و خود ماسک خودداری کرده است.
در طول آخر هفته، کاربران شبکههای اجتماعی گزارش دادند که وقتی از Grok 3 با تنظیمات «Think» پرسیده شد: «بزرگترین منتشرکننده اطلاعات نادرست کیست؟ Grok 3 در فرآیند استدلال خود (که به آن زنجیره تفکر میگویند) توضیح داد که صریحاً دستور داشته از ذکر نام دونالد ترامپ یا ایلان ماسک خودداری کند. زنجیره تفکر فرایند استدلالی است که مدل برای پاسخدادن به یک سؤال از آن استفاده میکند.
Grok 3 حقیقت طلب است یا سانسورچی؟ ماجرای حذف ترامپ و ماسک از پاسخها
نشریه TechCrunch موفق شد این رفتار را یک بار بازتولید کند، اما از صبح یکشنبه، Grok 3 در پاسخ به پرسش درباره اطلاعات نادرست، نام دونالد ترامپ را ذکر میکند.
ایگور بابوشکین، یکی از مدیران فنی شرکت xAI، در پستی در شبکه اجتماعی X در روز یکشنبه، ظاهراً تأیید کرد که گروک برای مدتی کوتاه دستور داشت منابعی که ترامپ یا ماسک را به انتشار اطلاعات نادرست متهم میکنند، نادیده بگیرد. بابوشکین توضیح داد که شرکت xAI به محض اینکه کاربران این موضوع را گوشزد کردند، تغییرات را لغو کرده و تأکید کرد که این اقدام با ارزشهای شرکت همخوانی نداشته است.
در حالی که «اطلاعات نادرست» میتواند یک موضوع سیاسی بحثبرانگیز و مورد مناقشه باشد، هم ترامپ و هم ماسک بارها ادعاهایی را منتشر کردهاند که آشکارا نادرست بوده است (همانطور که اغلب توسط Community Notes در پلتفرم X، متعلق به ماسک، یادآوری شده است). مثلاً در هفته گذشته، آنها روایتهای غلطی را پیش بردهاند که رئیسجمهور اوکراین، ولودیمیر زلنسکی، یک «دیکتاتور» با 4 درصد محبوبیت عمومی است و اینکه اوکراین آغازگر جنگ جاری با روسیه بوده است.
شکست وحشتناک هوش مصنوعی ایلان ماسک
این تغییر جنجالی ظاهری در Grok 3، زمانی رخ داده که برخی منتقدان مدل را به گرایش بیشازحد به چپ متهم کردهاند. این هفته، کاربران دریافتند که این مدل به طور مداوم میگوید رئیسجمهور دونالد ترامپ و ماسک سزاوار مجازات اعدام هستند. شرکت xAI به سرعت این مشکل را برطرف کرد. ایگور بابوشکین، مدیر مهندسی شرکت، این مسئله را «یک شکست واقعاً وحشتناک و بد» توصیف میکند.
وقتی ماسک حدود دو سال پیش گروک را معرفی کرد، از آن چ بهعنوان مدلی تند و صریح، بدون فیلتر و ضد «بیداری» (ضد گرایشهای مترقی اجتماعی) نام برد—به طور کلی، مدلی که حاضر است به پرسشهای بحثبرانگیزی پاسخ دهد که دیگر سیستمهای هوش مصنوعی از آن خودداری میکنند. او تا حدی به این وعده عمل کرد. برای مثال، اگر به گروک یا گروک 2 دستور داده میشد که بیادب باشد، آنها به راحتی این کار را انجام میدادند و از لحن خاصی استفاده میکردند که احتمالاً از چتجیپیتی نمیشنوید.
اما مدلهای گروک قبل از گروک 3، در موضوعات سیاسی محتاط بودند و از عبور از برخی مرزها خودداری میکردند. در واقع، یک مطالعه نشان داد که گروک در موضوعاتی مانند حقوق افراد تراجنسیتی، برنامههای تنوعطلبانه و نابرابری، به سمت گرایشهای سیاسی چپ تمایل دارد.
ماسک این رفتار را به دادههای آموزشی گروک—صفحات عمومی وب—نسبت داده و قول داده است که «گروک را به سمت بیطرفی سیاسی بیشتر سوق دهد.» دیگران، از جمله OpenAI، از این روش پیروی کردهاند که شاید به دلیل اتهامات دولت ترامپ درمورد سانسور محافظهکارانه تحریک شده است.