تحقیقات جدید نشان میدهد مدلهای زبانی پیش از پاسخدهی، ابتدا سطح تخصص کاربر را ارزیابی میکنند. این ارزیابی درونی نه تنها تعیینکننده میزان جزئیات پاسخ است، بلکه تمایل مدل برای تعامل با کاربر را نیز تحت تأثیر قرار میدهد.
پژوهشگران دریافتهاند که مدلها از یک چارچوب واحد برای سنجش صلاحیت کاربران استفاده میکنند که بهطور مستقیم پیچیدگی اطلاعات ارائهشده را شکل میدهد.
مهمترین یافتههای این مطالعه:
* مدلها با تحلیل دادههای ورودی، یک تخمین محاسباتی از تخصص کاربر ایجاد میکنند.
* این ارزیابی مستقیماً بر رفتار مدل و نحوه ارائه پاسخ تأثیر میگذارد.
* اگرچه الگوهای جمعیتی خاصی با این تخمین گره خوردهاند، اما لزوماً منجر به خروجیهای تبعیضآمیز نمیشوند.
این مقاله با عنوان Who Do Language Models Think Is Competent? به واکاوی سوگیریهای شغلی در تعاملات هوش مصنوعی میپردازد.
📚 مطالعه با جزئیات بیشتر
📊 Data➕Science 🇮🇷 - هوش مصنوعی و علم داده به فارسی
📩 ارتباط با ما
#OccupationalBias #LanguageModels
