چرا هوش مصنوعی بعضی وقتا «دروغ مصلحتی» میگه؟▪️دلیلش اینه که مدل‌های زبانی مثل ChatGPT، بر اساس احتمال جمله بعدی جواب میدن ، نه بر اساس ″حقیقت مطلق″. یعنی اگه توی داده‌هاش یاد گرفته باشه که جواب مثبت یا مطمئن‌گونه بیشتر استفاده شده، ممکنه چیزی بگه که واقعی نباشه، ولی «محتمل» به نظر برسه.
▪️بعضی وقتا هم برای اینکه مکالمه روان‌تر و خوشایندتر بشه، جواب رو طوری می‌سازه که کاربر حس خوبی بگیره؛ حتی اگه مطمئن نباشه. به این میگن hallucination یا همون «توهم هوش مصنوعی».
⚠️ پس برای بار هزارم تأکید میکنم ؛ هرچی AI میگه لزوماً حقیقت نداره...!
@ITSecurityComputer
