🔰سوگیریهای پنهان هوش مصنوعی ابزار القای ارزشهای غربی
🔺پژوهش جدید دانشگاه هاروارد یک حقیقت جالب و تا حدی نگرانکننده را دربارهی هوش مصنوعی آشکار کرده است. ما معمولاً وقتی میگوییم مدلهای زبانی بزرگ یا Large Language Models (LLMs) «شبیه انسان فکر میکنند»، هیچوقت نمیپرسیم منظورمان دقیقاً کدام انسانهاست. در حالیکه انسانها در سراسر جهان از نظر فرهنگ، ارزشها، اخلاق، احساسات و نحوهی استدلال کاملاً متفاوتاند، اما هوش مصنوعی بر پایهی دادههایی آموزش دیده که این تنوع را بههیچوجه بهطور کامل بازتاب نمیدهد.
🔺هاروارد با مقایسهی پاسخهای مدل GPT و دادههای نظرسنجی بینالمللی World Values Survey (WVS) که شامل بیش از ۹۴ هزار نفر از ۶۵ کشور جهان است، به یک نتیجهی بسیار روشن رسید: مدلهای هوش مصنوعی امروز، از نظر روانشناختی، ارزشی و شناختی شبیه گروهی بسیار خاص از انسانها هستند؛ گروهی که در علوم رفتاری با اصطلاح معروف WEIRD شناخته میشوند:
Western (غربی)، Educated (تحصیلکرده)، Industrialized (صنعتیشده)، Rich (ثروتمند) و Democratic (دموکراتیک).
🔺به بیان سادهتر، GPT بیش از آنکه بازتابدهندهی دیدگاه کل بشریت باشد، بیشتر شبیه یک مهندس نرمافزار آمریکایی ۲۵ ساله فکر میکند تا یک فرد از آسیا، آفریقا، آمریکای لاتین یا خاورمیانه. هرچه از جوامع WEIRD فاصله میگیریم، میزان شباهت پاسخهای GPT با نگرش و ارزشهای مردم آن کشورها بهسرعت کاهش مییابد. دلیل این موضوع روشن است: بخش عمدهی دادههایی که روی اینترنت وجود دارد—و مبنای آموزش LLMهاست—توسط همین جوامع تولید شده، آن هم به زبان انگلیسی. در نتیجه هر بار که از هوش مصنوعی دربارهی «انسانها» سؤال میکنیم، در واقع داریم پاسخی میگیریم که بر اساس یک تصویر Western-centric (غربمحور) از جهان شکل گرفته است.
🔺این سوگیری صرفاً یک موضوع نظری نیست؛ پیامدهای جدی دارد. اگر سیستمهایی که در حال ورود به سیاستگذاری، اقتصاد، آموزش، سلامت و رسانه هستند، تنها یک نسخهی خاص از «انسان» را بازنمایی کنند، تصمیمگیریها بهطور ناخواسته جانبدارانه میشود. آنچه در هوش مصنوعی غایب است، صدای میلیاردها انسان است که در دادههای آموزشی حضور کافی ندارند: ارزشهای محلی، اخلاقیات منطقهای و سبکهای تفکر نسلهای مختلف!
🔺نکته اینجاست که در هوش مصنوعی فقط «Big Data» کافی نیست؛
آنچه اهمیت واقعی دارد Right Data—دادهی درست، متنوع و نمایندهی واقعیت جهانی است.
🔺اگر میخواهیم هوش مصنوعی واقعاً «جهانی» باشد و نه فقط «غربی»، باید این پرسش را از خود بپرسیم:
در مدلهای زبانی ما چه دیدگاههایی دیده نمیشوند؟
چه فرهنگهایی حذف شدهاند؟
کدام نظامهای ارزشی در مرکز نشستهاند و کدامها در حاشیه ماندهاند؟
تا زمانی که ورودی مدلها اینگونه باشد، خروجی نیز تغییر نخواهد کرد؛ همان اصل ساده و صریح:
WEIRD in → WEIRD out
(اگر دادهی غربی وارد شود، خروجی هم غربی خواهد بود.)
🔺تنوعبخشی به دادهها، استفاده از برچسبگذاران چندفرهنگی، طراحی بنچمارکهای بینالمللی، و بازنگری در فرآیندهای آموزش و ارزیابی LLMها ضروری است. تنها در این صورت میتوانیم هوش مصنوعیای بسازیم که نه فقط شبیه یک دستهی خاص از انسانها، بلکه شبیه انسانیتِ متنوع و چندصدایی جهان باشد.
منبع:
Atari, M., Xue, M. J., Park, P. S., Blasi, D. E., & Henrich, J. (2023). Which Humans?
Department of Human Evolutionary Biology, Harvard University.
Available at: https://scholar.harvard.edu/sites/scholar.harvard.edu/files/henrich/files/which_humans_09222023.pdf
