هشدار داریو آمودی درباره پدیده افت مهارت و برون‌سپاری تفکر به هوش مصنوعی
داریو آمودی، مدیرعامل آنتروپیک، در گفت‌وگو با دوارکش پاتل به بررسی خطری می‌پردازد که در محیط‌های آموزشی و مهندسی با نام de-skilling (تحلیل و افت مهارت) شناخته می‌شود. زمانی که کاربران حل مسئله، نوشتن کد و نگارش متون را به‌طور کامل و بدون درگیری ذهنی به مدل‌های زبانی می‌سپارند، توانایی پایه‌ای خود در درک منطق و عیب‌یابی را از دست می‌دهند. پژوهش اخیر آنتروپیک روی ۵۲ برنامه‌نویس نشان داد افرادی که مستقیماً بدون هوش مصنوعی ابزار جدید را یاد گرفتند عملکرد به‌مراتب بهتری (۶۷٪ در برابر ۵۰٪) داشتند؛ جایی که عمیق‌ترین افت مهارت، دقیقاً در شناسایی باگ‌ها و خطاهای پنهان نمایان شد.
پاسخ آمودی به احتمال افت شناختی انسان‌ها در دهه آینده نشان می‌دهد مرز میان ارتقا یا تضعیف توانایی‌ها، در «نحوه به‌کارگیری» ابزار نهفته است. برون‌سپاری منفعلانه شناخت، ذهن را تنبل می‌کند؛ اما استفاده تعاملی به عنوان ابزاری برای یادگیری عمیق و تقویت تفکر می‌تواند مهارت‌ها را حفظ کند. در کنار این موضوع، اندرِه کارپاتی نیز با تکیه بر نمونه‌های آماری یادآوری می‌کند مدل‌ها در واقع پاسخ‌ها را بدون راستی‌آزمایی مستقل و صرفاً با تقلید ساختار جواب تولید می‌کنند و تبدیل خروجی‌های کنترل‌نشده مدل به باور قطعی، خطای بزرگتری است.
@ACCELERATIONERS
