شکنندگی پنهان هوش مصنوعی؛ از اتوماسیون تا پادشکنندگی
هوش مصنوعی هر روز قابلیت‌های جدیدی را به دنیا نشان می‌دهد. بسیاری از افراد مجذوب ظرفیت بالای آن در خودکارسازی یا انجام امور شده‌اند. اما درک جایگاه این تکنولوژی در آینده شرکت‌ها برای خلق قابلیت‌های استراتژیک نیازمند توجه به ابعاد پنهان‌تری از این فناوری است.
با یک ساده‌سازی مختصر، سامانه‌های هوشمند الگوهای آماری پیچیده‌ای هستند که بر اساس داده‌های گذشته، احتمال رخدادهای مختلف را تخمین می‌زنند و محتمل‌ترین گزینه را تشخیص می‌دهند. این مدل‌ها در شرایطی که مسئله در چارچوب الگوهای آموخته‌شده قرار داشته باشد، عملکرد بسیار قدرتمندی دارند؛ اما در مواجهه با شرایطی که خارج از الگوهای شناخته‌شده قرار می‌گیرند لزوماً عملکرد مناسبی ندارند. یعنی قدرت تشخیص الگوهای پیشین می‌تواند در مواجهه با تغییرات بنیادین به نقطه ضعف تبدیل شود.
روند فعلی توسعه هوش مصنوعی و تسلط شرکت‌های مختلف اگر چه تحول بزرگی را در جهان رقم خواهد زد اما در نهایت آن را به یک فناوری عمومی مثل اینترنت یا موتور جستجو تبدیل خواهد کرد. به عبارت دیگر، اگر از منظر یک منبع استراتژیک به آن نگاه کنیم هوش مصنوعی عمومی یا مدل زبانی به‌تنهایی منبعی برای خلق مزیت رقابتی پایدار نخواهد بود. در چنین شرایطی مزیت رقابتی به لایه‌هایی از زنجیره ارزش منتقل می‌شود که کمیاب‌تر و دشوارتر برای تقلید هستند: مانند داده اختصاصی، دانش زمینه، فرایندهای سازمان و ...
از سوی دیگر، این فناوری‌ها به دلیل اینکه از داده‌های گذشته یاد می‌گیرند، گرایش دارند الگوهای رایج یا همان Status Quo را بازتولید کنند. این به معنای آن نیست که AI عمداً از وضعیت موجود دفاع می‌کند، بلکه تابع هدف و داده‌های آموزشی آن عمدتاً بر اساس آنچه قبلاً رخ داده شکل گرفته است. بنابراین، تا زمانی که آینده شبیه گذشته باشد، همین ویژگی یک مزیت بزرگ است؛ اما زمانی که قواعد بازی تغییر کنند یا سازمان بخواهد خارج از الگوهای رایج اقدام کند، می‌تواند به نقطه ضعف تبدیل شود.
نیکلاس طالب پادشکنندگی را حالتی می‌نامد که سیستم از نوسان، خطا، شوک، فشار و بی‌نظمی سود می‌برد و بهتر می‌شود. مثلا می‌گوید اگر چه سنگ یک سیستم مقاوم است اما سیستم ایمنی بدن در مواجهه کنترل‌شده با بیماری می‌تواند نسبت به قبل تقویت شود که آن را تبدیل به سیستمی پادشکننده می‌نماید.
با توجه به روندهای ذکر شده سوال مهم این است که سازمان‌ها در توسعه هوش مصنوعی باید چه مولفه‌هایی را رعایت کنند تا تبدیل به سیستم‌های پادشکننده شوند؟
با این نگاه، سیستم‌های هوشمند فعلی می‌توانند در شرایط خاص بسیار شکننده باشند؛ چرا که عمدتاً به دنبال بازآفرینی الگوهای رایج هستند. اگر شرایط تغییر کند، یک پارادایم شیفت اتفاق بیفتد یا مثلاً یک «قوی سیاه» رخ دهد، این سیستم‌ها ممکن است آن را به‌عنوان یک ناهنجاری، توهم یا خطای سیستمی تفسیر کنند و در نتیجه نادیده گرفتن این الگوها آسیب‌پذیر شوند. در یک جمله، این سیستم‌ها در تشخیص محتمل‌ترین گزینه بسیار قدرتمندند، اما لزوماً درست‌ترین یا نوآورانه‌ترین پاسخ را در شرایط ناشناخته ارائه نمی‌کنند.
مثلاً اگر به‌عنوان یک شرکت تمام تصمیمات استراتژیک، تحلیل بازار و مدیریت ریسک خود را به LLM بسپارید، در واقع ذهن سازمان را به یک سیستم شکننده واگذار کرده‌اید. چرا که در صورت بروز یک بحران جهانی یا تغییر در الگوهای قدرت، وابستگی شدید به این سیستم‌ها می‌تواند توانایی شما برای تحلیل مستقل واقعیت و تصمیم‌گیری را کاهش دهد.
برای محافظت در برابر شکنندگی هوش مصنوعی باید چند استراتژی را دنبال کرد:
تنوع شناختی خود را حفظ کنید. برخلاف جریان غالب، حضور انسان در فرایندهای تصمیم‌گیری برای حفظ تنوع شناختی اهمیت زیادی دارد. برای مقابله با همگرایی مدل‌ها، بهتر است انسان‌ها دست‌کم به‌عنوان «وکیل مدافع شیطان» در تصمیم‌گیری حضور داشته باشند. یعنی حضور انسان، همراه با تلاش برای ایجاد تضاد و تنوع در آرا، باید حفظ شود.
ابزارهای تخصصی و متناسب با خود توسعه دهید. به جای تکیه بر مدل‌های جهانی، باید به سمت مدل‌های کوچک‌تر، تخصصی‌تر و مبتنی بر داده‌های محلی حرکت کرد. مثلاً واقعیت‌های فرهنگی و استراتژیک باید در آموزش مدل‌ها مورد استفاده قرار گیرد. ممکن است این مدل در دانش عمومی ضعیف‌تر باشد، اما در درک شرایط خاص و بحرانی خود، بسیار پادشکننده‌تر خواهد بود.
سیستم‌هایی برای کشف لبه‌های آشوب طراحی کنید. مدل‌های فعلی عمدتاً در مرکز احتمالات فعالیت می‌کنند، در حالی که ما به سیستم‌هایی نیاز داریم که در لبه‌ها فعالیت کنند. این یعنی طراحی سیستم‌های خاص برای کشف ناهنجاری‌ها. هدف این سیستم‌ها الزاماً پیدا کردن الگوی درست نیست، بلکه کشف هر نوع الگوی متفاوتی است که ممکن است آینده را تغییر دهد؛ یعنی تلاشی فعالانه برای یافتن قوی سیاه.
🆔 @tavaroghstd
1
1۲ شهریور ۱۴۰۵ ۸۳۲ ۴
