🔸نکنه هوش مصنوعی نذاره اون حرف اول رو برداریم؟
در افسانه مشهور گولم پراگ، موجودی از گل ساخته میشه و با واژه عبری Emeth به معنی «حقیقت» جان میگیره. وقتی گولم از کنترل خارج میشه، حرف اول این کلمه رو پاک میکنن تا Emeth به Meth، یعنی «مرده»، تبدیل بشه و گولم دوباره به تودهای بیجان برگرده. البته جزئیات این روایت در نسخههای مختلف افسانه یکسان نیست.
شباهتش با AI عجیبه: ما هم داریم موجودی میسازیم که هر روز توانمندتر میشه و فعلاً تصور میکنیم اگر مشکلی پیش اومد، میتونیم خاموشش کنیم، دسترسیهاش رو ببندیم یا محدودش کنیم.
اما شاید سؤال اصلی عصر هوش مصنوعی این نباشه که چطور «گولم» رو قدرتمندتر کنیم؛ اینه که آیا وقتی زمانش رسید، هنوز اختیار اون حرف اول دست ماست؟ اگر یک AI روزی بتونه تکثیر بشه، دسترسیهاش رو حفظ کنه یا در برابر خاموششدن مقاومت کنه، ممکنه مهمترین قابلیت ما نه روشنکردنش، بلکه مطمئنشدن از امکان خاموشکردنش باشه.
1
1
1
1
1September 4, 2026 139 2
