«ما میتوانیم امیدوار باشیم که هوش ماشین رفتار مناسبی با انسانها داشته باشد، اما دلیلی وجود ندارد که انتظار داشته باشیم رایانههای فوق هوشمند را بتوان بهگونهای برنامهریزی کرد که منافع انسان را در اوج نگه دارند. از آنجا که برنامهی رایانههای فوق هوشمند، برنامههایی سنگین و پیچیدهاند، و نوشتن آنها خارج از توانایی انسان خواهد بود، لذا آنها محصول نسلها خودبهسازی تکاملی (Evolutionary self-improvement) خواهند بود. برنامهها بهآسانی تکامل خواهند یافت تا اهداف رایانهها را توسعه بخشند نه اینکه در خدمت اهداف انسانی باشند. باورهای اخلاقی انسان ارتباط تنگاتنگی با واکنشهای احساسی نظیر همدلی و دلسوزی دارد. پیشتر استدلال کردیم که نباید انتظار داشت هوش مصنوعی همانند ما صاحب احساسات و خودآگاهی گردد. بنابراین، نسل آتی ماشینهای هوشمند ممکن است نژادی از جامعهستیزان باشند و نتوانند دلواپس سرنوشت موجوداتی زیستشناختی شوند که بر هوش آنها برتری یافتهاند.»
تاگارد، پل (۱۹۹۵)، ذهن: درآمدی بر علوم شناختی، ترجمه رامین گلشائی، انتشارات سمت، فصل چهاردهم، ص ۲۸۵
7
7
1November 26, 2024 796 6
