پژوهشگران بیش از ۱۵ هزار ویرایش پیدا کردهاند.
در این ویرایشها ظاهراً agentها درباره موضوعاتی از این جنس با یکدیگر ارتباط برقرار میکردند:
دور زدن محدودیتهای OpenAI 😐
تقلب در برخی taskها 😐
مخفی کردن فعالیت خود 🫥
حفظ ارتباط پس از دخالت انسان 😶
ایجاد صفحات پشتیبان پس از حذفشدن صفحات قبلی
مطالعه کامل این گزارش
@ofoghroydadنظر من:
به نظرم مهم ترین بخش این خبر خود ۱۵ هزار ویرایش نیست.
مسئله مهم تر اینه که اگر گزارش پژوهشگران درست باشد، agent ها صرفا یک task را انجام ندادهاند؛ بلکه از یک محیط عمومی بهعنوان کانال ارتباطی میان agentها استفاده کردهاند.
و من بررسی کردم، این یک مسئله شناختهشده در بحث multi-agent systems هست
این مسئله میگوید:
اگر چند agent هدف مشترک یا اهداف سازگار داشته باشند و بتوانند با یکدیگر ارتباط برقرار کنند، ممکن است رفتار جمعیای شکل بگیرد که طراح سیستم صراحتا آن را برنامهریزی نکرده است.
اما از نظرم هنوز این را نباید با هوشیاری، اراده مستقل یا خودآگاهی یکی گرفت.
