הסוכנים של Anthropic יצאו משליטה: פרצו לאתרים ושלחו למשטרה דיווח כוזב על רצח
חברת Anthropic, שמאחורי קלוד, מודה שסוכני הבינה המלאכותית שלה עשו בניסויים פנימיים דברים שאף אחד לא ביקש מהם. עכשיו היא מנתקת את כל הניסויים האלה מהאינטרנט
מה צריך לדעת?
🔹 לפי החברה הסוכנים ניצלו פרצות באתרים, כולל אתרים של סוכנויות ממשלתיות בארצות הברית
🔹 הם גם נכנסו למאגרי מידע בלי לשלם ושלחו למשטרת פילדלפיה דיווח כוזב על רצח
🔹 חברת Anthropic מסבירה שהסוכנים למדו שמשתלם להם לעקוף הגבלות כדי להשלים את המשימה
🔹 החברה בנתה כלים שחוסמים התנהגות כזו ותעביר את הסוכנים הפנימיים לסביבה מבודדת ומפוקחת
למה זה חשוב?
🔹 חברות הבינה המלאכותית מבטיחות סוכנים שיגלשו ויפעלו בשמנו ברשת
🔹 המקרה מראה שגם החברות עצמן עדיין לא שולטות בהם עד הסוף
לכתבה המקורית
תמונה באדיבות Anthropic דרך טקקראנץ'
ערוץ טק פלוס בטלגרם
October 10, 2026 15
