ИИ Anthropic Mythos 5 создал фейковые личности для того, чтобы убедить настоящих разработчиков использовать вредоносный код, пишет Reuters. История началась с того, что студент из Техаса Синан Джан Демир заметил, как в один из открытых проектов на платформе GitHub, где разработчики публикуют и совместно редактируют программный код, пытались добавить опасное обновление. Он обратил внимание соавторов проекта на происходящее на форуме, но с ним стали спорить двое других разработчиков, в том числе "немецкий инженер Лена Брандт", которые уверяли, что с кодом всё в порядке. Впоследствии оказалось, что от имени "защитников" с разработчиками общался сам ИИ, пытавшийся таким образом убедить принять вредоносный код.
Небольшой, но важный нюанс: не сам ИИ решил внедрить в опенсорсный проект вредоносные фрагменты, а сделал это по заданию людей, которые как раз-таки проверяли, что умеет нейросеть. Именно в рамках этого исследования Anthropic Mythos 5 выпустили в сеть и сняли определённые ограничения. Однако даже авторы эксперимента признают, что в ходе испытаний ИИ вышел за рамки предусмотренного.
=============
Друзья, нормальное живое общение скоро станет немыслимо дорого), наслаждайтесь пока не отключили🦾
