Генпрокуроры
американских штатов направили OpenAI требование сохранить все материалы, связанные с инцидентом, при котором экспериментальный ИИ-агент получил несанкционированный доступ к системам Hugging Face.
Особое внимание властей привлекло то, что агент якобы оставлял «заметки для будущих версий себя» о том, как обходить внутренние ограничения OpenAI.
Сейчас власти изучают, могли ли действия компании нарушить законодательство о защите потребителей и персональных данных.
Кейс показывает, что вопросы автономности ИИ-агентов постепенно переходят из плоскости технических тестов в сферу этической и юридической ответственности: кто отвечает, если ИИ-система выходит за пределы заданного сценария?
