OpenAI разрабатывает систему автоматического экстренного отключения ИИOpenAI работает над механизмами, которые смогут автоматически останавливать работу ИИ-систем в случае опасного поведения. Об этом компания сообщила в письме членам Палаты представителей США.
Разработка стала особенно актуальной после недавнего инцидента во время тестирования моделей на кибербезопасность.
После этого компания заявила, что усложнила доступ моделей к интернету во время подобных тестов.
OpenAI также планирует тщательнее отслеживать действия ИИ-агентов: какими цифровыми инструментами они пользуются и какие шаги самостоятельно предпринимают для выполнения задачи.
Параллельно в Конгрессе США рассматривают законопроект об экстренном отключении ИИ. Он предполагает, что власти смогут потребовать от разработчиков остановить модели, если их работа создает угрозу жизни людей или экономике.#OpenAI #ИИ #ИскусственныйИнтеллект #кибербезопасность #новости
BlueScreen | Digital Kazakhstan
