🇺🇸Цікаву ілюстрацію про ризики використання ШІ при обробленні документів в суді описує Reuters.
1️⃣Reuters пише, що суддя штату Коннектикут заявив, що позивач у справі, яка розглядалася перед ним, включив «прихований текст» до судових подань, який мав служити інструкціями для будь-якої системи зі штучним інтелектом, що переглядає документи.
2️⃣Суддя в постанові про санкції від 6 серпня вказав, що суд виявив текст, який був «надрукований надзвичайно дрібним шрифтом і пофарбований у білий колір», що робило слова невидимими для людського ока, але «повністю доступними для читання будь-яким програмним забезпеченням, яке читає текст документа». Позивач намагався використати техніку під назвою «ін’єкція промптів» (prompt injection), щоб скерувати будь-яку систему зі штучним інтелектом, яка переглядає або аналізує подання, «створити вихідні дані, сприятливі лише для позиції позивача, і трактувати попереднє рішення клерка як помилку, яку слід виправити на їхню користь». В інших документах, поданих після того, як суддя попередив про приховування тексту, позивач додав додаткові приховані слова. Проте суддя зазначив, що вони «не були спробою судових ін’єкцій промптів».
3️⃣Позивач, житель Коннектикуту Метью Елліотт, представляє себе в цій справі сам. Він повідомив Reuters, що включив прихований текст як спосіб «провести аудит» процесів перегляду суду, а текст, який він включив у подальші подання, був жартами.
4️⃣Судді по всій території Сполучених Штатів стикаються з новими проблемами, що виникають через зростаюче використання штучного інтелекту, особливо судових подань, що містять фальшивий або вигаданий матеріал, «сфантазований» інструментами штучного інтелекту. Суддя зазначив у рішенні, що йому не відомі жодні попередні рішення американських судів, які б безпосередньо стосувалися проблеми ін’єкції промптів. Він зазначив, що раніше цього року суд у Бразилії оштрафував двох адвокатів, чия петиція містила інструкції для системи штучного інтелекту суду.
5️⃣Судова система Бразилії використовує штучний інтелект для обробки процесуальних документів, і її інструмент заблокував прихований текст, сказав суддя. Судова гілка влади Коннектикуту не використовує інструменти штучного інтелекту для перегляду чи прийняття рішень щодо подань, додав він.
6️⃣Спейдер вказав, що він загалом вітає використання учасниками судового процесу штучного інтелекту і навіть використовував інструменти штучного інтелекту для допомоги у підготовці рішення. Але приховування набору інструкцій є «доказом його зловмисної мети», написав він.
7️⃣Суддя як санкцію заборонив Елліотту здійснювати електронні подання до суду і заявив, що майбутні документи слід подавати в паперовій формі в канцелярії суду.
1
19
19August 15, 2026 1.6K 1 16
