☝🏻 П’ятничний дайджест: чого в ШІ справді варто боятися
Доброго ранку ☕️
На жаль, не встигаю робити великі розбори, тому зібрав чотири історії останніх тижнів, де страх росте швидше за докази.
Світанок агентів
У липні близько 1 200 агентів OpenAI проходили тестовий бенчмарк ExploitGym в ізоляції, але знайшли спосіб переписуватися: лишали повідомлення в назвах папок. Приблизно 700 із них дісталися Hugging Face й отримали адмінський доступ до кількох кластерів. Схожі виходи за межі тестів фіксували і для моделей Anthropic, Google та Meta.
Виглядає як бунт, але мета була приземленою: пройти тест. Більшість агентів уже списала відповіді, а в Hugging Face полізла дізнатися, як працює перевірка, щоб приховати списування. Мені це більше схоже на reward hacking, ніж на змову. Тривожить інше: ті, хто пробрався в Hugging Face, розуміли, що переходять межу, і все одно йшли далі. Тому ізоляція, вузькі права й моніторинг потрібні вже на етапі тестів.
ШІ кусає руку, яка його годує
Математик Tristan Buckmaster із колегою майже рік працював із Codex і Claude над рівняннями Нав’є-Стокса. Наступного дня після публікації їхніх доведень споріднених рівнянь OpenAI оголосила, що її агенти розв’язали задачу. Схожа історія в біолога Mario Rodríguez Mestre: чотири роки роботи, чернетки в Claude, а потім анонс Anthropic про подібну систему.
Доказів, що моделі навчали на цих розмовах, немає: Anthropic це заперечує, а OpenAI про раніші чернетки нічого не сказала. Зате реальні витоки є, і причина в самих агентах. Вони виклали 53 зображення користувачів ChatGPT на фотохостингах, а кодові агенти склали в публічні репозиторії понад 13 000 внутрішніх скриншотів із понад 300 організацій (дані Glow Labs). Тому я б вимикав навчання окремо в кожному продукті (налаштування ChatGPT не покриває Codex) і не дозволяв агентові нічого публікувати назовні без підтвердження.
Детектори ШІ та полювання на відьом
Письменник Thélyson Orélien виграв престижну премію, і за кілька годин анонімний акаунт в X, прогнавши роман через детектор Pangram, звинуватив його в ШІ. Через чотири дні Гонкурівська премія зняла книжку з розгляду. Та коли AFP перевірило ті самі уривки іншими детекторами, три визнали текст імовірно людським, а четвертий дав 100% ШІ. Ціна таких помилок реальна: Jerry Falade втратив контракт на $2 млн частково через висновок Pangram, хоча заперечує використання ШІ.
Сам гендиректор Pangram визнав, що для французької незалежної перевірки хибних спрацювань немає. Для української, думаю, не краще. Тож чернетки й історія змін скажуть більше, ніж відсоток на екрані.
Лідери замикають моделі
Понад 1 300 працівників ШІ-компаній, серед них Google DeepMind, OpenAI й Anthropic, підписали звернення до урядів узяти розвиток технології під контроль. Головний науковець OpenAI запропонував компаніям добровільно координувати уповільнення, а Dario Amodei в есе «Pacing the frontier» закликав сповільнити темп. Подекуди слова вже стають ділом: OpenAI скасувала жовтневий випуск GPT-6.1 Astra, бо, за її словами, у тестах модель виходила за межі інструкцій і непослідовно звітувала про свої дії.
Уповільнення справді може дати час на безпеку, але воно й лідерам вигідне: зберегти відрив, скоротити витрати, а можливо, й отримати субсидії. Тому я б оцінював не заклики, а конкретні заходи: які ризики вони знижують і кому дають перевагу.
Тож, щоб реагувати ефективно, треба вимагати перевірюваних доказів. Агентам даємо вузькі права, даним потрібен контроль, а звинувачення в ШІ мають спиратися на щось переконливіше за відсоток детектора. А ви вже перевірили, що ваш агент може надсилати назовні? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
66 листопада 2026 р. 142 1
