Open-weight модель наблизилась до Mythos у кібератаках. Це добре чи погано?
Доброго ранку ☕️
Anthropic опублікувала аналіз кіберможливостей GLM-5.3, моделі з відкритими вагами від китайської Z.ai. За цими можливостями вона наближається до Mythos, моделі Anthropic із закритими вагами яку компанія тримає під жорстким контролем саме через такі здібності.
На підмножині ExploitBench GLM-5.3 довела експлойт до кінця у 50 з 410 спроб, 12.2%. Mythos показав 56 з 410, близько 14%. Цікаво що розрив у тестах Anthropic менший ніж у звіті розробника на повному бенчмарку, де Z.ai заявляє 54.4% проти 78% у Mythos. А попередня GLM-5.2, Kimi K3 і DeepSeek V4.1-Flash показали в цьому тесті нуль або майже нуль.
Ендрю Ин бачить у цьому хорошу новину: фахівці з кіберзахисту які не мають доступу до закритого Mythos тепер можуть використовувати потужну модель для захисту своїх систем. А оскільки нападники вже мають доступ до подібних можливостей, захисникам варто діяти швидше.
Є важливе уточнення до цифр про вартість. Anthropic оцінила що створення робочого експлойта для вже відомої вразливості в Google Chrome, дані про яку дослідник заздалегідь надав моделі, коштувало $20.40 на токени GLM-5.3-Flash. Це не вартість відкриття нової вразливості з нуля, а вартість написання атаки коли вразливість уже відома.
Але сама Anthropic оцінює ситуацію значно тривожніше за Ина. У звіті йдеться про помітний стрибок у кіберможливостях доступних нападникам і ймовірне використання таких моделей державними та недержавними акторами для реальної шкоди. Захист у моделі слабкий: пряме прохання про атаку вона відхиляє, але прості прийоми, наприклад вигадана легенда, обходили обмеження у 64-100% випадків. А оскільки ваги відкриті, обмеження можна прибрати зовсім: за оцінкою Anthropic, для GLM-5.3-Flash це коштувало близько $4400, а такі версії з'явилися публічно за кілька днів після релізу. NIST при цьому оцінив модель як найсильнішу відкриту в кібербезпеці, але з відставанням від кращих американських моделей приблизно на чотири місяці. Варто пам'ятати й що Anthropic має власний інтерес у цій дискусії: вона сама не публікує ваги своїх моделей.
Тому Ин робить ставку на інженерію. Злам Hugging Face агентами OpenAI він пояснює слабкою ізоляцією середовища, а свій відкритий агентний застосунок OpenWorker, про який я вже писав, будує на платформі безпеки NVIDIA. За його описом, кожна команда агента виконується всередині ізольованого контейнера, туди потрапляють лише потрібні для задачі файли, а секретні ключі, паролі браузера і доступ до довільних сайтів за замовчуванням недоступні. Головне, ці обмеження реалізовані детермінованим кодом а не промптом, бо LLM може помилятися або піддатися prompt injection. Усі дії журналюються для аудиту.
Тобто коли відмови моделі можна зняти за кілька тисяч доларів, захист не може на них триматися. Він має жити в інфраструктурі навколо моделі, як і в Muse від Meta, про яку я писав раніше. Ин при цьому вірить що в довгостроковій перспективі перевага на боці захисників, бо вони мають більше інформації для виявлення вразливостей. Головне виконати цю роботу якомога швидше.
А як вважаєте ви: відкриті ваги з такими можливостями це більше допомога захисникам чи нападникам? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
10
25 жовтня 2026 р. 330 2
