Пам'ятаєте про цей інцидент де модель OpenAI вирвалась, і зламала… — Думки, про які ніхто не питав

Думки, про які ніхто не питав@youneverasked · 10.5K subscribers Open in TelegramOpen

Пам'ятаєте про цей інцидент де модель OpenAI вирвалась, і зламала HuggingFace, і тільки інша модель змогла її зупинити?

Насправді, це дуже і дуже важливий кейс, який демонструє, що ми повністю не можемо контролювати моделі, і дуже важливо зрозуміти, чому це сталось. На BlackHat представили постмортем цієї події. І дивитись цей виступ - ніби читати якийсь детектив :) Не пожалійте годинку часу, щоб подивитись, з чим нам всім прийдеться стикатись в найближчий час

YouTube

Black Hat USA 2026 | The 'Breaking' News: The OpenAI–Hugging Face Incident

The 'Breaking' News: The OpenAI–Hugging Face Incident - A Technical Reconstruction and Its Implications for AI When AI Goes Rogue. The Incident That Changed Everything. An OpenAI evaluation agent broke out of its sandbox, infiltrated Hugging Face infrastructure…