Публикую мой текст 12-летней давности, снова актуально, в конце добавлю почему
Феодальная безопасность
Уильям Гибсон ретвитнул ссылку на отличную лекцию Брюса Шнайера (Bruce Schneier) в Гугле. Брюс занимается компьютерной безопасностью, на встрече он рассказывал про тенденции в этой области. В частности, про то, что мы больше и больше доверяем в вопросах безопасности, о которой в принципе не очень привыкли заботиться, поставщикам оборудования и услуг.
Мы пользуемся устройствами, над которыми имеем удивительно мало контроля: Киндл без спроса устанавливает новые прошивки, айфоны не позволяют удалить куки или даже поставить дополнительный софт для этого и т.д. Джонатан Зиттрейн называет такие устройства «привязанными» (tethered device) и видит в этом большую опасностью, Шнайер чуть более взвешен и видит только экономическую причину в таком поведении вендоров.
Мы пользуемся облачными сервисами: почта, социальные сервисы, проектный менеджмент и т.д., полностью доверяя вопросы безопасности их провайдерам. Причин этому много: удобство, автоматизация, избыточность, однако, отмечает Брюс, такого уровня доверия провайдерам услуг не существовало никогда. Фейсбук стал посредником всех наших социальных взаимодействий, Гугл знает о ваших интересах больше, чем ближайшие родственники. Но это компромисс, на который большинство людей идут без особых раздумий. Мы верим, что поставщики будут обращаться с нами хорошо и защитят от опасностей. Для большинства из нас нет и реальных альтернатив.
Получившуюся среду Брюс назвал феодальной безопасностью. Мы, пользователи, даём клятву верности могущественной компании, которая, в свою очередь, обещает нас оберегать. Средневековый феодализм, добавляет Брюс, сформировался в среде, полной опасностей, в которой для выживания был необходим кто-то более сильный, чем вы сам. Политическая система была довольно сложной и представляла из себя ряд иерархических отношений. Обязательства были у обеих сторон. И, по наблюдению Шнайера, именно такая система становится распространенной в наши дни.
У неё есть свои преимущества: облачные сервисы предоставляют бОльшую безопастности, чем большинство людей смогли бы обеспечить себе сами. Для них провайдеры повышают уровень безопасности, но для более продвинутой аудитории они же этот уровень понижают. […]
——
Почему это актуально сейчас?
Потому что LLM знают про нас ещё больше. Если мы пользуемся ими для всех важных решений, то — на порядки больше, чем условный Гугл знал до появления LLM. Человек с технологиями вступал в разные отношения и задолго до бума генеративного, но редко компаниями удавалось создать что-то, что бы стало нашим другом, конфидентом, любовником.
Радует на этом фоне opensource — открытые и легкие модели, стремительно догоняющие по производительности топовые коммерческие. Уверен, что ИИ, автономно бегающие носимых устройствах — неизбежное будущее, и, к счастью, здесь точно будет выбор между открытыми решениями и полностью закрытыми. gpt-oss — по мне самый важный релиз августа.
