В “Сиолошной” большой пост про антропоморфизацию моделей и агентов с учетом того, что в последнее время такие аналогии встречаются часто, в том числе при разборе поведения агентов во время взлома Hugging Face — там буквально фрагменты внутренней переписки содержат сообщения типа “Я должен принести себя в жертву ради общего дела” и так далее.
Противники использования сравнений с человеческим поведением оперируют достаточно уязвимыми аргументами типа “Это электрические сигналы, у них нет желаний, они не принимают решения”. Если подходить беспристрастно и, например, вооружиться томиком Сапольски, легко показать, что человеческие желания, решения и чувства являются результатом биохимических процессов — так почему результатом физических процессов в проводниках не могут быть решения LLM? “С антропоцентристами дискутировать не желаю”, как сказал один из героев Стругацких.
Тот факт, что у LLM не существует белковой формы, в принципе, тоже не является доказательством. Мало ли что нам не дано в ощущениях — примерно всё население Земли в глаза не видело в реальной жизни примерно всё остальное население Земли, но до фильма “Матрица” даже теории не строило, что всё вокруг иллюзия.
Человеку свойственно оперировать аналогиями и сравнениями. При должной формализации рабочих процессов разница между хорошо настроенным агентом и квалифицированным сотрудником может быть и не заметна — агент уже способен справляться со сложными задачами, а живой человек способен делать самые глупые ошибки, ссылаясь на “А мне не сказали, как надо” (читай — не было нужной информации в контексте). Принципы делегирования отличаются мало, недетерминированность исполнителей соразмерна, с агентом вы общаетесь чатом, тикетами и документацией, с удаленным сотрудником вы общаетесь чатом, тикетами и документацией — зачем нужно придумывать новые сущности для организации взаимодействия с агентами, если традиционные работают не хуже? У нас есть люди, которых нельзя прерывать, а то они выпадут из потока и будут не в ресурсе, у нас есть агенты, которые на вопрос “Откуда это ты взял?” честно пишут “Взял из головы” — как их отличать и надо ли?
Telegram
Сиолошная
На прошлой неделе у Паши Комаровского вышел пост про детали инцидента со взломом HF; я чуть-чуть помогал в редактуре/точечных корректировках, но не могу согласиться с каждой изложенной мыслью (и сам бы писал по другому; может ещё и напишу!). Там Паша проводил…
1
26
7
6
2
1
26
7
6
2
1August 31, 2026 3.5K 28
