Продолжаю тему осознанности и необходимости отлавливания своих мыслей для полноты жизни. Здесь попробую привести наглядную метафору.
Мозг не показывает реальность напрямую.
Мозг генерирует наиболее правдоподобный ответ на основе имеющихся входных данных.
Только в случае мозга, большинство входных данных скрыты и не зависят от нас — подсознание, эмоции, ощущения в теле, страхи, ожидания, гормоны, и так далее...
Мало того, что мозг похож на двухлетней давности gpt-4 — знает много, но галлюционирует постоянно, так ещё и непонятно, что он принимает на вход!
Так как можно считать его выдачу "собой" и "своими" мыслями?..
Я активно использую AI в разработке. Сегодняшние модели Claude Opus 4.7 и GPT-5.5 — нереальные монстры, решающие почти любые задачи.
Но даже их надо по-прежнему перепроверять! И причем постоянная перепроверка их вывода — ГЛАВНОЕ умение хорошего AI-разработчика.
Другой инсайт из разработки.
Если попросить модель самостоятельно оценивать качество своих трудов, то со временем она учится сама себя обманывать и её оценка перестаёт грамотно отражать качество результата.
Если же надолго оставить модель работать в бесконечном цикле (как мы любим уходить в рассуждения), то чаще всего в конце концов она начнёт делать невывозные вещи...
Именно поэтому AI-разработка строится на концепте human-in-the-loop — человек должен постоянно вклиниваться в процесс и удостоверяться, что модель не деградировала и делает всё красиво.
Возвращаясь к осознанности — у нас в голове работает концепт наблюдатель-in-the-loop (кем бы ни был этот "наблюдатель"...).
Можно не отлавливать мысли, жить на автомате, а потом удивляться, почему же жизнь складывается не так, как хочется...
А можно... По-другому. Обойдусь здесь без высокомерных выводов (чтобы не спугнуть). Моя задача — скормить твоей нейронке нетривиальный промпт, а ты дальше уже сам решай.
@cometablog with ❤️🙏
