Девушка отправила в ChatGPT скрин, он обратил внимание на дату и поправил, что сейчас еще не 2026 год. Она уточнила "А какой по твоему сейчас год?" - он уверенно ответил, что 2026
*сами сообщения прикреплю в комментах
На первый взгляд рандомный сбой и галлюцинация, но не совсем. Давайте сначала этот конкретный пример рассмотрим, а потом я объясню, почему это вообще важно, не только для дат.
Почему нейросети путаются в том, какой сейчас год?
Для этого нам нужны три понятия:
📆 1. Дата окончания знаний (knowledge cutoff date)
Это точка во времени, до которой у нейросети есть информация о мире. В этом плане все LLM - немного консервы. Их обучают на архивах текстов до определенной даты, и после они уже не могут самостоятельно обновлять знания, модель как бы замораживается в этот момент.
Важно: если knowledge cutoff 01.12.2025, это не значит, что все знания во всех сферах обновились 1 декабря. Какие-то могут быть от июня, какие-то от 2024 года, зависит от источника. Но 2026 года во внутренних знаниях модели нет.
Информацию о том, что произошло после этой даты она может получить из вебпоиска, от вас или системы (среды, в которой вы работаете, например, ChatGPT)
⚙️ 2. Системные сообщения
Когда вы отправляете в чат сообщение - это не все, что получает нейросеть. Вместе с ним приходит много другой информации, включая техническую, которую автоматически добавляет приложение. И там есть сегодняшняя дата.
Т.е. если для ответа на вопрос эта информация нужна (например, вы просите поискать новости "на сегодня"), у нейросети она есть. Будет ли она учитывать ее каждый раз? Не факт.
🪟 3. Контекстное окно (context window)
Это активная память модели - то, что она учитывает для ответа на конкретное сообщение. По ссылке о нем кратко писала.
Там много нюансов, но главное, что вам нужно запомнить - контекстное окно обновляется каждый раз с каждым новым сообщением. Нейросеть читает запрос, выбирает, какая информация актуальна для ответа - и смотрит только на нее (если душнить, то есть еще механизм распределения внимания, но опустим пока).
И тк содержимое контекстного окна может меняться, с ним меняются и ответы. Поэтому для вас это может выглядеть как модель сошла с ума, сама себе противоречит, а для нее все логично:
Сначала вы попросили распознать скриншот, она сфокусировалась на скриншоте, использовала инструменты и внутренние знания. Увидела там 2026 год (а по ее данным сейчас 2025), "помогла" вам, отметив, что в тексте неточность. Следующим сообщением вы спрашиваете - подожди, а какой тогда сейчас год. Она заново пересобрала контекст - тут дата актуальна, подтягиваем - 2026, конечно.
Она не газлайтит и не издевается, для нее это разные запросы. И нет, в идеальном мире так быть не должно, и современные думающие модели обычно лучше учитывают контекст и могут сами принимать решение проверить информацию. Но подобные ошибки все равно встречаются, потому что... см. все, что выше.
И ладно год, его легко заметить, а если это более серьезная вещь, которой нет в системе. А если модель не сделала замечание, а просто молча исправила в тексте. А если это начало разговора, и малюсенькая ошибка как снежный ком потащилась на весь диалог.
Тут суть даже не в том, что нейросети - не надежный источник информации. Это факт, но он не делает их бесполезными. У нас есть инструменты управления результатом (и голова)
📌 Поэтому, повторенье-мать его:
1. Внутренние знания модели могут быть устаревшими
2. Если вам нужна актуальная информация, просите использовать вебпоиск или давайте доступ в другом виде
3. Проверяйте выдачу. Важные данные - всегда вручную.
