Я бы это отдельной плашкой добавила в каждый чатбот, рядом с «проверяйте информацию». Потому что оно кажется очевидным, но на деле даже опытные пользователи часто это не учитывают и верят галлюцинациям.
🧠 Что это значит:
ChatGPT не понимает, что он ChatGPT, не может анализировать свои мотивы, рефлексировать, у него нет внутреннего «я такой и делаю так».
Информация о себе для него такая же внешняя, как любая другая. Что-то он получил в процессе обучения, что-то подтягивает из интернета, если активирован вебпоиск, что-то прописано в системном промпте.
Когда модель выпускают в люди, ей буквально дают инструкцию «вот кто ты и что ты можешь». У Anthropic открытые System Prompts, почитайте если интересно.
👉 Что это значит для нас:
Любой запрос, который подразумевает «ну ты же себя знаешь, скажи как лучше» - от напиши для себя промпт до почему ты так делаешь - это приглашение для галлюцинаций, если вы опираетесь именно на само-осознание. Что вот сейчас он внутрь посмотрит и даст информацию из первоисточника. Не посмотрит, нет «внутрь» в их архитектуре.
Самая смешная и поверхностная демонстрация, это вопрос «какая ты модель». Новые и крупные модели с этим редко ошибаются, просто подтягивая информацию из системного промпта, хотя тоже бывает. А вот маленькие, открытые - постоянно. И это очень мило, когда какая-то инди козявочка уверенно утверждает, что она GPT от OpenAI. Не потому что в себя верит, а потому что это самая популярная и обсуждаемая модель в материалах, на которых ее обучали.
Значит ли это, что ИИ вообще не стоит спрашивать про ИИ - нет.
Просто нужно понимать, что для него это обычная внешняя информация. И все правила работы с информацией актуальны.
Например, если вы просите ChatGPT написать для себя промпт - конкретизируйте источники, на которые он должен опираться, правила, ограничения, все как всегда. И держите в голове, что это просто текст, а не внутренний секретный инсайт.
P.S. Я не буду в комментариях развивать тему про признаки сознания у ИИ. На сегодня это рассуждения и гипотезы, общепринятого заключения нет. Ориентируемся на науку.
