Говорят, что у больших языковых моделей нет внутреннего диалога и понимания (
Что модель "видит", когда вы пишете: "сколько будет 47 + 68?"
Мы видим два числа и знак "плюс".
Модель "видит" просто знакомый текстовый шаблон.
Она не оперирует сущностью "сорок семь" или "шестьдесят восемь".
Говорят, что у моделей нет единого "модуля сложения".
Есть много перекрывающихся процессов:
- одни грубо прикидывают порядок: «результат чуть больше ста»;
- другие отвечают за последнюю цифру: «7 + 8 обычно даёт 5 на конце»;
- третьи работают как выученная наизусть таблица сложения от 0 до 9…
Ничего не напоминает?😌
При этом большинство моделей начинают сыпаться на длинных числах (не говоря уже про очень длинные числа, когда его величеству Экселю нужно расширение XNumbers).
Короче говоря, на длинных, странно отформатированных или редких случаях LLM начинает ошибаться так, как не ошибся бы школьник.
Если спросить ИИ, как именно он посчитал пример, он в красках опишет:
"Сначала сложил единицы, перенёс разряд, потом сложил десятки…" - звучит очень "по-человечески".
Но на деле почему-то, оказывается, что описанный "школьный" алгоритм к тому, что реально происходило внутри, почти не относится.
Модель просто генерирует ещё один текст - правдоподобное объяснение, статистически похожее на другие объяснения из громадной обучающей выборки.
Это не окно в её внутренние процессы, а ещё один слой имитации.
Связность объяснения НЕ РАВНЯЕТСЯ корректности реального "хода вычислений".
ИИ где-то между «автодополнением» и «мышлением»
Масштабное предсказание токенов рождает механизмы, которые в узких областях имитируют рассуждения и арифметику. Но нигде не появляется субъект, который "понимает, что делает".
Но это и не «тупая автозамена». Внутри спонтанно вырастают сложные "узлы" - что то вроде логики, что-то вроде памяти фактов, что-то вроде прикидочной математики. Кстати, мой старший сын порой примерно так же считает.
Но LLM - это огромная машина паттернов, прокладывающая кратчайшие пути от контекста к ответу.
Некоторые пути выглядят как логика, некоторые - как планирование, некоторые - как счёт.
Но ни один из них не требует мышления в человеческом смысле.
Ну хорошо, а как это делает человек?
