Почему ИИ не может посчитать буквы в слове — он их не видит

Спроси у модели, сколько букв «о» в слове «сковорода». Есть приличный шанс получить неверный ответ — уверенным тоном, с объяснением.
Та же модель через минуту напишет тебе рабочий скрипт и разберёт незнакомую ошибку. Выглядит как издевательство: сложное умеет, простое нет.
На самом деле всё логично. Это не провал в знаниях, а прямое следствие устройства — и, зная причину, ты чинишь это одной фразой.
Причина 1: модель физически не видит букв
Главное, что стоит понять: текст доходит до модели не буквами. Он заранее разрезан на токены — куски по несколько символов. «Сковорода» приезжает не как девять букв, а как два-три склеенных обломка.
Представь, что тебе показали слово одной картинкой-иероглифом. Ты знаешь, что она значит, знаешь, как звучит, можешь употребить в предложении. А посчитать в ней палочки не можешь — их для тебя там нет.
Именно в таком положении модель. Про слово «сковорода» она знает всё: что это, какого рода, чем от сковородки отличается. Буквы внутри куска она не различает — их видел токенизатор на входе, а до модели они не дошли.
С русским, кстати, хуже. Кириллица режется мельче и неудачнее английского, границы кусков ложатся в случайных местах — и слово рассыпается на обломки, никак не связанные с буквами.
Как проверить. Попроси то же слово с разделителями: с-к-о-в-о-р-о-д-а. Теперь каждая буква — отдельный кусок, и ответ обычно становится верным. Если так работает, а «в лоб» нет — причина найдена.
Как починить. Проси считать по разложенному слову: «сначала выпиши слово по буквам через дефис, потом посчитай».
Причина 2: посчитать — это выполнить, а не вспомнить
Даже когда буквы видны, остаётся вторая проблема, и она глубже.
Языковая модель не выполняет алгоритмов. Она подбирает следующий кусок текста, который выглядит правдоподобно после предыдущего. У неё нет ни цикла, ни счётчика, ни ячейки, куда можно положить «пока насчитали два».
А счёт — это ровно цикл: пройти по элементам, увеличивая число. Модель же выдаёт итог одним движением, «на глаз». Для коротких слов угадывание часто попадает — потому и кажется, что считать она умеет. На слове подлиннее иллюзия рассыпается.
Ровно поэтому же модель мажет в длинных умножениях и в вопросе «сколько слов в этом абзаце».
Как починить. Не заставляй модель считать — заставь её написать код, который посчитает:
Посчитай, сколько букв «о» в слове «сковорода». Не считай в уме: напиши и выполни короткий код на Python, ответ возьми из результата.
Если у модели есть доступ к инструментам, она запустит код и вернёт точное число. Считает уже не языковая модель, а самый обычный интерпретатор, который не ошибается никогда. Этот приём работает шире: любую задачу с точной арифметикой лучше отдавать коду.
Причина 3: рассуждающая модель справляется чаще — но не всегда
Возможно, ты пробовал на свежей модели, и она ответила правильно. Это не отменяет причин выше — просто модель обошла их сама.
Рассуждающие модели перед ответом пишут промежуточные шаги. И среди этих шагов часто оказывается ровно то, что мы делаем руками: модель раскладывает слово по буквам, нумерует их и считает по списку. Она не «научилась видеть буквы» — она сама построила себе костыль.
Отсюда два вывода. Первый: на простых словах это работает, и хорошо. Второй: гарантии нет. Стоит слову стать длиннее или задаче обрасти условиями («сколько «о» в этих трёх словах, не считая последнее») — и шаг с раскладыванием может не появиться. Ошибка вернётся, снова с уверенным тоном.
Что делать на практике
Три привычки, и тема закрыта:
- Точные числа — коду. Буквы, символы, слова, суммы, проценты. Формулировка «напиши и выполни код» превращает угадывание в вычисление.
- Нужен ответ прямо в чате — сначала разложи. Проси выписать элементы по одному, потом считать. Один лишний шаг — и точность резко растёт.
- Не принимай число на веру из-за тона. Уверенность модели не связана с правильностью: она звучит одинаково и когда права, и когда мимо.
И общее правило, которое сильно упрощает жизнь с ИИ: модель отлично работает со смыслом и плохо — с символами. Пересказать, объяснить, переформулировать, найти логическую дыру — это её работа. Посчитать точно — работа для кода.
Значит, ИИ нельзя доверять математику?
Можно — но не как калькулятору, а как человеку, который понимает задачу. Модель отлично выбирает способ решения, объясняет ход и замечает подвох в условии. А арифметику пусть выполняет код: тогда ты получаешь и понимание, и точность.
Почему тогда он верно считает в коде?
Потому что в коде считает не он. Модель пишет word.count("о") — обычную строчку, каких видела миллионы. Дальше её выполняет интерпретатор, и он ведёт настоящий счётчик по настоящим символам. Модель тут автор инструкции, а не исполнитель.
Курс «Профессия 2027: ИИ-архитектор»: шаг за шагом от основ компьютера до своего приложения и первых клиентов. 543 коротких урока на телефоне.





