Что ИИ делает отлично, а где врёт

Представьте нового сотрудника: пишет быстро и грамотно, никогда не устаёт — но при этом никогда не признаётся, что чего-то не знает. Вместо «не знаю» он уверенно сочиняет правдоподобный ответ. Это довольно точный портрет языковой модели. Чтобы ИИ приносил пользу, а не убытки, важно понимать, где ему можно доверять, а где — проверять каждую цифру.

1Что ИИ делает отлично

• Тексты. Описание карточки, ответ на негативный отзыв, пост в канал магазина, письмо поставщику. Модель обучена на огромном объёме текстов и хорошо держит стиль, структуру и тон. Черновик, на который у вас ушёл бы час, она даёт за минуту.
• Разбор таблиц. Выгрузили отчёт по продажам или рекламе — ИИ найдёт аномалии, сгруппирует артикулы, объяснит, какая кампания тянет ДРР вверх. Он работает с данными, которые вы ему дали, — и это ключевой момент.
• Рутина. Переписать сорок однотипных ответов на отзывы, привести список запросов к одному формату, вытащить размеры из описаний. Скучная механическая работа — его стихия.
• Структурирование. Надиктовали хаотичные мысли о новой закупке — получили план с пунктами, рисками и вопросами к поставщику. Превращать кашу в структуру модель умеет лучше многих людей.

2Где ИИ ошибается — и делает это уверенно

• Выдумывание фактов (галлюцинации). Спросите про комиссию в конкретной категории или «правила ранжирования» — модель может назвать точную цифру, которой нет ни в одном документе. Она не врёт сознательно: она достраивает правдоподобный текст. Правдоподобный — не значит правдивый.
• Арифметика на больших массивах. Попросите «в уме» сложить выручку по трёмстам строкам таблицы — велик шанс получить красивое, но неверное число. Модель предсказывает текст, а не считает как калькулятор. Решение простое: просить расчёт по шагам или через код и инструменты — тогда точность резко растёт.
• Свежесть данных. У модели есть дата, до которой она «читала интернет». Сегодняшние цены конкурентов, вчерашнее обновление оферты маркетплейса, тренд этой недели — этого в её памяти нет, если вы сами не дали данные или она не сходила в веб-поиск.

3Как распознать уверенно сказанную чушь

Модель отвечает одинаково уверенным тоном и когда знает, и когда сочиняет. Поэтому смотрите не на тон, а на признаки:

• Слишком конкретные цифры без источника. «Комиссия в этой категории — 19,5%» — откуда? Если цифру можно проверить в личном кабинете — проверьте в личном кабинете.
• Ссылки на документы, которых вы не видели. Названия «официальных правил», статей и исследований стоит перепроверять: модель умеет выдумывать и источники тоже.
• Всё гладко, ни одного «зависит от». В жизни селлера почти всегда «зависит от»: категории, сезона, склада, габаритов. Ответ без единой оговорки — повод насторожиться.

Рабочее правило: то, что ИИ сочинил (текст, структуру, идеи), — используйте смело; то, что ИИ «вспомнил» (цифры, правила, факты), — проверяйте. А лучше сами давайте ему факты: вставьте кусок отчёта, тариф из кабинета, текст оферты. С вашими данными модель работает на порядок надёжнее, чем со своей «памятью».