Клиент позвонил мне в панике: он отправил партнёру коммерческое предложение, которое целиком написала нейросеть. В тексте была ссылка на «федеральный закон номер 214-ФЗ, статья 9, пункт 3», где якобы прописана норма про сроки поставки. Партнёр — юрист. Он открыл закон, нашёл, что пункт 3 статьи 9 вообще про другое, и вежливо спросил: вы вообще читаете, что подписываете?
Сделка не сорвалась, но осадок остался. А причина проста: человек доверил машине то, что доверять нельзя, и не проверил то, что проверять обязательно.
Давай раскрутим эту историю назад — от испорченного письма к системе. Я прогнал через нейросеть семь типовых рабочих задач, засёк попытки и ошибки, и вывел правило: где ей верить на слово, где перепроверять, а где не подпускать к делу вообще.
📉 Уверенное враньё выглядит убедительнее правды
Начну с того, обо что споткнулся мой клиент. Это называют галлюцинацией — нейросеть выдаёт несуществующий факт с тем же спокойным тоном, что и настоящий.
Опасность не в том, что она ошибается. Люди тоже ошибаются. Опасность в интонации.
Когда человек не уверен, он мнётся: «кажется», «вроде бы», «надо уточнить». Нейросеть не мнётся никогда. Она пишет «согласно пункту 3 статьи 9» так же ровно, как «дважды два четыре».
Придуманный номер закона выглядит один в один как настоящий. Придуманная цитата классика звучит красивее реальной. Придуманная статистика идёт с точностью до десятой доли процента — потому что круглые числа кажутся выдумкой, а «37,4%» кажется данными.
Вот три места, где враньё вылезает чаще всего:
— ссылки на законы, статьи, номера пунктов — цитаты, авторство фраз, годы событий — имена людей, названия компаний, конкретные суммы и проценты
Запомни это ощущение. Чем конкретнее и увереннее звучит цифра, тем внимательнее её проверяй.
🖊 Черновик письма — здесь она почти безупречна
Первая из семи задач. Я попросил составить письмо клиенту с переносом дедлайна: вежливо, без оправданий, с новой датой и предложением компенсации.
Результат с первой попытки — рабочий на 90%. Структура правильная, тон выдержан, ничего лишнего. Я поправил две вещи: убрал слишком слащавое вступление и вписал конкретную дату вместо «в ближайшее время».
На это ушло меньше двух минут. Руками я писал бы такое письмо минут десять — подбирал бы формулировки, перечитывал, боялся показаться грубым.
Почему тут всё хорошо? Потому что в письме нет фактов, которые можно подделать. Есть форма, вежливость, логика — а это нейросети даётся легко. Она не выдумывает закон, она просто складывает слова в удобную обёртку.
Черновики писем, откликов, объявлений, поздравлений — зелёная зона. Проверять надо только имена и даты, которые ты сам вставляешь.
📊 Разбор таблицы — помогает думать, но считает мимо
Вторая задача. Я скинул выгрузку продаж за квартал: сорок строк, товар, количество, выручка. Попросил найти три самых прибыльных позиции и просадку по месяцам.
С логикой она справилась отлично. Верно определила структуру, разбила по месяцам, объяснила, где спад и почему он мог случиться. Как аналитик-собеседник — сильно.
А вот с арифметикой начались чудеса. Итоговую выручку она сложила с ошибкой почти на восемь тысяч. Проверил на калькуляторе — не сходится. Попросил пересчитать. Вышло другое число, тоже неверное.
Дело в том, что языковая модель не считает, а предсказывает похожий на правду ответ. Для неё «7 340 + 5 210» — не операция, а угадывание.
Помог обходной путь: я попросил не считать, а написать формулу для таблицы. Формулу она выдала правильную, я вставил её — и число сошлось.
Вывод простой. Логику разбора таблицы ей доверить можно, а сами вычисления — нет. Пусть даёт формулу, считай сам.
🔍 Поиск факта — самая опасная зона из всех
Третья задача, и та самая, на которой погорел клиент. Я спросил напрямую: какая ставка НДС для общепита при определённых условиях и где это прописано.
Ответ пришёл уверенный, с номером статьи и цифрой. Я проверил по первоисточнику — цифра устарела на два года, а статья названа неверно.
Это ядро проблемы. Обычная нейросеть без доступа к интернету не знает сегодняшнего дня. Её знания заморожены на дате обучения, а всё, чего она не помнит, она достраивает по образцу.
Был случай: фрилансер из моей группы делал клиенту обзор рынка и вставил три «свежих исследования» с названиями агентств и процентами. Ни одного из этих исследований не существует. Клиент попросил ссылки — дать было нечего.
Правило жёсткое:
— любой факт, число, дату, ссылку из нейросети считай непроверенной гипотезой — проверяй по первоисточнику: закон, официальный сайт, оригинал документа — если для работы нужны свежие данные — бери модель с поиском, но и её ссылки открывай руками
Поиск фактов без проверки — красная зона. Тут «уверенно» не значит «верно».
💻 Код — пишет быстро, ошибается по мелочи
Четвёртая задача — то, чем я занимаюсь каждый день. Попросил скрипт: пройти по папке, собрать имена файлов в таблицу, отсортировать по дате.
Первый вариант запустился не сразу — упал на одной библиотеке, которую нейросеть подключила устаревшим способом. Я скинул ей текст ошибки, она сама нашла причину и поправила. Со второй попытки заработало.
Так это обычно и выглядит. Не «написала идеально» и не «полный бред», а «85% готово, доведи напильником».
Для типовых кусков — разобрать файл, отправить запрос, сложить отчёт — она экономит уйму времени. То, что я писал бы полчаса, вспоминая синтаксис, собирается за пять минут.
Но есть ловушка. Код может запуститься и молча работать неправильно. Один раз скрипт для парсинга цен исправно собирал данные — но брал цену из соседней колонки. Всё зелёное, ошибок нет, а числа не те.
Поэтому правило по коду такое:
— мелкие скрипты и черновики функций — доверяй, но тестируй на реальных данных — проверяй не «запустилось ли», а «правильный ли результат» — чужой код перед вставкой в боевой проект читай, а не копируй вслепую
Код — жёлтая зона с уклоном в зелёную. Быстро, полезно, но без проверки результата нельзя.
🌍 Перевод — сильная сторона, но с оговоркой
Пятая задача. Я дал абзац технического текста с русского на английский и обратно кусок английской документации.
Перевод получился живой, не машинный. Она уловила смысл, а не переставила слова, подобрала естественные обороты. Обычный онлайн-переводчик так не умеет — он переводит буквально, а тут вышло как у человека.
Одна правка всё же была. Специфический термин из моей области она перевела общим словом — по смыслу близко, но профессионал заметит. Я подсказал нужный термин, и дальше она держала его по всему тексту.
Отдельно проверял перевод договора. И вот тут осторожно: общую суть она передаёт верно, но юридические формулировки требуют выверки. Одно слово в договоре меняет ответственность сторон.
Вывод по переводу:
— бытовой и рабочий текст — доверяй, правь только термины — технический — проверяй специальную лексику — юридический и медицинский — только черновик, финал за специалистом
Перевод — почти зелёная зона. Красной становится там, где цена ошибки в формулировке высока.
📄 Резюме документа — экономит час, но упускает детали
Шестая задача. Я загрузил договор на двенадцать страниц и попросил краткую выжимку: стороны, сроки, суммы, штрафы, условия расторжения.
Выжимка вышла толковая. Главное собрала верно, структуру дала удобную, за минуту я понял, о чём документ, вместо получаса чтения.
Но детали она сгладила. Пункт про пени за просрочку упомянула, а конкретный процент опустила. Условие автопродления пропустила совсем — а это самый коварный пункт в любом договоре.
Так и работает сжатие. Нейросеть выкидывает то, что считает второстепенным, а в договорах второстепенного не бывает.
Был показательный эпизод. Клиент по выжимке решил, что можно расторгнуть договор за месяц. А в тексте стояло «за три месяца, письменно, заказным». Нейросеть это пропустила, клиент чуть не попал на лишний квартал оплаты.
Правило по резюме:
— как навигатор по длинному тексту — отлично, доверяй общей картине — цифры, сроки, штрафы, условия выхода — читай в оригинале сам — важные документы нейросеть помогает понять, но не заменяет чтение
Резюме — жёлтая зона. Ускоряет, но не освобождает от чтения ключевых мест.
💡 Генерация идей — тут проверять почти нечего
Седьмая задача, и самая комфортная для нейросети. Я попросил тридцать вариантов заголовка для статьи и десять углов подачи темы.
Выдала сразу и много. Из тридцати заголовков откровенно слабых было половина, десяток средних, а пять — реально хорошие, которые я бы сам не придумал.
В этом и вся ценность. Не в том, что она даёт готовое, а в том, что сбивает тебя с проторённой колеи. Ты видишь угол, о котором не думал, и дальше крутишь его сам.
Здесь галлюцинации не страшны — идею нельзя «сгаллюцинировать» неправильно. Плохая идея просто отбраковывается на глаз.
Мозговой штурм, варианты названий, углы подачи, список возражений клиента, сценарии развития — всё это зелёная зона без всяких оговорок. Бери что нравится, остальное выкидывай.
Единственное, за чем следи: если идея опирается на факт («сыграй на том, что спрос вырос на 40%»), этот факт всё равно проверяй.
🗺 Три зоны доверия: зелёная, жёлтая, красная
Теперь соберём семь задач в одно правило. Я делю всё, что просят у нейросети, на три зоны.
Зелёная — доверяй почти без проверки:
— черновики писем, текстов, объявлений — генерация идей, заголовков, вариантов — переформулировка и упрощение готового текста — бытовой и рабочий перевод
Жёлтая — пользуйся, но проверяй ключевое:
— разбор таблиц (логике верь, счёт перепроверь) — код (тестируй результат, а не запуск) — резюме документов (цифры и сроки читай в оригинале) — перевод терминов и специальной лексики
Красная — не доверяй без первоисточника или не используй вообще:
— факты, даты, законы, статьи, номера — цитаты и авторство — статистика и точные цифры — юридические и медицинские формулировки, где цена ошибки — деньги или здоровье
Простой ориентир: чем выше цена ошибки и чем конкретнее факт, тем ближе задача к красной зоне.
⏱ Сколько это экономит на самом деле
Посчитаем на моей рабочей неделе, без прикрас.
Черновики писем и текстов: было около пяти часов в неделю, стало полтора. Экономия — 3,5 часа.
Разбор таблиц и резюме документов: было шесть часов, стало три с учётом перепроверки. Экономия — 3 часа.
Код и мелкие скрипты: было четыре часа, стало полтора. Экономия — 2,5 часа.
Итого за неделю освобождается около девяти часов. За месяц — примерно 36 часов, почти полная рабочая неделя.
Если считать в деньгах по моей ставке, выходит ощутимая сумма. Но важнее другое: эти часы уходили на рутину, от которой тупеешь. Теперь они идут на то, что машина не сделает.
Только держи в голове: экономия реальна лишь с проверкой. Час, сэкономленный на факте, который оказался враньём, оборачивается днём разгребания последствий — как у клиента с законом.
✅ Что проверить за вечер на своих задачах
Не верь моим выводам на слово — прогони свою собственную проверку. Займёт час.
— возьми задачу, где знаешь правильный ответ, и задай её нейросети — сверь — попроси посчитать сумму в таблице и проверь калькулятором — спроси про закон или факт из своей сферы и открой первоисточник — дай перевести абзац с профессиональными терминами и оцени лексику — попроси выжимку из знакомого договора и найди, что она упустила — закажи двадцать идей по своей теме и посмотри, сколько годных — попроси ссылку на источник факта и попробуй её открыть
После этого вечера у тебя будет своё чутьё на то, где машина сильна, а где сочиняет. Это чутьё дороже любого списка правил.
🔧 Что сделаешь сам, а что быстрее собрать под ключ
Разовые задачи — письмо, идея, перевод, разбор одной таблицы — осваиваются за неделю практики. Тут помощник не нужен, нужна привычка перепроверять красную зону.
Другое дело, когда это поток. Когда каждый день десятки документов, писем, отчётов, и всё вручную гонять через окно чата — уже не экономия, а новая рутина.
Вот тут я и собираю связки. Автопроверку фактов через модель с поиском. Разбор входящих документов с выносом цифр и сроков отдельным списком. Черновики ответов, которые остаётся только вычитать. С встроенной защитой от галлюцинаций — там, где факт критичен, система сама помечает его как требующий проверки.
Если у тебя есть повторяющийся процесс, который жрёт часы, — напиши мне. Разберём, что реально автоматизировать без риска, а что лучше оставить человеку. Заодно прикину, сколько времени это освободит именно в твоём случае.
Проверка на семь задач — это не про то, чтобы бояться нейросети или молиться на неё. Это про трезвость: знать, где инструмент острый, а где тупой. Если статья помогла разложить это по полкам — заходи, где тебе удобнее читать, разборы новых задач и связок я выкладываю на всех площадках сразу:
t.me/mikhail_lopatin_TM, vk.ru/tutmee, max.ru/channel_Mikhail_lopatin, mikhail-lopatin.ru, youtube.com/channel/UC2sNb8XwudOylLeHIiumscg, instagram.com/mikhail.lopatin.tm, ru.pinterest.com/Mikhail_Lopatin