«Михаил, она мне такую статью закона назвала, номер, дату — я в суд собрался ссылаться. А юрист говорит: нет такой статьи вообще». Это мне написал Виктор Петрович, ему шестьдесят три, он попросил нейросеть помочь с жалобой в управляющую компанию. Машина выдала ему красивый текст с точными ссылками. Все ссылки оказались выдуманными.
Я тогда полдня объяснял, почему так вышло и как больше в эту ловушку не попадать. Разговор получился полезный, и я решил разложить его для всех.
🎭 Почему машина врёт с честным лицом
Главная беда не в том, что нейросеть ошибается. Ошибаются все. Беда в том, что она ошибается уверенно.
Человек, когда не знает, говорит: «не уверен, посмотрите сами». Нейросеть так почти никогда не делает. Она выдаёт выдумку тем же спокойным тоном, что и правду. Номер закона, дату, фамилию, цену — всё с одинаковой убедительностью.
Устроена она просто. Это не справочник и не поисковик. Это очень хитрая программа, которая подбирает следующее слово по вероятности. Она не «знает» факт, она складывает похоже звучащий ответ. Часто складывает верно. Иногда — красивую пустышку.
У таких пустышек даже есть название — «галлюцинации». Машина не врёт назло. Она просто заполняет пробел тем, что выглядит правдоподобно.
Запомните одно: нейросеть — прекрасный помощник и никудышный свидетель.
📞 С чего начался тот разговор
Виктор Петрович перезвонил мне уже расстроенный. «Я же проверить не мог, я в законах не разбираюсь. Она так уверенно всё написала».
Я попросил прислать переписку. Нейросеть сослалась на статью жилищного кодекса с конкретным номером. Открываю кодекс — статья есть, но она совсем про другое. Про сроки давности, а не про перерасчёт за отопление.
Вот это самое опасное. Не когда выдумка полная, а когда наполовину правда. Номер настоящий, тема — мимо. Проверить на глаз невозможно, если сам не юрист.
Тогда я показал ему четыре простых приёма. Не нужно быть программистом, чтобы ими пользоваться. Разберём по очереди.
🔍 Приём первый: спросить источник и проверить его руками
Самый простой способ. После ответа задайте вопрос: «Откуда эти данные? Дай ссылку на источник».
Дальше — не верить ссылке на слово, а открыть её. Нейросеть часто выдаёт адрес сайта, которого не существует, или ведёт на страницу, где ничего подобного нет.
Порядок действий такой: — получили факт или цифру — спросили источник — скопировали название закона, книги, статьи — вбили это в обычный поисковик отдельно
Если в поисковике этого нет вообще — перед вами выдумка. Виктор Петрович так и сделал во второй раз: вбил номер статьи в поиск и сразу увидел, что тема не совпадает.
Ссылка от нейросети — не доказательство. Доказательство — когда вы сами открыли и прочитали.
🔁 Приём второй: задать тот же вопрос второй раз, другими словами
Хитрый и очень надёжный ход. Если факт настоящий, машина повторит его одинаково хоть десять раз. Если выдуманный — начнёт путаться.
Спросите то же самое, но иначе. Была фамилия автора книги — переспросите: «А кто написал эту книгу, точно он?». Была цена — уточните в новом сообщении: «Сколько это стоит, назови ещё раз».
Мне однажды нейросеть назвала год выхода фильма. Я переспросил в лоб — она назвала другой год. Спросил третий раз — третья цифра. Стало ясно, что она просто угадывает.
С настоящими фактами такого не бывает. Столица, дата всем известного события, таблица умножения — ответ железно один и тот же.
Плавает ответ — значит, машина не знает и придумывает.
⚖️ Приём третий: заставить её усомниться
Нейросеть легко «прогибается». Если вы напишете «по-моему, ты ошибся» — она часто тут же согласится и начнёт извиняться, даже когда была права.
Это можно повернуть в свою пользу. После сомнительного ответа напишите: «Ты уверена? Проверь себя ещё раз и укажи, если могла ошибиться».
Хороший ответ звучит примерно так: «Да, я уверена, вот почему». Плохой: «Извините, вы правы, на самом деле всё иначе» — и выдаёт новую версию.
Если машина меняет показания от одного вашего сомнения — доверять этому факту нельзя. Настоящее знание так просто не сбивается.
Только не переусердствуйте. Если давить на каждый ответ, она начнёт соглашаться со всем подряд, и толку не будет. Проверяйте так только спорные места.
📅 Приём четвёртый: помнить, что она живёт в прошлом
Многие бесплатные нейросети не знают свежих новостей. У каждой есть дата, до которой она обучалась. Всё, что случилось позже, для неё не существует.
Спросите прямо: «На какую дату у тебя данные?». Если она отвечает, что знает мир, скажем, до прошлого года — не спрашивайте её про сегодняшний курс валют, свежий закон или новую цену на лекарство.
Свежие цифры она либо честно откажется называть, либо — что хуже — выдумает.
Отдельно про то, что «подключено к интернету». Некоторые версии умеют искать в сети. Но и тут проверяйте: она может найти старую страницу и выдать её за актуальную.
Всё, что связано с сегодняшним днём — деньги, цены, законы, расписания — перепроверяйте на официальных сайтах.
🧪 Где эти приёмы меня самого не спасли
Не хочу показывать всё идеальным. Расскажу про свой промах.
Готовил я материал и попросил нейросеть собрать список цен на оборудование. Она выдала аккуратную таблицу с моделями и суммами. Выглядело настолько правдоподобно, что я почти вставил всё в текст.
Спасло правило — переспросить источник. Я задал вопрос про одну позицию, потом открыл магазин руками. Половина цен оказалась взята с потолка, две модели вообще не существовали в природе.
Ушло у меня на полную проверку около часа. Пришлось перебивать каждую строчку по настоящим магазинам. Дешевле было бы сразу открыть пару сайтов и собрать цены самому.
Вывод для себя я сделал такой: чем важнее цифра, тем меньше ей верю на слово.
⏱️ Сколько времени это отнимает и стоит ли того
Кажется, что проверка — лишняя морока. На деле это минуты, и они спасают от крупных бед.
Прикинем по-честному: — спросить источник и открыть его — 2–3 минуты — переспросить факт другими словами — минута — проверить дату данных — полминуты
Три-четыре минуты на спорный факт. А теперь сравните с ценой ошибки. Виктор Петрович чуть не подал жалобу с выдуманной статьёй закона — это позор в инстанции и потерянное время. Кто-то купит лекарство по выдуманной дозировке. Кто-то отправит деньги не туда.
За месяц активного пользования нейросетью эти проверки съедят, может, пару часов. Взамен вы ни разу не попадёте впросак. По-моему, размен честный.
Время на проверку — это не потеря, а страховка.
🛠️ Что сделать сегодня вечером самому
Не нужно ничего устанавливать. Достаточно завести привычку.
Короткий список для начала: — после каждого важного ответа спрашивайте «откуда данные» — любую цифру, дату, закон и фамилию проверяйте в обычном поисковике — спорный факт переспрашивайте другими словами — уточняйте, на какую дату у нейросети сведения — всё про деньги, здоровье и закон — только через официальные сайты
Выберите любой факт, который вам нейросеть недавно называла, и прогоните его по этим шагам. Один раз попробуете — дальше пойдёт само.
Заведите правило: развлечение и черновики — можно на веру, серьёзные решения — только с проверкой.
🤝 Что проще сделать самому, а с чем помогу
Проверять факты за нейросетью вы прекрасно научитесь сами — это дело привычки, а не знаний. А вот если хочется настроить помощника под свои задачи, тут иногда быстрее позвать человека.
Разобраться, какая нейросеть какую задачу тянет, как задавать вопросы, чтобы врала реже, как отличить платную версию от бесплатной по делу — это уже отдельная работа, и её можно поручить.
Если вы пользуетесь нейросетью и не уверены, можно ли верить её ответам в вашем деле — напишите мне, за 20 минут бесплатно посмотрю ваш случай и скажу, где риск. Дальше, если нужно, подберу под вас надёжную связку и покажу, как ей пользоваться без ловушек. Обычно люди сначала берут короткий разбор, а потом остаются на сопровождении, когда видят, что советы рабочие.
Такие вот выдуманные законы и цены я разбираю почти каждую неделю — показываю живые примеры там, где вам удобнее читать. Заходите, если хотите видеть эти разборы regularly и не попадаться на уверенное враньё машины.
Telegram, ВКонтакте, MAX, YouTube, Instagram, Pinterest, мой сайт
Instagram принадлежит компании Meta, признанной в России экстремистской и запрещённой.