Безопасный старт: проверка фактов и конфиденциальность

После этого урока вы будете знать, какие ответы нейросети нужно проверять обязательно и как это делать быстро, а также что категорически не стоит вставлять в публичный чат и чем это заменить. Это тот минимум, который позволяет пользоваться инструментом на работе, не создавая проблем себе, коллегам и клиентам.

Почему нейросеть выдумывает уверенно

Из первого урока вы помните: модель строит правдоподобное продолжение текста. Если у неё нет точных сведений, она не оставляет пропуск, а заполняет его тем, что выглядит уместно. Такие выдумки называют галлюцинациями. Это не поломка, которую однажды починят полностью, а свойство самого способа порождать текст. Инструменты становятся точнее год от года, но привычка проверять важное остаётся необходимой.

• Ссылки и адреса страниц, которых не существует
• Названия исследований, книг и статей вместе с правдоподобными авторами
• Цитаты, которые никто никогда не произносил
• Номера статей, пунктов договоров и внутренних регламентов
• Статистика с убедительными процентами и круглыми числами
• Детали биографий, должности, даты назначений

Есть и второй пробел. Модель обучалась на текстах до определённого момента и не знает, что произошло позже. Хуже того, она обычно не знает, чего именно не знает, поэтому о свежих событиях, ценах и правилах говорит тем же уверенным тоном, что и о вещах, известных десятилетиями. Если инструмент умеет обращаться к поиску или к вашим документам, это заметно помогает, но тогда стоит смотреть, на какой именно источник он опирается.

Дай пять исследований со ссылками, которые доказывают, что удалённая работа повышает продуктивность.

Я готовлю короткую внутреннюю справку о влиянии удалённой работы на продуктивность. Не приводите ссылок и не называйте конкретных исследований — я найду первоисточники сам. Вместо этого:
1. Перечислите основные позиции, которые встречаются в этой дискуссии, и главные аргументы каждой стороны.
2. Сформулируйте пять поисковых запросов, с которыми я найду серьёзные источники.
3. Назовите, на что смотреть в исследовании, чтобы понять, насколько ему можно доверять: размер выборки, отрасль, кто финансировал, как измеряли продуктивность.

Простое правило: глубина проверки зависит от цены ошибки. Письмо коллеге с просьбой перенести встречу можно отправить, просто перечитав. Текст, который увидит клиент, стоит проверить по фактам и цифрам. Всё, что связано с деньгами, договорами, персональными данными, охраной труда или здоровьем, проверяется по первоисточнику или у профильного специалиста, без исключений.

• Числа — пересчитайте сами или в таблице
• Цитаты и ссылки — откройте и найдите в первоисточнике
• Правила и нормы — сверьте с действующим документом, а не с пересказом
• Свежие события — проверьте по обычным источникам новостей
• Спорные утверждения по вашей теме — обсудите с человеком, который в ней работает

Что нельзя вставлять в публичный чат

Всё, что вы отправляете в общедоступный сервис, уходит на серверы поставщика, сохраняется в истории вашей учётной записи и в отдельных случаях может просматриваться сотрудниками поставщика — например, при разборе жалоб или проверке безопасности. В зависимости от тарифа и настроек данные могут использоваться и для дальнейшего обучения. Главное здесь то, что вставленный текст нельзя отозвать: он уже покинул периметр компании.

• Персональные данные людей: ФИО вместе с телефоном, адресом, датой рождения
• Паспортные, банковские и платёжные реквизиты
• Клиентские базы, выгрузки заказов, списки сотрудников
• Коммерческая тайна: себестоимость, условия сделок, непубличная отчётность
• Пароли, ключи доступа, токены, внутренние адреса систем
• Документы, полученные под соглашение о неразглашении
• Медицинские и кадровые сведения о конкретных людях

Отказываться от инструмента из-за этого не нужно, почти всегда есть обходной путь. Обезличьте текст: замените имена, суммы и номера на пометки в квадратных скобках. Дайте не весь документ, а фрагмент, которого достаточно для задачи. Опишите ситуацию словами вместо того, чтобы вставлять переписку целиком. Если в компании есть корпоративное решение с договором о защите данных, работайте в нём и уточните у ИТ или службы безопасности, что через него можно передавать.

Помоги написать вежливый отказ. Клиент Иванова Мария Петровна, договор № 447-К от 12 марта, телефон и адрес такие-то, требует вернуть предоплату 180 000 рублей за отменённый заказ.

Помогите написать вежливый отказ клиенту. Ситуация: клиент отменил заказ после того, как работы начались, и просит вернуть всю предоплату. По условиям договора невозвратной остаётся часть, покрывающая уже выполненный объём. Тон уважительный, без канцелярита, не длиннее 200 слов, в конце — предложение обсудить перенос заказа вместо возврата. Оставьте в тексте пометки [ИМЯ], [НОМЕР ДОГОВОРА], [СУММА], я подставлю данные перед отправкой.

Ответственность остаётся на вас

Под письмом, отчётом или коммерческим предложением стоит ваше имя, а не название инструмента. Фраза «так написала нейросеть» не работает ни перед руководителем, ни перед клиентом, ни перед проверяющим. Это неприятная новость только на первый взгляд: она означает, что ценность вашей работы никуда не делась, просто рутинная часть стала быстрее, а проверяющая и решающая — заметнее.

• Все числа и даты пересчитаны или сверены с источником
• Имена, названия и реквизиты соответствуют реальным
• В тексте нет утверждений, за которые вы не готовы отвечать
• Тон подходит адресату, а не выглядит как универсальная рассылка
• В тексте не осталось признаков черновика и незаполненных пометок

Хорошая практика для команды — договориться заранее, а не после первого инцидента. Проговорите, какие задачи разрешено выполнять с помощью нейросетей, какие данные нельзя выносить наружу ни при каких условиях и нужно ли помечать черновики, созданные с помощью ИИ. Такая договорённость на одну страницу снимает значительную часть рисков и хорошо дополняет технические меры.