Универсальный ассистент или специализированный инструмент

После этого урока вы сможете уверенно решать, хватит ли вам универсального чат-ассистента или задача требует узкого инструмента. Заодно разберём, почему новизна модели редко бывает решающим доводом и что на практике оказывается важнее.

Универсальный ассистент: в чём его сила и слабость

Универсальный ассистент — это чат, который принимает произвольный текст, а часто и файлы, и отвечает текстом. Он не знает заранее, что вы принесёте: письмо, договор, таблицу или список идей. Его сила в гибкости: одна и та же форма общения годится для десятков разных дел, и вам не приходится заново учиться при каждой новой задаче.

Вторая сила — он хорошо работает с плохо определёнными задачами. Когда вы ещё не знаете, каким должен быть результат, с ассистентом можно поговорить: набросать варианты структуры, попросить задать вам уточняющие вопросы, переписать три раза подряд. Узкий инструмент обычно требует, чтобы вы уже знали, чего хотите, и предлагает готовую форму результата.

Слабость находится ровно там же. Универсальный ассистент выдаёт текст, поэтому всё, что к тексту не сводится, он делает опосредованно: не считает сам, если под ним нет исполнения кода, не хранит вашу базу знаний, не встроен в рабочий файл и не кладёт результат туда, где он нужен. И он не помнит вчерашнюю переписку, если такая память не предусмотрена отдельно.

Специализированный инструмент: что вы получаете вместе с ним

Узкий инструмент делает одну вещь и делает её на подготовленных рельсах. Внутри у него может стоять та же самая языковая модель, но вокруг неё выстроено всё остальное: приём нужных форматов, проверки, готовая форма результата, место хранения и связь с другими вашими системами. Вы платите не за интеллект, а за отсутствие ручной возни вокруг него.

• Задача повторяется регулярно и должна выполняться одинаково каждый раз
• Вход лежит в специфическом виде: длинные записи, сканы, выгрузки из системы
• Результат должен попадать в конкретное место: карточку клиента, общую таблицу, систему заявок
• Нужны совместная работа, роли и история изменений, а не личная переписка с чатом
• Требуется проверяемость: кто, когда и на каком основании получил такой результат

Двухчасовую запись планёрки разбить на куски вручную, надиктовать пересказ в чат-ассистент и попросить сделать из этого резюме.

Загрузить запись в инструмент для расшифровки, получить текст с разделением говорящих и метками времени, а затем отдать этот текст чат-ассистенту с промтом: «Сделай из расшифровки резюме по разделам: решения, задачи с ответственными и сроками, открытые вопросы. Если ответственный или срок не названы, пиши „не указано“. Ничего не добавляй от себя».

Когда выигрывает универсальный, когда узкий

Правило простое: универсальный ассистент выигрывает на разнообразии и неопределённости, узкий — на объёме и повторяемости. Если вы делаете десять разных мелких дел в неделю, универсальный сэкономит больше времени. Если одно и то же дело повторяется сотню раз в месяц и должно выглядеть одинаково, узкий инструмент окупается за счёт того, что вам не приходится каждый раз объяснять условия.

Есть промежуточный вариант, который часто недооценивают: универсальный ассистент с сохранённой инструкцией. Вы один раз описываете правила, тон, структуру ответа и типичные примеры, сохраняете это как заготовку и дальше просто подставляете новые данные. Для многих офисных задач такой заготовки достаточно, и отдельный сервис заводить не нужно.

Ты помогаешь мне разбирать обращения клиентов. Для каждого обращения верни одну строку таблицы с колонками: тема (одна из пяти: доставка, оплата, качество, возврат, прочее), суть в одном предложении, тон обращения (спокойный, недовольный, срочный), нужен ли ответ юриста (да или нет). Не придумывай фактов, которых нет в тексте. Если тема не определяется однозначно, ставь «прочее» и добавляй пометку «спорно».

Вот обращения:
1) ...
2) ...

Почему «самая новая модель» редко решает дело

Разница между поколениями моделей заметнее всего там, где задача длинная, запутанная или требует рассуждения на много шагов: сложный анализ, объёмный код, работа с противоречивыми данными. В типичной офисной работе — письмо, резюме встречи, план, описание товара — разрыв между хорошей и очень хорошей моделью меньше, чем разрыв между «инструмент открыт рядом и принимает мой файл» и «нужно каждый раз копировать текст руками».

К тому же качество вашей формулировки влияет на результат сильнее, чем смена модели. Одна и та же модель на расплывчатом запросе даёт посредственный ответ, а на точном, с примером желаемого результата, — хороший. Прежде чем менять инструмент из-за плохого качества, стоит проверить, была ли задача поставлена так, что её вообще можно выполнить.

• Принимает ли инструмент ваши файлы и отдаёт ли результат в нужном виде
• Открыт ли он там, где вы работаете, или требует переключения и копирования
• Понятны ли правила обращения с данными и согласуются ли они с политикой вашей организации
• Устраивают ли ограничения: длина запроса, объём файла, скорость, доступность
• Смогут ли им пользоваться коллеги без вашей помощи

Наконец, выбор делается не навсегда. Инструменты меняются быстро, но привычка возвращаться к вопросу раз в несколько месяцев работает лучше, чем гонка за каждым обновлением. Разумный повод пересмотреть решение — изменившаяся задача, а не вышедшая версия чего-нибудь.