Новая эпоха внедрения компьютеров: ИИ
Мы находимся в начале нового цикла внедрения компьютеров в жизнь:
- в 90ые и 0ые на каждом рабочем месте появились компьютеры и АРМы (автоматизированные рабочие места)
- далее сотовые и соответствующие мобильные приложения
Это с точки зрения железа, а с точки зрения бизнес-софта:
- проекты автоматизации с кастомной разработкой
- SaaS для более стандартных случаев
Естественно, проекты автоматизации часто приводят к сокращению кол-ва сотрудников и/или снижению требований к ним.
Сейчас уже большинство компаний автоматизировались. И только требуются изменения существующих систем в след за изменением бизнеса.
Но вот появились ИИшки. И оказалось, что теперь можно автоматизировать дополнительно еще больше бизнес процессов.
Например, автоматически или полуавтоматически отвечать на вопросы и рецензии на маркетплейсах. В отличие от разработки (где за несколько часов легко потратить 100 млн токенов) ответы на вопросы пользователей копеечные (особенно по сравнению со стоимостью любого живого человека).
А еще ИИ стараются продавать за токены или кредиты. И основанные на ИИ продукты так же (хочешь или не хочешь) продаются за токены.
По железу ИИ мало приносят изменений на уровне компании: скорее всего нужно использовать облачное решение от крупного поставщика. Со временем появятся и свои сервера, но сначала все должно устояться (производители ИИ достигнуть предела роста и за ними поспеть производители железа). На глобальном уровне дата-центры для ИИ оказывают серьезное влияние, но это не уровень отдельных компаний пока что.
Кратко:
- новые проекты автоматизации с кастомной разработкой
- новые SaaS, но уже с оплатой за использование (токены)
- новое железо (арендованное уже сейчас, собственное позже)
Что автоматизировать
Тут важно понимать, что, как и раньше, принципы автоматизаций остаются те же:
- высокая экономия, низкие затраты на внедрение, высокая вероятность успешной реализации и низкая стоимость ошибочных действий агента – так выбираем приоритеты
- лучше, если сам бизнес понимает какие процессы можно ИИ автоматизировать
- процессы должны быть: автоматизированный бардак только быстрее убьет компанию
- нужен эксперт в предметной области: без него нужно будет больше раз переделывать и успех под вопросом
Как автоматизировать
Пока что лучших практик мало, есть, скорее, направления.
Есть 3 степени автоматизации:
- чистые (без особых настроек) чаты, Cowork и постоянные “телеграмм” агенты
- то же, но добавляем свои и чужие скилы с MCP и консольными утилами (для стабильности результатов, где не нужно уже думать, а нужно исполнить)
- workflow-системы, когда запускается несколько агентов в какой-то последовательности
Это все было для самостоятельной работы. В рамках компании уже то же самое делается централизованно. Сейчас популярны следующие фреймворки: langchain, langgraph, crewai, autogen.
ИИ нужно добавлять только там, где нужно, остальное лучше написать как обычный софт (надежней и дешевле – без токенов каждый раз).
Если получается без workflow, а через навык, то лучше через навык: и быстрее, и проще, и дешевле.
UI может быть:
- веб – как и раньше
- десктоп – как и раньше
- api – как и раньше
- мобильное приложение – как и раньше
- чат-бот – новое, раньше мало было, т.к. плохо общались
- MCP, cli, skill – для переиспользования в других ИИ
ИИ компания
ИИ компания – это про передачу контроля от исполнителя (непонятно что он там и как использует ИИ) к компании (компания определяет какие ИИ с какими скилами и как сотрудники будут использовать (аналогия с софтом на рабочих компьютерах), а какие процессы автоматизируются через ИИ (аналогия с текущими автоматизациями).
ИИ как сотрудник в орг. структуре организации
Когда общаешься с ИИ правильно думать, что это нечто думающее, т.к. так проще с ним работать.
Можно легко представить, что отдельные запуски ИИ являются твоим отделом: ты уже как менеджер раздаешь задания, проверяешь результат и занимаешься обучением сотрудников, выстраиваешь их работу.
Если ты не эксперт в предметной области, то берешь внешнюю экспертизу через SaaS или кастомных разработнных экспертами агентов. Только в этом случае сильно сложнее проверить качество результата. Обычно такое подходит, когда достаточно среднего или плохого качества.
Вполне себе могу представить SaaS-сотрудника. Уже есть SaaS-программисты, дизайнеры, музыканты, писатели. Будут появляться и другие, и более специализированные.
ИИ вполне может распределять задачи внутри отдела. Людям такое даже нравится (типа непредвзятость). И такие наметки были и до ИИ. При этом другие функции начальника отдела лучше переходят в ПО и ИИ ассистенты отдельного сотрудника (без называния это начальником отдела). Т.е. функция распадается на разные составляющие.
Прикольно (как в игре SIMS) добавить такие процессы как “людей” в орг. структуру. Кому-то понравится. Кто-то подумает, что это развлечение. А если посмотреть на это с другой стороны? ИИ-агент может быть заменен на человека и наоборот человек на ИИ-агента. В этом случае, имеет смысл добавлять ИИ-агентов в орг. структуру. Пока что вопрос открыт будут ли компании на практике так решения принимать.
Какие ограничения ИИ
Отсутствие информации
Главное ограничение: отсутствие контекста. Например, ИИ агент вряд ли узнает, что перед вашим магазинчиком раскопали дорогу (и клиентов будет несколько дней меньше). Или о чем вы договорились с кем-то в коридоре.
В каждом конкретном случае, особенно задним числом, можно придумать как эту информацию добавлять. Но вот заранее сложно. А это означает потери из-за неправильных решений.
Безопасность
Нет такого, что у ИИ 2 входа: обычный промпт и данные из небезопасного источника. Все идет в один (точнее есть более жесткий системный промпт (и то не у всех типов моделей), но он тоже мало спасает). А если в один, то получив данные с какого-то сайта или от какого-то человека они могут содержать деструктивные инструкции: выдать конфиденциальные данные, все удалить, продать все за 1 деньгу. Такое уже сейчас легко найти в новостях.
Хорошей защиты (на уровне обычного ПО) не существует. Есть какие-то подходы, которые позволяют снизить вероятность взлома:
- типизированные данные (особенно без произвольных строк) для обмена данными между агентами
- минимизация и типизация прав агентов. В частности, если вы общаетесь с конкретным авторизованным клиентом, то внешние сервисы должны получать его user id, чтобы выдавать информацию только по нему.
- проверка промпта через отдельного ИИ-агента (как режим auto в Claude Code)
- сами ИИ-модели тренируют подчиняться не всем промптам
В общем, как всегда, безопасность это неудобно, задержки разработки и дополнительные затраты в эксплуатации.
Стоимость
По сравнению с обычным ПО и обычными серверами ИИ очень дорогие. Поэтому и продаются за токены. Нужно выработать подход, чтобы случайно не потратить слишком много. Соответственно, нужен стройгий учет и контроль расходов.
Сюда же входит внезапное прекращение работы поставщиков ИИ моделей или значительное повышение их стоимости. Такие проблемы есть и будут. В итоге должно быть много поставщиков для надежности. Как такое пережить, если ИИ-агенты играют ключевую роль в компании? Вопрос открытый, примерно как происходило с блокировками зарубежных облаков. Т.е. простой, оплата переезда и потенциально затраты на свое железо с open source моделями.
Кто отвечает за проблему
Если ты “начальник виртуального отдела”, то ты. Если же у тебя начальник отдела ИИ, то непонятно кто.
Точнее, ищутся люди во все строны: отвечает человек-исполнитель, а если ему задачу не дали, то выше по структуре первый человек, который должен перепроверять (и отстраивать систему автоматической перепроверки).
Или как с лидерами рынка: было использовано лучшее доступное решение, и никто не виноват, просто риск сыграл.
Нет гарантии результата
Это не осознают очень многие. Даже если все хорошо обычно работает, то иногда просто чушь. Если человек на это смотрит, то но повторит и проблем нет. А если система автоматическая, то уже следующий слой как-то это должен понять.