Эксперт рассказал, каким должен быть корпоративный ИИ-агент

В российской столице открылся форум «Цифровые решения», являющийся крупнейшей в стране площадкой в сфере информационных технологий. Мероприятие посвящено вопросам цифровой трансформации государства. В числе спикеров — директор департамента по искусственному интеллекту и большим данным МегаФона Виталий Щербаков, поделившийся своим видением различий между персональными и корпоративными ИИ-ассистентами.

По мнению Щербакова, работники организаций имеют право конструировать нейросетевых помощников для собственных рабочих нужд, но перед масштабированием подобных разработок на всё предприятие они должны пройти строгую централизованную проверку.

«Сотрудник может самостоятельно конструировать и применять агентов для своих частных задач. Однако алгоритм вывода таких инструментов на общекорпоративный уровень требует обязательного централизованного контроля», — подчеркнул Щербаков.

Он провел параллель с внедрением систем бизнес-аналитики. Как пояснил эксперт, специалист вправе формировать метрики и дашборды для личного пользования, но перед тем как сделать их доступными для всей организации, алгоритм вычислений обязан пройти аудит. Подобная схема, по его словам, должна применяться и к корпоративным нейросетям.

Эксперт отметил, что защита информации, регламенты обращения с данными и общая технологическая база искусственного интеллекта в компании должны находиться под единым управлением, в то время как за сотрудниками и отделами сохраняется право на разработку локальных ассистентов и прикладных сценариев.

«Основой для всей структуры должны служить унифицированные стандарты информационной безопасности, политики работы с информацией и документацией, а также центр компетенций, собирающий лучшие методики. Общий доступ должен быть и к инфраструктурному уровню, который объединяет фундаментальные модели, вычислительные мощности и средства доступа к информации», — заявил Щербаков в ходе сессии на форуме «Цифровые решения». По его убеждению, всё, что требует больших затрат и не имеет смысла дублировать, «разумно объединить в единый центр».

Вместе с тем Виталий Щербаков считает, что ожидать от корпоративного искусственного интеллекта абсолютной безошибочности не всегда целесообразно. По его словам, ручные операции сами по себе часто подвержены ошибкам, поэтому стартовым шагом автоматизации должна стать оценка существующих показателей.

«Нередко от автоматизации требуют идеального результата, хотя текущий ручной труд, выполняемый людьми, уже характеризуется высоким уровнем брака. В такой ситуации задача внедрения агента — не погоня за совершенством, а достижение качества, как минимум не уступающего текущим результатам работы человека», — указал Щербаков.

При этом приемлемый процент сбоев напрямую зависит от тяжести их последствий. Если ошибку легко устранить и она не влечет за собой серьезных убытков, процесс можно смело передавать машине, утверждает специалист. Однако в ситуациях, где цена промаха крайне высока, например при массовых финансовых операциях в пользу клиентов, необходим жесткий контроль со стороны человека.