Бизнесу придется точнее распределять ответственность между человеком и ИИ
Бизнесу придется точнее распределять ответственность между человеком и ИИ - 13.10.2026, ПРАЙМ
Бизнесу придется точнее распределять ответственность между человеком и ИИ
Генеративный ИИ стремительно входит в корпоративную рутину. Сотрудники используют его для подготовки справок, отчетов и писем, а компании все чаще встраивают... | 13.10.2026, ПРАЙМ
МОСКВА, 13 окт — ПРАЙМ. Генеративный ИИ стремительно входит в корпоративную рутину. Сотрудники используют его для подготовки справок, отчетов и писем, а компании все чаще встраивают модели прямо в бизнес-процессы. Но чем глубже технологии проникают в работу, тем острее становится старый вопрос: кто отвечает за результат?Ответ на поверхности: нейросеть не является субъектом трудовых отношений. Она не подписывает договоры, не несет дисциплинарной или материальной ответственности. В обычной ситуации результат работы модели — это результат использования любого другого рабочего инструмента. То есть отвечает тот, кто им воспользовался.Однако сводить все к формуле "ошибся сотрудник — он и виноват" не всегда корректно. Многое зависит от того, как именно ИИ встроен в процессы компании.Представьте два сценария. В первом сотрудник сам обращается к чат-боту, получает текст или расчет и использует его в своей работе. Здесь нейросеть — лишь помощник, а человек обязан понимать, что именно он передает дальше. Во втором случае ИИ уже встроен в корпоративную систему: она сама собирает данные из внутренних источников, формирует отчет или заполняет документ, а сотрудник получает готовый результат. И здесь источник ошибки может быть где угодно — в исходных данных, настройках модели, логике интеграции или в самой автоматизированной цепочке.Именно поэтому компаниям придется точнее определять статус результата модели. Одно дело — черновик или рекомендация, которые сотрудник использует как основу. Другое — автоматически сформированный документ, ставший частью утвержденного бизнес-процесса. Во втором случае ответственность распределяется уже между сотрудником, владельцем процесса и компанией, которая этот процесс организовала.Особая проблема генеративного ИИ в том, что ошибка не всегда очевидна. Система может выдать логичный, хорошо структурированный и внешне убедительный текст, который при этом содержит неверный вывод или некорректно интерпретирует данные. Для бизнеса становится важным не только качество модели, но и возможность понять, на основании какой информации получен результат и на каком этапе он попал в документ.Например, нейросеть подготовила аналитическую справку и неверно связала несколько показателей. Важно установить, где возникла проблема: модель получила неверные данные, неправильно интерпретировала корректные или сотрудник использовал ее вывод без проверки? От ответа зависит, что исправлять — действия пользователя, настройки системы или сам рабочий процесс.Поэтому ответственность за использование ИИ лучше определять заранее, а не после ошибки. В компании должно быть понятно, где результат нейросети — только вспомогательный материал, где требуется подтверждение сотрудника, а где ИИ работает как часть автоматизированного процесса и отвечает за корректность уже не один человек.По мере распространения корпоративных ИИ-систем именно это станет одним из главных вопросов их внедрения. Не столько "кто виноват — человек или нейросеть", сколько кто отвечает за конкретный этап процесса и может объяснить, как получен итоговый результат. Сам ИИ субъектом ответственности от этого не становится, но компаниям придется гораздо точнее распределять ее между человеком, технологией и теми, кто организует их совместную работу.Автор: Алексей Юдин, заместитель генерального директора по информационной безопасности АО "КИВИ"
МОСКВА, 13 окт — ПРАЙМ. Генеративный ИИ стремительно входит в корпоративную рутину. Сотрудники используют его для подготовки справок, отчетов и писем, а компании все чаще встраивают модели прямо в бизнес-процессы. Но чем глубже технологии проникают в работу, тем острее становится старый вопрос: кто отвечает за результат?
Ответ на поверхности: нейросеть не является субъектом трудовых отношений. Она не подписывает договоры, не несет дисциплинарной или материальной ответственности. В обычной ситуации результат работы модели — это результат использования любого другого рабочего инструмента. То есть отвечает тот, кто им воспользовался.
Однако сводить все к формуле "ошибся сотрудник — он и виноват" не всегда корректно. Многое зависит от того, как именно ИИ встроен в процессы компании.
Представьте два сценария. В первом сотрудник сам обращается к чат-боту, получает текст или расчет и использует его в своей работе. Здесь нейросеть — лишь помощник, а человек обязан понимать, что именно он передает дальше. Во втором случае ИИ уже встроен в корпоративную систему: она сама собирает данные из внутренних источников, формирует отчет или заполняет документ, а сотрудник получает готовый результат. И здесь источник ошибки может быть где угодно — в исходных данных, настройках модели, логике интеграции или в самой автоматизированной цепочке.
Именно поэтому компаниям придется точнее определять статус результата модели. Одно дело — черновик или рекомендация, которые сотрудник использует как основу. Другое — автоматически сформированный документ, ставший частью утвержденного бизнес-процесса. Во втором случае ответственность распределяется уже между сотрудником, владельцем процесса и компанией, которая этот процесс организовала.
Особая проблема генеративного ИИ в том, что ошибка не всегда очевидна. Система может выдать логичный, хорошо структурированный и внешне убедительный текст, который при этом содержит неверный вывод или некорректно интерпретирует данные. Для бизнеса становится важным не только качество модели, но и возможность понять, на основании какой информации получен результат и на каком этапе он попал в документ.
Например, нейросеть подготовила аналитическую справку и неверно связала несколько показателей. Важно установить, где возникла проблема: модель получила неверные данные, неправильно интерпретировала корректные или сотрудник использовал ее вывод без проверки? От ответа зависит, что исправлять — действия пользователя, настройки системы или сам рабочий процесс.
Поэтому ответственность за использование ИИ лучше определять заранее, а не после ошибки. В компании должно быть понятно, где результат нейросети — только вспомогательный материал, где требуется подтверждение сотрудника, а где ИИ работает как часть автоматизированного процесса и отвечает за корректность уже не один человек.
По мере распространения корпоративных ИИ-систем именно это станет одним из главных вопросов их внедрения. Не столько "кто виноват — человек или нейросеть", сколько кто отвечает за конкретный этап процесса и может объяснить, как получен итоговый результат. Сам ИИ субъектом ответственности от этого не становится, но компаниям придется гораздо точнее распределять ее между человеком, технологией и теми, кто организует их совместную работу.
Автор: Алексей Юдин, заместитель генерального директора по информационной безопасности АО "КИВИ"
В разделе "Мнения" сайта Агентства экономической информации "ПРАЙМ" публикуются материалы, предоставленные аналитиками, трейдерами и экспертами российских и зарубежных компаний, банков, а также публикуются мнения собственных экспертов Агентства "ПРАЙМ". Мнения авторов по тому или иному вопросу, отраженные в публикуемых Агентством материалах, могут не совпадать с мнением редакции АЭИ "ПРАЙМ".
Авторы и АЭИ "ПРАЙМ" не берут на себя ответственность за действия, предпринятые на основе данной информации. С появлением новых данных по рынку позиция авторов может меняться.
Представленные мнения выражены с учетом ситуации на момент выхода материала и носят исключительно ознакомительный характер; они не являются предложением или советом по совершению каких-либо действий и/или сделок, в том числе по покупке либо продаже ценных бумаг. По всем вопросам размещения информации в разделе "Мнения" Вы можете обращаться в редакцию агентства: combroker@1prime.ru.
Доступ к чату заблокирован за нарушение правил.
Вы сможете вновь принимать участие через: ∞.
Если вы не согласны с блокировкой, воспользуйтесь формой обратной связи
Обсуждение закрыто. Участвовать в дискуссии можно в течение 24 часов после выпуска статьи.
