Почему ИИ-агентам необходима поддающаяся проверке организационная идентичность

По мере ускорения внедрения ИИ-агентов в глобальной цифровой экономике вопрос заключается не в том, что могут делать эти агенты, а в том, как можно идентифицировать стоящие за ними организации и привлечь их к ответственности.

---

---

Мы вступили в «эру агентов». Агенты ИИ теперь взаимодействуют с Интернетом, программным обеспечением и друг с другом, часто действуя автономно от имени людей и организаций, которые их внедряют.

Это переворачивает с ног на голову модели доверия, которые предполагают, что человек находится «в курсе» и несет окончательную ответственность. Когда агент берет на себя обязательство от имени организации, например, бронирует авиабилет или переводит деньги, с внешней стороны это взаимодействие выглядит обычным, в то время как вопрос ответственности за ним остается неясным.

Проблема ответственности связана со сложностью достоверно установить, какая организация стоит за агентом, кто в этой организации уполномочил его действовать и входило ли данное действие в рамки полномочий, предоставленных агенту. Учитывая, что к 2025 году на автоматизированный трафик будет приходиться 53 % всей веб-активности, а агенты искусственного интеллекта станут отдельной категорией наряду с традиционными ботами, решение этой проблемы вскоре станет необходимым условием для доверия к любому взаимодействию.

Связь идентичности машины с ответственностью организации

Хорошая новость заключается в том, что в этом направлении наблюдается прогресс. Многообещающими являются текущие исследования методов надежной идентификации и отслеживания моделей искусственного интеллекта, на которых построены агенты, даже несмотря на то, что лежащие в их основе нейронные сети со временем меняются и развиваются. Однако эти «идентификаторы моделей» не решают вопрос о том, кто несет ответственность за агента и его действия. Для обеспечения подотчетности идентичность агента должна быть связана на более высоком уровне с стоящей за ним организацией и лицами, уполномоченными действовать от ее имени.

Код идентификации юридических лиц (LEI) уже обеспечивает такую организационную привязку. Это всемирно признанный уникальный идентификатор юридических лиц, который уже используется в нормативной отчетности более чем в 100 юрисдикциях. Его цифровой аналог — верифицируемый код LEI — распространяет эту идентичность на цифровые взаимодействия, позволяя контрагентам с помощью вычислительных средств проверять личность, полномочия и роль лица или системы, действующих от имени Юридического лица. LEI также может служить организационной опорой для других цифровых решений, преследующих те же цели, обеспечивая взаимодействие идентификационных данных между ними.

Как верифицированная идентичность организации может работать на практике

Поскольку организации все чаще используют ИИ-агентов для прямого взаимодействия с клиентами через чаты и голосовые звонки, возникает острая необходимость в том, чтобы клиенты могли убедиться, что агент действительно представляет ту организацию, от имени которой он выступает.

Глобальный хакатон GLEIF по vLEI, в рамках которого было подано более 110 заявок от команд со всего мира, продемонстрировал, как это может работать. Проект «Agent-Anchor» от команды YourData занял второе место в категории «Индустрия 4.0» в декабре 2025 года. Он продемонстрировал, как присвоение идентификаторов vLEI ИИ-агентам компании позволяет клиенту, взаимодействующему с голосовым или чат-агентом, в режиме реального времени проверять происхождение агента во время звонка или другого взаимодействия.

Хотя «Agent-Anchor» является прототипом, а не внедренным продуктом, он демонстрирует потенциал проверяемых организационных учетных данных, привязанных к автоматизированному агенту, которые можно проверить в момент взаимодействия.

Еще один пример связан с Curvy Protocol, чей подход к конфиденциальным платежам, привязанным к идентичности, также может быть распространен на агенты искусственного интеллекта. Curvy демонстрирует, как агенту можно присвоить платежную идентичность с определёнными правилами для контрагентов и соответствующими механизмами контроля. В недавней работе GLEIF исследуется, как подобные подходы можно привязать к организационной идентичности на основе vLEI и делегированным полномочиям, создавая проверяемую связь между ИИ-агентом, Юридическим лицом, которое он представляет, и полномочиями, в рамках которых он действует.

Превращение автономных агентов в подотчетных агентов

Хотя внедрение агентов ИИ ускоряется, без четкой связи между агентом и подотчетным физическим лицом или организацией риски перевешивают преимущества, и как предприятиям, так и органам регулирования будет сложно поддержать масштабируемое внедрение.

Проверяемая организационная идентичность — это тот уровень, который меняет эту ситуацию. Она обеспечивает подотчетность агентов, связывая действия системы с Юридическим лицом, ответственным за них, и полномочиями, в рамках которых она действовала. В этом заключается разница между агентом, который просто функционирует, и агентом, которому можно доверять действовать от вашего имени.

Для организаций, начинающих внедрять агентов, это на практике означает, что идентичность и полномочия следует рассматривать как неотъемлемую часть внедрения, а не как что-то, что можно добавить позже. Вопрос, который нужно задать любому агенту, действующему от вашего имени, заключается не только в том, работает ли он, но и в том, может ли контрагент проверить, какая организация за ним стоит и на что она была уполномочена.

Инфраструктура идентификации организаций, необходимая для этого, уже существует в виде LEI и vLEI. Исследования в области модельной идентификации, которые должны будут ее дополнить, продвигаются, но пока не внедрены в практику, поэтому организационный уровень следует создать уже сейчас.

Укрепление цифрового доверия в эпоху искусственного интеллекта

Взаимосвязь между ИИ, цифровой идентичностью и цифровой безопасностью стала центральной темой моего интервью в рамках цикла «Trust Talks» с профессором Дамианом Бортом, заведующим кафедрой искусственного интеллекта и машинного обучения в Университете Санкт-Галлена и соучредителем Weight Space Labs. Мы обсудили, как ИИ меняет облик цифровой безопасности, почему так сложно привязать идентичность к меняющейся нейронной сети, как ИИ можно использовать для проверки самого ИИ, не становясь при этом его собственным судьей, и почему идентичность организации, стоящей за системой, остаётся неподвижной точкой, когда окружающие её технологии постоянно развиваются.

Послушайте полный выпуск «Trust Talks», чтобы понять, что означает проверяемая организационная идентичность в мире, где программное обеспечение всё чаще действует от нашего имени. «Trust Talks» доступен на YouTube, Spotify и в Apple Podcasts: linktr.ee/TrustTalks

---