Идентификация для AI-агентов требует верификации, zk-SNARKs предлагают решение.

zk-SNARKs (ZKPs) имеют потенциал стать опорой новой эпохи доверяемого ИИ и цифровой идентификации, предоставляя физическим лицам и организациям безопасный и прозрачный способ взаимодействия через платформы и границы.

Для ИИ и доверия это «интересное» время.

В настоящее время все больше инвестиционных компаний начинают использовать ИИ-агентов для анализа исследовательских отчетов и корпоративных документов. В то же время от людей требуют предоставления все более строгих биометрических данных, таких как сканирование лица, образцы голоса и поведенческие модели, всего лишь для того, чтобы подтвердить, что они не являются роботами. Однако, если эти данные окажутся в распоряжении третьих лиц, они могут быть использованы ИИ-управляемыми роботами с недобрыми намерениями, выдавая себя за реальных людей с помощью высоко реалистичной идентификации, что позволит им обойти системы, созданные для их защиты. Это вводит нас в странную новую гонку вооружений — чем глубже данные, запрашиваемые для верификации, тем серьезнее последствия в случае утечки. Так как же нам удостовериться, кто (или что) является объектом взаимодействия?

Требуя от людей прозрачности, но принимая «черные ящики» машин, это противоречит логике. Как роботам, так и пользователям сети нужны более эффективные способы идентификации. Чтобы решить эту проблему, нельзя полагаться на бесконечное сбор большего и более глубокого биометрического данных, и нельзя основываться на создании централизованных баз данных (это для хакеров как «медовая ловушка»). zk-SNARKs указывают нам путь, позволяя как ИИ, так и людям эффективно проверять идентификацию при защите их безопасности.

Дефицит доверия, препятствующий развитию

Отсутствие проверяемой идентификации ИИ создает прямые риски для рынка. Когда ИИ-агенты могут выдавать себя за людей, манипулировать рынком или выполнять несанкционированные транзакции, компании, естественно, будут осторожны в вопросе массового развертывания автоматизированных систем. На самом деле, вероятности получения вредного вывода у больших языковых моделей, «дообученных» на небольших наборах данных для повышения производительности, в 22 раза выше, чем у базовых моделей; а их успешность в обходе системной безопасности и этических мер (этот процесс называется «взлом») возрастает в три раза при работе с готовыми к производству системами. Без надежной проверки идентификации каждое взаимодействие с ИИ становится шагом к потенциальной уязвимости безопасности.

Сложность проблемы далеко не ограничивается этим. Дело не только в том, чтобы предотвратить развертывание незаконных агентов со стороны злонамеренных участников, поскольку мы сталкиваемся не с одним AI-интерфейсом. В будущем появится все больше и более мощных автономных AI-агентов. Как мы можем точно определить, с кем мы взаимодействуем в этом море агентов? Даже легальные AI-системы должны иметь проверяемые удостоверения, чтобы участвовать в новой экономике агентов. Например, когда один AI-робот совершает сделку с другим роботом, обе стороны должны иметь возможность подтвердить подлинность идентификации друг друга, объем прав на действия и четкую ответственность.

У человека в этой формуле также много проблем. Традиционные системы идентификации не только ставят пользователей под угрозу массовых утечек данных, но также способствуют авторитарному контролю и позволяют крупным компаниям зарабатывать миллиарды долларов, продавая личную информацию, которая принадлежит пользователям, — все это исходит от пользователей, но ни разу не было вознаграждено. Поэтому люди инстинктивно сопротивляются делению своими личными данными, в то время как развитие технологий верификации продолжает требовать все более глубокую личную информацию.

zk-SNARKs: мост между конфиденциальностью и подотчетностью

zk-SNARKs предоставляют решение для этой, казалось бы, сложной проблемы. ZKP позволяют сущностям (будь то человек или искусственный интеллект) подтверждать определенные утверждения, не раскрывая при этом исходные данные, одновременно не раскрывая чувствительную информацию. Например, пользователь может доказать, что ему исполнилось 21 год, не раскрывая дату рождения; агент ИИ может доказать, что его обучающие данные соответствуют этическим нормам, не раскрывая собственный алгоритм; финансовые учреждения могут подтвердить, что клиент соответствует нормативным требованиям, не храня возможно утеченные личные данные.

Для интеллектуальных агентов ZKP могут установить необходимые механизмы глубокой доверительности, поскольку мы должны проверять не только техническую архитектуру, но и модели поведения, юридическую ответственность и социальную репутацию. С помощью ZKP эти проверочные заявления могут храниться в цепи в форме проверяемых доверительных графов.

Мы можем рассматривать это как составной уровень идентификации, работающий на различных платформах и в разных юрисдикциях. Когда ИИ-агент предъявляет удостоверение, он может доказать, что его обучающие данные соответствуют этическим стандартам, результаты проверены, а все действия связаны с подотчетными человеческими сущностями, не раскрывая при этом конфиденциальную информацию.

ZKPs могут кардинально изменить существующие модели, позволяя нам проводить идентификацию без необходимости предоставления конфиденциальных данных, но в настоящее время распространение этой технологии по-прежнему медленно. Эта технология все еще относится к узкой области, осведомленность пользователей низка, и соответствующая регулирующая структура еще не ясна. Более важно то, что компании, зарабатывающие на сборе данных, не имеют стимула для внедрения этой технологии. Тем не менее, это не остановило более гибкие компании по аутентификации личности от ее использования. С прояснением регулирующих стандартов и повышением осведомленности общественности, ZKPs обещают стать опорой новой эры доверенного ИИ и цифровой идентификации — предоставляя физическим лицам и организациям безопасные и прозрачные способы взаимодействия на разных платформах и через границы.

Влияние на рынок: разблокировка экономики интеллектуальных агентов

Генеративный ИИ ежегодно создает триллионы долларов стоимости для мировой экономики, но большая часть этой стоимости по-прежнему заблокирована из-за барьеров идентификации. Основные причины заключаются в следующем: во-первых, институциональные инвесторы перед инвестированием в стратегии, основанные на ИИ, должны пройти строгую проверку на соответствие требованиям KYC/AML; во-вторых, компании требуют получения проверяемой идентификации агентов, прежде чем разрешить автономным системам доступ к критически важной инфраструктуре; в-третьих, регулирующие органы должны иметь развитую систему подотчетности перед тем, как одобрить использование ИИ в чувствительных областях.

Система идентификации на основе zk-SNARKs удовлетворяет всем этим требованиям, сохраняя при этом преимущества защиты конфиденциальности и автономии, на которых основана децентрализованная система. Реализуя механизм выборочного раскрытия, она удовлетворяет требованиям регулирования, одновременно избегая создания уязвимых наборов персональных данных. Благодаря криптографическим технологиям верификации, автономные агенты могут устанавливать взаимодействие без предварительного доверия; а механизм защиты прав пользователей органично соответствует основным принципам новых норм защиты данных, таким как GDPR и Закон о конфиденциальности Калифорнии.

Эта технология также помогает справляться с нарастающим кризисом глубоких подделок. Когда каждое содержимое может быть связано с проверенным создателем с помощью криптографии, не раскрывая его истинной идентификации, мы можем эффективно сдерживать распространение ложной информации, защищая при этом конфиденциальность. С размыванием границ между контентом, созданным ИИ, и результатами человеческого творчества, этот технологический механизм становится особенно важным.

Дорога ZK

Хотя некоторые могут утверждать, что любая система идентификации является шагом к авторитаризму — без механизма подтверждения гражданства ни одно общество не сможет функционировать. Реальность такова, что идентификация уже широко применяется, но результаты исполнения оставляют желать лучшего. Каждый раз, когда мы загружаем документы для соответствия требованиям KYC, проходим сканирование лицом или предоставляем личные данные для завершения проверки возраста, мы участвуем в инвазивной, небезопасной и неэффективной системе идентификации.

zk-SNARKs предоставляет путь вперед, который одновременно уважает личную конфиденциальность и устанавливает необходимое доверие для сложной экономической деятельности. Эта технология позволяет нам создавать такие системы, в которых пользователи действительно контролируют свои данные, а процесс проверки не зависит от средств мониторинга, что позволяет людям и интеллектуальным агентам AI безопасно взаимодействовать, сохраняя при этом свою автономию.