Anthropic показала FlashProve: zk-доказательство модели ИИ за 39 минут
Anthropic опубликовала открытый прототип FlashProve на основе zkSNARK, доказывающий, какая модель ИИ сгенерировала ответ.
Anthropic 2 ноября опубликовала FlashProve — открытый исследовательский прототип, который с помощью криптографии с нулевым разглашением (zkSNARK) доказывает, какая именно модель ИИ сгенерировала ответ, не раскрывая её весов. Демонстрация прошла на 4-битной версии Llama 4 Maverick с окнами в 1 024 токена. В Claude API система не используется, а кодовая база прямо объявлена неподдерживаемой.
Главное
- FlashProve опубликован 2 ноября как открытый прототип под лицензией Apache 2.0
- Демонстрация проведена на 4-битной Llama 4 Maverick с окнами в 1 024 токена
- Фаза фиксации весов занимает около 39 минут, проверка доказательства — 17 секунд на CPU
- Накладные расходы на генерацию доказательств — в 70–95 раз больше времени GPU, чем у vLLM
- Кодовая база объявлена неподдерживаемой, внешний аудит безопасности не указан
По данным Anthropic, пользователи сейчас не могут проверить, что ответы приходят от той модели, которую заявил разработчик. В исследовании названы два риска: маршрутизирующие сервисы могут незаметно подменить обещанную модель на более дешёвую, а атаки способны изменить поток токенов между моделью и пользователем. Для компаний, покупающих ИИ через посредников, это означает, что они платят за конкретную модель, но не имеют механизма подтвердить, какая на самом деле выполняет работу.
Система работает в три шага. Сначала провайдер публикует короткий отпечаток, привязывающий его к точному набору весов без их раскрытия — по данным Anthropic, эта фаза занимает около 39 минут и выполняется один раз на модель. Затем для каждого ответа GPU провайдера генерирует доказательство того, что последовательность токенов является выводом зафиксированной модели. Наконец, любой желающий может проверить доказательство на обычном CPU без весов и без GPU, имея только отпечаток, промпт и ответ.
Llama 4 Maverick — модель на 400 млрд параметров с архитектурой mixture-of-experts, из которых около 17 млрд активны на каждый токен. Прототип работает на публично доступной 4-битной конверсии модели. По данным Anthropic, на одном GPU H100 с 24 ядрами CPU фаза доказательства выдаёт примерно 110 токенов в секунду, формируя доказательства около 19 МБ на запрос в 1 024 токена. Проверка доказательства занимает 17 секунд на 24 потоках, а клиенту нужно скачать около 6,5 МБ данных отпечатка.
Ключевая цифра — накладные расходы. По собственным оценкам Anthropic, генерация доказательств требует в 70–95 раз больше времени GPU, чем запуск модели через vLLM, один из самых распространённых движков инференса. Для сравнения Anthropic приводит Attestable — конкурирующий подход, достигающий 53–77 токенов в секунду на плотной модели с 31 млрд параметров, но не выпустивший открытую библиотеку.
Доказательство FlashProve говорит, какая модель сгенерировала ответ, но ничего не сообщает о его правильности. Anthropic перечисляет и другие ограничения: доказательство покрывает только детерминированное декодирование, при сэмплировании результат может разойтись; доказываемая модель — точная целочисленная версия весов, а ответ в арифметике с плавающей точкой может от неё отклониться; близкая эквивалентность не покрывает промпты, специально использующие численные различия, а атаки по времени вообще вне области действия системы.
Практические ограничения добавляются к этим оговоркам. Окно в 1 024 токена, по собственным словам Anthropic, «довольно короткое» для реального разговора. Быстрая реализация на C++ не даёт формальных гарантий и не сертифицирована на точное соответствие доказательству, написанному на Lean — формальном языке, где математически обоснована корректность протокола. README репозитория однозначен: FlashProve — исследовательский артефакт, «не поддерживается» и не принимает вклады. Внешний аудит безопасности не указан.
Для предприятий и госорганизаций, закупающих ИИ через реселлеров или облачные платформы, сегодня FlashProve ничего не меняет: это не продукт и он не интегрирован ни в один коммерческий сервис. Сигнал в другом — контракт с обещанием конкретной модели однажды можно будет проверять криптографически, а не принимать на веру. Именно такой переход zero-knowledge доказательства совершают в финансовых услугах, где Coinbase официально запросила их признание в американских правилах против отмывания денег.
Тема касается и европейской технологической зависимости. Регуляторы отмечали, что финансы ЕС зависят от иностранных систем ИИ, часто доступных через несколько слоёв сторонних поставщиков. Независимые от вендоров инструменты проверки могли бы стать контрактным требованием, если расходы достаточно снизятся. Сейчас при накладных в 70–95 раз выше обычного инференса, по собственным измерениям Anthropic, это не реалистичный вариант для повседневного использования.
Что это значит
По данным Spaziocrypto® | The Web3 Community for Innovation & Growth, FlashProve переносит в сферу ИИ криптографический принцип «не доверяй, проверяй»: он разделяет вопрос происхождения ответа и вопрос его качества, отвечая только на первый. Сегодня инструмент не меняет положение предприятий и госструктур, закупающих ИИ через посредников, поскольку не интегрирован в коммерческие сервисы и не поддерживается авторами. Значение имеет названное направление — возможность криптографически подтверждать контрактные обещания о конкретной модели, как это происходит с zkSNARK в финансовых услугах, где Coinbase запросила их признание в правилах против отмывания денег. Сдерживающий фактор — накладные расходы в 70–95 раз выше обычного инференса по измерениям Anthropic.
📢 Главные новости крипторынка — коротко и первыми в нашем Telegram-канале.
Читайте также
Источник: Spaziocrypto® | The Web3 Community for Innovation & Growth