Конец эпохи приложений: будущее программного обеспечения станет частным, персонализированным и построенным с помощью ИИ-агентов

В последние годы наблюдается значительное изменение в подходе к разработке программного обеспечения. ИИ-агенты могут стать тем фактором, который положит конец эпохе традиционных приложений, превращая программное обеспечение в проверенные, созданные пользователями системы. Это изменение может повлиять на то, как мы воспринимаем и используем программное обеспечение, а также на уровень доверия к нему.

Изменение восприятия программного обеспечения

Современное общество может долгое время нормализовать определенные риски, а затем переосмыслить их как безрассудные, когда появляется более безопасная альтернатива. Примеры таких изменений включают отказ от вождения в нетрезвом состоянии, использование ремней безопасности, курение в помещениях и установку произвольных бинарных файлов из интернета. Все эти действия были когда-то социально приемлемыми, но со временем стали восприниматься как опасные.

С появлением ИИ-агентов, которые могут проверять программное обеспечение, традиционная модель доверия к программному обеспечению может измениться. Вместо того чтобы полагаться на код, написанный незнакомцами, пользователи смогут использовать системы, которые обеспечивают проверенные пути выполнения и безопасные настройки. Это может привести к тому, что программное обеспечение перестанет рассматриваться как актив, требующий доверия, и станет более безопасным и управляемым пользователем.

Проблемы традиционной модели доверия

Современное программное обеспечение функционирует на основе модели доверия, которую редко подвергают сомнению. Разработчик, компания или анонимный автор создают код, который затем упаковывается и распространяется. Пользователь или операционная система запускает его. Безопасность становится многослойной попыткой управлять последствиями этого решения.

Однако эта модель доверия уже проявила свои слабости. Примером может служить компрометация SolarWinds, когда вредоносный код был внедрен в доверенный процесс сборки программного обеспечения и распространился через обычные обновления, затронув государственные учреждения и технологические компании. Этот инцидент продемонстрировал, что традиционные методы доверия могут быть использованы для распространения вредоносного ПО.

Аналогичная ситуация произошла с XZ Utils, когда в марте 2024 года CISA предупредила о вредоносном коде, встроенном в версии библиотеки сжатия, используемой в дистрибутивах Linux. Эти примеры подчеркивают, что цепочка поставок программного обеспечения может быть скомпрометирована на ранних этапах, и вредоносный код может попасть к пользователям через привычные каналы.

Переход к ИИ-агентам и персонализированному программному обеспечению

С появлением ИИ-агентов, таких как OpenAI Codex и Claude Code от Anthropic, процесс создания программного обеспечения становится более персонализированным. Эти агенты способны работать над несколькими задачами одновременно, генерируя код, тестируя его и предоставляя готовые решения. Это изменение в подходе к разработке программного обеспечения может привести к тому, что пользователи будут меньше зависеть от стороннего кода и больше полагаться на собственные ИИ-агенты для создания необходимых функций.

Вместо того чтобы устанавливать приложения, пользователи смогут описывать свои рабочие процессы, а ИИ-агенты будут генерировать интерфейсы, логику и интеграции. Это означает, что программное обеспечение станет менее постоянным объектом и больше похоже на локальную политику, скомпилированную в удобный интерфейс. Пользователи смогут создавать, изменять и удалять функции по мере необходимости, что значительно изменит подход к доверию и безопасности.

Новые модели доверия и проверяемые конечные точки

С переходом к ИИ-агентам возникает необходимость в новых моделях доверия. Пользователи будут нуждаться в способах оценки внешних сервисов по таким критериям, как проверяемость, безопасность и экономическая целесообразность. Это может привести к созданию нового слоя распределения программного обеспечения, где проверяемые конечные точки станут основным элементом.

Системы с нулевым знанием (Zero-Knowledge) могут стать одним из путей для создания этого слоя. Они позволяют выполнять вычисления вне цепочки, при этом предоставляя краткое доказательство действительности результата. Это может быть применимо не только к транзакциям, но и к проверке того, что конечная точка выполнила одобренный код или обработала данные в соответствии с установленными ограничениями.

В долгосрочной перспективе интерфейс может напоминать операционный слой, управляемый агентом. Пользователь сможет запрашивать различные инструменты, такие как дашборды, системы учета или средства безопасности, которые будут собираться из сгенерированного кода и проверенных конечных точек. Это позволит пользователям сохранять контроль над своими данными и процессами, что является важным шагом к личной программной суверенности.

Заключение

Будущее программного обеспечения, вероятно, будет определяться переходом от традиционных приложений к более персонализированным и проверяемым системам, созданным с помощью ИИ-агентов. Это изменение может привести к тому, что пользователи будут меньше зависеть от стороннего кода и больше полагаться на собственные агенты для создания необходимых функций. В результате, программное обеспечение станет более безопасным и управляемым, что изменит наше восприятие и использование технологий в повседневной жизни.