Конец эры приложений: будущее программного обеспечения станет частным, персонализированным и созданным агентами ИИ

Согласно последним прогнозам, агенты искусственного интеллекта могут положить конец эре приложений, трансформируя программное обеспечение в проверенные, созданные пользователями системы. Это изменение может привести к тому, что использование кода, написанного незнакомцами, станет для будущих поколений трудным для понимания поведением. Общество может нормализовать риск на протяжении десятилетий, а затем переосмыслить его как безрассудное, когда станет доступен более безопасный вариант.

Социальные изменения и восприятие рисков

Исторически сложилось так, что многие опасные практики, такие как вождение в нетрезвом виде, отсутствие ремней безопасности, курение в закрытых помещениях и установка произвольных бинарных файлов из интернета, были нормализованы. Эти привычки сохранялись до тех пор, пока альтернативы не стали дешевыми и доступными. Как только более безопасный путь стал рутинным, старые привычки начали казаться иррациональными.

Агенты ИИ могут заменить предположения о доверии к программному обеспечению на проверенные пути выполнения, более безопасные настройки по умолчанию и инфраструктуру, контролируемую пользователями. Это может значительно изменить подход к программному обеспечению и его использованию.

Недостатки существующей модели доверия к программному обеспечению

Современное программное обеспечение функционирует на основе соглашения, которое мы редко проверяем. Разработчик, компания или анонимный поддерживающий создает код, который затем упаковывается и запускается пользователем или операционной системой. Безопасность становится многослойной попыткой управления последствиями этого решения.

Механизмы, такие как разрешения, подпись кода, магазины приложений и обнаружение угроз, существуют из-за того, что основной акт остается опасным: выполнение инструкций, написанных кем-то другим, на вашем устройстве с доступом к вашим данным. Модель доверия к программному обеспечению потерпела неудачу на институциональном уровне, что было продемонстрировано в случае с компрометацией SolarWinds, когда вредоносный код был внедрен в доверенный процесс сборки программного обеспечения и распространился через обычные обновления.

Новые подходы к разработке программного обеспечения

Ответ индустрии на эти вызовы заключается в создании более строгих процессов. Например, NIST Secure Software Development Framework предоставляет организациям общий набор практик для создания и приобретения программного обеспечения с уменьшенным риском. Однако эти меры также подчеркивают пределы существующей модели. Предприятия продолжают уточнять методы, позволяющие определить, какой внешний код заслуживает доверия.

Будущая модель может сократить количество внешнего кода, которому нужно доверять. Это изменение изменит социальное значение программного обеспечения. В настоящее время код третьих сторон рассматривается как актив производительности с затратами на безопасность. В будущем он может рассматриваться как обязательство, требующее обоснования.

Агенты ИИ и создание программного обеспечения

Направление развития видно в кодирующих агентах, таких как OpenAI Codex, который был представлен как облачный агент программной инженерии, способный выполнять несколько задач одновременно. Другие системы, такие как Claude Code от Anthropic и GitHub Copilot, следуют тому же пути, позволяя пользователям генерировать код и управлять проектами более эффективно.

Создание программного обеспечения становится личным актом делегирования. Пользователь описывает рабочий процесс, а агент генерирует интерфейс, логику, интеграции и тесты. Артефакт может существовать от часа до года и может быть переработан или утилизирован в зависимости от потребностей пользователя.

Будущее программного обеспечения и его влияние на пользователей

Дистрибуция программного обеспечения может стать менее зависимой от отправки исполняемого кода и больше сосредоточиться на публикации намерений, дизайна и схем. Это также может привести к тому, что пользователи начнут оценивать внешние сервисы по их проверяемости, безопасности и экономической целесообразности.

В долгосрочной перспективе интерфейс может напоминать управляемый агентом операционный слой, где пользователь запрашивает инструменты и системы, которые затем собираются из сгенерированного кода и проверенных конечных точек. Это изменение также создает новый рынок для проверяемых функций и агентно-сгенерированных клиентов.

Личное программное обеспечение против корпоративного управления

Основное разделение будет между частным программным обеспечением и корпоративным управлением. Вопросы о том, кто определяет приложение, что оно может делать и кто получает телеметрию, станут более актуальными. Это разделение станет более заметным, когда программное обеспечение, созданное агентами, станет доступным для обычных пользователей.

Пользователи смогут поддерживать агентов, которые создают и пересоздают необходимые инструменты, выбирая поставщиков конечных точек на основе их надежности и безопасности. Это также может привести к тому, что пользователи смогут отказаться от интерфейса, сохраняя при этом рабочий процесс.

Заключение

В будущем пользователи могут столкнуться с выбором между управляемым удобством и личной программной суверенностью. Корпоративные платформы могут предложить интегрированные приложения и услуги, но пользователи, которые выберут частное программное обеспечение, смогут сохранить контроль над своими данными и рабочими процессами. Это изменение в подходе к программному обеспечению может привести к тому, что пользователи начнут воспринимать создание программного обеспечения через агентов как более безопасный и эффективный вариант, чем использование приложений третьих сторон.