Tether, известная компания в сфере криптовалют, представила новый кроссплатформенный фреймворк для обучения искусственного интеллекта (ИИ), который, по утверждению компании, способен настраивать большие языковые модели на потребительском оборудовании, включая смартфоны и графические процессоры, не относящиеся к NVIDIA. Эта система является частью платформы QVAC от Tether и использует архитектуру BitNet от Microsoft и техники LoRA для снижения требований к памяти и вычислительным ресурсам, что потенциально снижает затраты и барьеры для разработчиков. Объявление о запуске фреймворка подчеркивает его совместимость с широким спектром чипов, включая AMD, Intel и Apple Silicon, а также мобильные графические процессоры от Qualcomm и Apple.
Технические особенности и возможности
В ходе внутренних тестов инженеры компании смогли настроить модели с количеством параметров до 1 миллиарда на смартфонах менее чем за два часа, а для более мелких моделей это время составило всего несколько минут. Поддерживаемые модели могут достигать размера до 13 миллиардов параметров на мобильных устройствах. Ключевыми особенностями фреймворка QVAC являются:
- Использование архитектуры 1-битной модели (BitNet), что значительно сокращает использование видеопамяти (VRAM), позволяя запускать более крупные модели на ограниченном оборудовании.
- Расширение возможностей настройки на базе LoRA для оборудования, не относящегося к NVIDIA, что увеличивает совместимость с платформами AMD, Intel и Apple Silicon, а также мобильными графическими процессорами от Qualcomm и Apple.
- Поддержка обучения на устройстве и федеративного обучения, что указывает на снижение зависимости от централизованных облачных вычислений для обновления моделей.
- Увеличение производительности в области вывода, где мобильные графические процессоры показывают более быстрые результаты для моделей BitNet по сравнению с традиционными рабочими нагрузками на процессорах.
Влияние на индустрию и рынок
Запуск фреймворка Tether соответствует более широкой тенденции в индустрии, когда крипто-компании начинают расширять свои возможности в области вычислений ИИ и высокопроизводительных вычислений (HPC). Это связано с растущими потребностями в вычислительных мощностях для обработки данных ИИ и автономных программных агентов. Крупные игроки уже начали интегрировать ИИ в свои основные операции или исследовать инфраструктуру, основанную на ИИ. В то время как операторы крипто-майнинга и дата-центров ищут более прибыльные варианты использования, вычисления ИИ становятся естественным продолжением инфраструктуры сектора.
Преимущества для разработчиков и пользователей
Для разработчиков возможность запускать значительные рабочие нагрузки ИИ на потребительском оборудовании может изменить правила игры. Снижение требований к VRAM на 77,8% по сравнению с аналогичными 16-битными моделями, по данным Tether, решает одну из самых устойчивых проблем в области ИИ на краевых устройствах: ограничения по памяти. Это может позволить разработчикам проводить больше экспериментов на устройствах, находящихся ближе к пользователям, что потенциально позволит реализовать обучение на устройствах с сохранением конфиденциальности и федеративное обучение, где обновления агрегируются локально, а не загружаются на централизованные серверы.
Инициатива Tether также намекает на более широкую стратегию: крипто-компании начинают активно использовать ИИ и HPC для поддержки новых продуктов и услуг, от аналитики на блокчейне до автономных агентов, которые могут взаимодействовать с сервисами. Важно отметить, что в последние кварталы наблюдаются стратегические шаги со стороны майнеров и поставщиков инфраструктуры для масштабирования вычислительных мощностей ИИ, с несколькими крупными игроками, стремящимися к развертыванию дата-центров, ориентированных на ИИ.
Будущие перспективы и наблюдения
Среди ключевых вопросов, которые следует отслеживать в будущем, можно выделить:
- Темпы принятия: Будут ли другие крипто-компании и разработчики ИИ публично развертывать обучение на базе BitNet на потребительском оборудовании, и какие приложения появятся первыми?
- Расширение кроссплатформенности: Как быстро рабочий процесс на базе LoRA распространится на дополнительные графические процессоры, не относящиеся к NVIDIA, и мобильные ускорители?
- Пилоты ИИ на устройствах: Увидим ли мы реальные развертывания федеративного обучения или пилоты обучения на устройствах, которые продемонстрируют преимущества конфиденциальности данных?
- Конкурентные бенчмарки: Независимые тесты, сравнивающие обучение на базе BitNet с традиционными рабочими процессами на графических процессорах в краевых устройствах и дата-центрах.
- Партнерства в экосистеме: Любые сотрудничества с провайдерами кошельков, ИИ-агентами или платформами аналитики на блокчейне, которые интегрируют модели, обученные на краевых устройствах, в пользовательские продукты.
Заключение
С запуском QVAC Tether сигнализирует о стратегическом повороте к возможностям ИИ на доступном оборудовании. Если фреймворк получит широкое распространение, разработчики смогут ускорить эксперименты на потребительских устройствах, что расширит доступность инструментов и аналитики, основанных на ИИ. В ближайшие месяцы станет ясно, приведут ли эти возможности к более широкому принятию разработчиками, практическим пилотам ИИ на устройствах и ощутимому снижению потребности в облачных вычислениях для задач, связанных с ИИ в криптоиндустрии. Для конечных пользователей это может означать более быстрые и конфиденциальные функции, встроенные в кошельки и сервисы на блокчейне, что подчеркивает продолжающуюся конвергенцию между инфраструктурой криптовалют и передовыми вычислениями ИИ.
