Junie Local получил стабильную поддержку Windows и интеграцию с NVIDIA RTX Spark с первого дня

Junie Local теперь полностью поддерживается на платформе NVIDIA RTX Spark с первого дня, что стало важным этапом для развития локального ИИ на Windows. Это обновление переводит поддержку Windows из экспериментального состояния в стабильный релиз, позволяя разработчикам запускать полноценного агента для написания кода непосредственно на своем оборудовании. RTX Spark сочетает видеокарту Blackwell RTX и процессор Grace, создавая мощную среду для запуска крупных локальных ИИ-моделей в тонких ноутбуках и компактных настольных компьютерах. Используя эту конкретную аппаратную архитектуру, Junie Local приносит передовые возможности ИИ для программирования в повседневные рабочие процессы, устраняя необходимость в облачной обработке и гарантируя, что весь код остается полностью на машине пользователя.

Техническая реализация на RTX Spark включает значительные оптимизации для адаптации процессов настройки и вывода под уникальные аппаратные ограничения. Junie Local автоматически регулирует размер контекстного окна, чтобы он соответствовал доступной памяти GPU, что позволяет системе удерживать больше кода, результатов инструментов и истории разговора во время активных сессий. Для вывода программа использует тензорные ядра Blackwell для эффективных вычислений в формате FP8, что значительно ускоряет обработку контекста. Кроме того, система применяет спекулятивное декодирование - технику, при которой заранее генерируется несколько токенов, а затем они проверяются за один проход, что ускоряет общую скорость генерации. Эти оптимизации разработаны для максимальной загрузки вычислительных мощностей GPU при сохранении высокой производительности в сложных задачах программирования.

Тестирование производительности на RTX Spark показало скорость генерации до 55 токенов в секунду, что установило начальную базовую линию для платформы. Хотя эта цифра отражает текущее состояние, дальнейшие оптимизации вывода уже находятся в разработке для улучшения этих показателей. Переход к стабильной поддержке Windows также означает, что пользователи с видеокартами NVIDIA RTX, оснащенные 24 ГБ видеопамяти, такими как RTX 3090, 4090 или 5090 с 32 ГБ, теперь могут надежно запускать Junie Local. Это расширяет совместимость с оборудованием за пределы первоначального требования - Mac с чипом M5 и 64 ГБ памяти, делая инструмент доступным для более широкого круга разработчиков, владеющих современными видеокартами NVIDIA.

Для начала работы пользователям необходимо убедиться, что у них установлена версия драйвера NVIDIA 581 или новее, а также свободно около 20 ГБ дискового пространства для размещения файлов модели. Процесс установки включает выполнение специальной команды PowerShell, которая задает необходимые переменные окружения и загружает требуемые компоненты. После установки запуск Junie и выполнение команды /model позволяют выбрать модель, после чего локальный движок стартует, и сессия переключается на локальную обработку. Junie Local остается полностью бесплатным для использования, без необходимости регистрации, подписки или покупки кредитов. Команда в настоящее время работает над расширением выбора локальных моделей и улучшением производительности в программировании, чтобы сократить время и объем памяти, необходимые для выполнения задач.