00:00
Монета News
Монета News
USD/RUB
EUR/RUB
Технологии

Сбер открыл код диффузионной модели GFusion

Сбер представил GFusion — первую в России диффузионную языковую модель, выложенную в открытый доступ. В отличие от стандартных моделей, работающих по принципу последовательного предсказания следующего токена, эта разработка сначала формирует черновой набросок текста, а затем постепенно оттачивает его детали, что позволяет ускорить генерацию ответов на 45% по сравнению с GigaChat 3.

Технология позволяет структурировать контент иначе: модель способна генерировать фрагменты текста в произвольном порядке, самостоятельно определяя логику построения ответа. По словам инженера Сбера Даниила Тихонова, такой подход эффективнее использует обучающие данные и дает больше свободы при работе с генерацией. Помимо самой нейросети, банк опубликовал инструменты для оптимизации обучения диффузионных моделей, которые позволяют снизить количество необходимых видеокарт. Поддержка новинки уже интегрирована в SGLang. Технический директор фундаментальных моделей GigaChat Федор Минькин подчеркнул, что проект стал важным шагом для российского ИИ-сообщества, так как масштабные диффузионные решения для текста ранее не были доступны в открытом сегменте.

Поделиться

Комментарии (0)

Оставить комментарий

Пока нет комментариев. Будьте первым!