Яндекс готовит к запуску оркестратор для нейросетей
Запуск оркестратора позволит Яндексу оптимизировать затраты на вычислительные мощности, что критично на фоне роста цен на память и дефицита GPU. Стратегия распределения нагрузки между собственными и открытыми моделями может укрепить конкурентные позиции компании в сегменте B2B-сервисов и повысить эффективность использования инвестиций в ИИ.
⬛️⬜️⚫️⚪️ Командовать парадом буду я: «Яндекс» готовит к запуску оркестратор для нейросетей «Яндекс» готовит к запуску оркестратор ИИ-моделей — систему, которая распределяет задачи между разными нейросетями так, чтобы максимальное качество достигалось по минимальной стоимости, узнал Forbes. Внутри компании умный роутинг уже работает, для всех пользователей его планируют запустить в сентябре, рассказал руководитель направления «Алисы» и умных устройств Валерий Стромов. В первой версии будет три-пять моделей-экспертов, причем 80–90% потока задач останется на собственных разработках, а узкоспециализированные запросы уйдут в опенсорсные модели. Это позволит переигрывать Google, у которого пока одна модель на все случаи, рассчитывает Стромов. В «Алису AI» «Яндекс» вложил 55 млрд рублей в 2025 году, в этом году уровень инвестиций сохранится. Экономика здесь важнее «интеллекта»: в мире острый дефицит вычислительных мощностей, а память DDR5 за год подорожала на 483%, приводит данные Morgan Stanley сооснователь «Металаба» Сергей Батулин. Есть и обратная сторона, отмечает эксперт в индустрии ИИ Роман Постников: чем лучше роутинг, тем меньше экономического смысла самостоятельно обучать собственные передовые модели — они превращаются во взаимозаменяемый ресурс. Подробности — в материале Forbes 📸: Фото Anas Photography / Getty Images