Т-Технологии представили ИИ-модель T-Search для агентского поиска
Запуск T-Search демонстрирует технологическую независимость и эффективность Т-Технологий в сегменте корпоративного ИИ. Снижение затрат на инфраструктуру и возможность локального развертывания повышают привлекательность продукта для крупных клиентов, что может положительно сказаться на выручке и маржинальности финтеха в долгосрочной перспективе.
Группа «Т-Технологии» представила открытую модель T-Search для многошагового поиска для бизнеса. Инструмент решает одну из главных проблем при масштабировании ИИ – делает инференс (применение модели на практике на основе новых данных) существенно дешевле. Сбор информации специализированным поисковым субагентом повышает качество контекста без дорогостоящей перестройки базовой ИТ-архитектуры. Существенная доля снижения затрат достигается за счёт экономии на железе. T-Search содержит 35 млрд параметров, из которых одновременно активны только 3 млрд. Благодаря такой архитектуре модель способна разворачиваться на одной видеокарте GPU H100 вместо стандартных 16, работая до трёх раз быстрее и до пяти раз дешевле в токенах по сравнению с аналогами. Экономический эффект в агентских сценариях составляет от 20% до 100% экономии на обработке запросов. Разработка первой русскоязычной ИИ-модели для агентского поиска с дополнением контекстом обошлась финтеху в 70 млн рублей, которые включили в себя расходы на вычислительные мощности для R&D, дообучение и оплату труда специалистов. Инструмент ориентирован на интеграторов и крупные компании с высокой нагрузкой на внутренние базы данных, такие как маркетплейсы, телеком-операторы и логистические сервисы. Кроме того, возможность локального запуска модели позволяет компаниям соблюдать регуляторные требования по защите персональных данных и не выводить конфиденциальную информацию во внешнее облако. @banksta