Z-AGI
Разработка и обучение корпоративного ИИ
Зачем бизнесу собственный Z-AGI корпоративный ИИ?
Особенности технологии
- 1Быстреев 20 раз быстрее по количеству токенов в секунду
- 2Дешевлев 4 раза дешевле по объему требуемых для работы GPU
- 3Безопаснее100% безопасно, работа в контуре без внешних API
🎯Поможет с задачами
– Генерация текста и кода
– Структурирование данных
– Экспертные знания и рассуждения
– Общение и поиск информации
– Структурирование данных
– Экспертные знания и рассуждения
– Общение и поиск информации
🔐 В департаментах компании
HR, Проектный- и Продуктовый- офисы, Операционное управление, Менеджмент, Саппорт, Сейлз и не только!
🌊 На разных рынках
Медицина, Производство, Финансы, Юриспруденция, Онлайн-торговля, Образование, Строительство и не только!
Кейсы использования
Внедрение в системе поиска
DeepTech-стартап использует LLM модели для улучшения поискового механизма: процесс индексации базы документов модифицирован при их помощи.
Скорость индексации базы документов был стоп-фактором для масштабирования эффекта у заказчиков. Задача – увеличить скорость.
Скорость до: 10.000 страниц в сутки
Скорость после: 200.000 страниц в сутки
Скорость индексации базы документов был стоп-фактором для масштабирования эффекта у заказчиков. Задача – увеличить скорость.
Скорость до: 10.000 страниц в сутки
Скорость после: 200.000 страниц в сутки
Метрики
Модель: LLaMa 70B
Скорость: 8 токенов/с
Видеопамять: 160 GB
Дообучение: (4xA100)
Модель: Compressa 70B
Скорость: 160 токенов/с
Видеопамять: 40 GB (1xA100)
Дообучение: встроено
Скорость: 8 токенов/с
Видеопамять: 160 GB
Дообучение: (4xA100)
Модель: Compressa 70B
Скорость: 160 токенов/с
Видеопамять: 40 GB (1xA100)
Дообучение: встроено