Enflame Documents
Version: TopsRider v3.6
开发概览
燧原软件栈白皮书
1. 简介
2. 版本历史
3. 词汇表
4. 软件栈简介
5. 软件栈架构
6. 组件介绍
6.1. TopsPlatform（加速计算平台）
Enflame Driver（驱动程序）
TopsRuntime（运行时库）
TopsCC（异构计算编译器）
Developer Tools（开发者工具）
6.2. GCU-accelerated Library（预编译计算库）
6.3. Graph Toolkit（计算图AI编译器）
6.4. Multimedia Library（多媒体库）
6.5. Parallel Communication Toolkit（通信库）
6.6. AI Framework（AI框架）
6.7. AI Development Toolkit（AI应用开发工具）
6.8. Data Center Toolkit（集群运维管理工具集）
6.9. Enflame GCU Center（镜像和解决方案）
环境安装
TopsRider 软件栈安装手册
1. 安装综述
1.1. 综述
1.2. 名词解释
2. 安装说明
2.1. 使用前说明
2.2. 安装使用
2.2.1. 静默安装
2.2.2. 交互式操作界面安装
2.3. 软件栈安装状态检查
2.4. 软件栈卸载
2.5. TopsInstaller 命令说明
2.5.1. 参数解释
2.5.2. 重点参数说明
3. 附录
3.1. Docker 制作
3.2. Docker 启动
3.3. 版本历史
模型开发
综合框架使用指南
Torch-GCU 使用指南
Torch-GCU2.5用户使用手册
1. 版权声明
2. 概述
3. 版本说明
4. 整体架构图
5. 依赖与支持情况
6. 安装使用说明
7. 用户使用说明
8. Python接口支持情况
9. distributed接口支持情况
10. 了解GCU显存使用情况
11. profiler 使用说明
12. Op Debug模块使用说明
13. CUDA 代码一键迁移
14. compile使用说明
15. amp使用说明
16. custom op使用说明
17. GCUGraph 使用说明
18. Stream 限制硬件资源使用
19. libtorch_gcu 使用说明
Torch_GCU2.5算子支持列表
1. 版权声明
2. 前言
3. 算子支持情况
Torch_GCU2.6用户使用手册
1. 版权声明
2. 概述
3. 版本说明
4. 整体架构图
5. 依赖与支持情况
6. 安装使用说明
7. 用户使用说明
8. Python接口支持情况
9. distributed接口支持情况
10. 了解GCU显存使用情况
11. profiler 使用说明
12. Op Debug模块使用说明
13. CUDA 代码一键迁移
14. compile使用说明
15. amp使用说明
16. custom op使用说明
17. GCUGraph 使用说明
18. Stream 限制硬件资源使用
19. libtorch_gcu 使用说明
Torch_GCU2.6算子支持列表
1. 版权声明
2. 前言
3. 算子支持情况
Torch_GCU2.7用户使用手册
1. 版权声明
2. 概述
3. 版本说明
4. 整体架构图
5. 依赖与支持情况
6. 安装使用说明
7. 用户使用说明
8. Python接口支持情况
9. distributed接口支持情况
10. 了解GCU显存使用情况
11. profiler 使用说明
12. Op Debug模块使用说明
13. CUDA 代码一键迁移
14. compile使用说明
15. amp使用说明
16. custom op使用说明
17. GCUGraph 使用说明
18. Stream 限制硬件资源使用
19. libtorch_gcu 使用说明
Torch_GCU2.7算子支持列表
1. 版权声明
2. 前言
3. 算子支持情况
torch 模型用户手册（推理）
1. 版权声明
2. 总览说明
3. torch模型使用说明（推理）
4. 附录：数据准备
多模态模型用户手册
1. 版权声明
2. 总览说明
3. 多模态模型使用说明
PaddlePaddle 使用指南
paddle-custom-gcu3.0用户使用手册
1. 版权声明
2. 前言
3. 安装使用说明
4. GCU适配支持的repos
5. 参考阅读
6. GCU适配支持的模型
7. GCU适配支持的算子情况
8. 算子测试实例
9. 模型迁移用法说明
10. 模型优化
11. 日志系统
12. FAQ
Tensorflow-GCU 使用指南
Tensorflow_Gcu用户使用手册
1. 版权声明
2. 文档综述
3. 安装使用说明
4. 用户使用说明
5. 附录
6. 环境变量解释
7. GCU特性接口介绍
TensorFlow_GCU 算子支持列表
1. 版权声明
2. 前言
3. TensorFlow_GCU 算子支持列表
模型推理库使用指南
判别式模型推理指南
TopsInference用户使用手册
1. 前言
2. 安装使用说明
3. 快速入门
4. 用户使用说明
5. 调试方法及常见问题
TopsInference C++ API参考
1. Attribute
2. Class
3. Function
TopsInference Python API 参考
1. User Guide
2. TopsInference API Reference
3. Appendix
TopsInference 示例代码使用手册
1. 版权声明
2. TopsInference API Sample
3. TopsInference Application Sample
模型推理使用手册
1. 基础环境配置
2. 执行推理
3. 附录数据集
生成式模型推理指南
vLLM-gcu(v0.6.1.post2)用户使用手册
1. 版权声明
2. 总体介绍
3. 安装
4. 使用指南
5. 模型推理及性能评估指南
6. 多模态模型
vLLM-gcu(v0.8.0)用户使用手册
1. 版权声明
2. 总体介绍
3. 安装
4. 使用指南
5. 模型推理及性能评估指南
6. 多模态模型
vLLM-gcu(v0.9.2)用户使用手册
1. 版权声明
2. 总体介绍
3. 安装
4. 使用指南
5. LLM模型使用指南
6. 多模态模型使用指南
7. Embedding模型使用指南
8. Reranker模型使用指南
SGLang 用户使用手册
1. 版权声明
2. 前言
3. 用户指南
4. 模型推理及性能评估指南
fast-diffusers用户手册
1. 版权声明
2. 前言
3. SD系列模型推理指南
4. SD 扩展模型推理指南
5. Dit 系列模型推理指南
6. 视频生成模型推理指南
7. SD系列模型性能评估指南
8. SD 扩展模型性能评估
9. Dit 系列模型性能评估指南
10. 视频生成模型性能评估指南
TopsCompressor用户使用手册
1. 前言
2. 简介
3. 安装使用说明
4. 用户使用说明
5. 相关类及API介绍
6. 量化数据集
7. 示例代码
8. vllm-gcu部署
9. 数据集精度评估
xDiT-GCU 用户使用手册
1. 前言
2. DiT 系列模型多卡推理
3. DiT 系列模型多卡性能评估
ONNX Runtime 使用指南
ONNX Runtime 用户使用手册
1. 版权声明
2. 前言
3. 原理介绍
4. 安装使用说明
5. 用户使用说明
调试相关
TopsExec 用户使用手册
1. 版权声明
2. 前言
3. 原理介绍
4. 安装使用说明
5. 用户使用说明
邃思320 ONNX 算子支持列表
1. 版权声明
2. 前言
3. 算子支持情况
TopsIDEAS 用户使用手册
1. 前言
2. 简介
3. 安装使用说明
4. 用户使用说明
5. GCU 相关功能
6. ONNX 相关功能
基础开发平台
基础开发平台
TopsPlatform 用户使用指南
TritonGCU 用户使用指南
TritonGCU编程指南
1. 版权声明
2. 变更历史
3. 简介
4. 硬件架构
5. 执行模型
6. 线程模型
7. 内存模型
8. 类型支持
9. 编程接口
10. 调试
11. 性能优化
12. 环境变量
13. 限制
14. 算子迁移
15. 术语定义
16. 附录
通用计算库
通用计算库
计算图优化
TopsGraph 用户使用手册
1. 版权声明
2. 前言
3. 安装使用说明
4. TopsGraphBuilder 用户手册
TopsGraph C++ API参考
1. TopsGraphBuilder
2. OpBuilders
3. Operation Semantics
4. DataType
5. Class
TopsGraph Python API参考
1. Builder Python API
2. OpBuilders
TopsAten 算子库
TopsAten 用户使用手册
1. 前言
2. TopsAten概述
3. 安装使用
TopsAten API
1. Definitions
2. TopsAten API Function
多媒体软件开发库
FFmpeg_GCU用户使用手册
1. 前言
2. FFmpeg_GCU 概述
3. 安装使用
4. 应用举例
TopsCV异构加速库
1. 版权声明
2. 前言
3. TopsCV 概述
4. 安装使用
5. 应用举例
TopsCV C API
1. TopsCV C API
通信库
ECCL用户使用手册
版权声明
版本历史
词汇表
ECCL 简介
ECCL 用户使用手册
eccl-tests
ECCL API参考
版权声明
版本历史
ECCL API 参考
合规声明
文档法律声明
燧原软件栈文档中心
»
综合框架使用指南
»
vLLM-gcu(v0.9.2)用户使用手册
»
7.
Embedding模型使用指南
7.
Embedding模型使用指南
¶
7.1. 已支持的Embedding模型列表
7.2. Qwen