Torch-GCU2.5用户使用手册

目录

• 1. 版权声明
• 2. 概述
• 3. 版本说明
• 4. 整体架构图
• 5. 依赖与支持情况
• 6. 安装使用说明
  • 6.1. 安装
  • 6.2. 更新/重装
  • 6.3. 卸载
• 7. 用户使用说明
  • 7.1. 基本使用说明
  • 7.2. GPU->GCU迁移说明
    • 一键自动迁移
    • 手动迁移
  • 7.3. 框架行为控制
  • 7.4. 调试信息输出
  • 7.5. Op Debug模块
  • 7.6. 已知问题
• 8. Python接口支持情况
  • 8.1. Supported Interfaces Mapping
• 9. distributed接口支持情况
  • 9.1. 注意事项
  • 9.2. Point-to-point communication
  • 9.3. Collective functions
• 10. 了解GCU显存使用情况
  • 10.1. 生成GCU显存使用情况快照
  • 10.2. 使用可视化工具
• 11. profiler 使用说明
  • 11.1. 示例
  • 11.2. 性能统计表格
  • 11.3. 性能可视化
• 12. Op Debug模块使用说明
  • 12.1. 概述
  • 12.2. 同步执行模式
  • 12.3. op fallback
    • 相关设置
      • fallback_cpu
  • 12.4. op check
    • 相关设置
      • op_check
      • op_check_no_break
      • op_check_tol_fp32/op_check_tol_fp16/op_check_tol_bf16
      • op_check_dump
  • 12.5. op statistics
    • 相关设置
      • op_statistics
      • op_statistics_dump
    • 相关python api
      • get_op_statistics_info()
      • dump_op_statistics_info()
      • clear_op_statistics_info()
  • 12.6. op input/output dump
  • 12.7. python call trace
  • 12.8. op name获取
  • 12.9. 文件保存
  • 12.10. op check from statistics
• 13. CUDA 代码一键迁移
  • 13.1. 使用示例
  • 13.2. torch.* 接口转换说明
  • 13.3. torch.cuda.* 接口转换说明
  • 13.4. torch.cuda.nvtx 接口转换说明
  • 13.5. NCCL / 分布式 接口转换说明
  • 13.6. DataLoader 接口转换说明
  • 13.7. torch.profiler 接口转换说明
  • 13.8. 使用置空方法转换的接口
• 14. compile使用说明
  • 14.1. 概述
  • 14.2. 安装依赖
  • 14.3. 基础功能
  • 14.4. 其它功能
  • 14.5. debug信息打印
• 15. amp使用说明
  • 15.1. Autocasting
  • 15.2. Gradient Scaling
• 16. custom op使用说明
  • 16.1. topscc kernel编写与编译
  • 16.2. pytorch op定义与backend注册
  • 16.3. python层op定义与实现
  • 16.4. setup.py文件配置
  • 16.5. 自定义module编译与安装
  • 16.6. 测试用例及执行
  • 16.7. 添加反向算子
• 17. GCUGraph 使用说明
  • 17.1. 使用限制
  • 17.2. 使用示例
• 18. Stream 限制硬件资源使用
  • 18.1. 使用限制
  • 18.2. 使用示例
• 19. libtorch_gcu 使用说明
  • 19.1. 版本说明
  • 19.2. 依赖与支持情况
  • 19.3. 使用限制
  • 19.4. 使用示例
  • 19.5. 其他说明