Tops C++ 编程指南

目录

• 1. 版权声明
• 2. 简介
  • 2.1. TopsRider® ：加速计算平台及编程模型
  • 2.2. 文档结构
• 3. 硬件架构
  • 3.1. GCU210和GCU300的架构 (GCU210 & GCU300 Architecture)
    • SIP架构 (SIP Architecture)
    • 计算单元集群
    • 芯片的架构 (Chip Architecture)
• 4. 执行模型
  • 4.1. 主机端程序 (Host Program)
  • 4.2. 核函数 (Kernel Function)
• 5. 线程模型
  • 5.1. 线程层次结构 (Thread Hierarchy)
  • 5.2. 软硬件映射 (Software to Hardware Mapping)
• 6. 内存模型
  • 6.1. 内存空间（Memory Space）
  • 6.2. 内存空间的映射（Memory Mapping）
  • 6.3. 地址空间（Address Space）
  • 6.4. 异步内存分配 (Asynchronous Memory Allocation)
• 7. 编程接口
  • 7.1. 内存管理（Memory Management）
  • 7.2. 执行流（Stream）
  • 7.3. 事件（Event）
  • 7.4. 默认执行流（Default Stream）
• 8. C++语言扩展
  • 8.1. 函数执行空间指示符 (Function Execution Space Specifiers)
    • __global__
    • __device__
    • __host__
    • __cooperative__
  • 8.2. 变量内存空间指示符（Variable Memory Space Specifiers）
    • __device__
    • __constant__
    • __shared__
    • __local__
    • __restrict__
    • 转换规则
  • 8.3. 内置向量类型和操作 (Built-in Vector Types & Operators)
    • 内置向量类型 (Built-in Vector Types)
    • 向量运算符 (Built-in vector Operators)
      • 双目运算符 (Binary Operators)
      • 单目运算符 (Unary Operators)
      • 比较运算符 (Comparison Operators)
      • 位运算符 (Bitwise Operators)
  • 8.4. 数学函数 (Mathmatical Functions)
  • 8.5. 内置变量 (Built-in Variables)
    • gridDim
    • blockIdx
    • blockDim
    • threadIdx
  • 8.6. 内置宏定义 (Built-in Macro Definitions)
    • GCU_ARCH
    • AGCU_ARCH
  • 8.7. 数据变换引擎 (Data Transformation Engine)
    • DTE上下文 (DTE Context)
    • DTE的数据参数 (DTE Parameters)
    • DTE的操作 (DTE Operations)
  • 8.8. 同步机制 (Synchronization Mechanism)
    • 线程组同步
    • 计数同步
• 9. C++语言支持
  • 9.1. 支持的标量类型 (Supported Scalar Type)
• 10. 错误处理机制
• 11. 兼容性
  • 11.1. AGCU计算能力 (AGCU Compute Capability)
    • AGCU功能支持 (Feature Supported per AGCU Capability)
    • AGCU技术参数（Technical Specifications per AGCU Capability）
  • 11.2. 二进制兼容 (Binary Compatibility)
  • 11.3. 汇编指令兼容 (Assembly Compability)
• 12. 性能优化
  • 12.1. 总体优化策略 (Overall Performance Optimization Strategies)
  • 12.2. 利用率分析 (Utilization Analysis)
    • 算力利用率分析
      • 硬件设备的算力
      • Dot算子的计算量(number of operations)
      • Conv算子的计算量(number of operations)
    • 带宽利用率分析
      • 硬件设备的带宽
      • Dot算子的数据量(number of bytes)
      • Conv算子的数据量(number of bytes)
      • 1D算子的数据量(number of bytes)
    • 算术密度和瓶颈分析
      • Dot算子的算术密度(arithmetic intensity)
      • Conv算子的算术密度(arithmetic intensity)
      • 1D算子的算术密度(arithmetic intensity)
  • 12.3. 编译优化（Compilation Optimization）
    • 指定循环的属性
      • 循环展开
• 13. 术语定义
• 14. 变更历史
  • 14.1. 1.1.0的变更 (2024-06-26)
  • 14.2. 1.0.1的变更 (2024-03-22)
  • 14.3. 0.9.0的变更 (2023-12-26)