TritonGCU编程指南

目录

• 1. 版权声明
• 2. 变更历史
  • 2.1. 0.1.0 （2025-05-15）
• 3. 简介
• 4. 硬件架构
• 5. 执行模型
• 6. 线程模型
• 7. 内存模型
• 8. 类型支持
• 9. 编程接口
  • 9.1. 内存/指针操作
    • load
    • store
    • make_block_ptr
  • 9.2. 数学操作
    • abs
    • cdiv
    • ceil
    • clamp
    • cos
    • div_rn
    • erf
    • exp
    • exp2
    • fdiv
    • floor
    • fma
    • log
    • log2
    • maximum
    • minimum
    • rsqrt
    • sigmoid
    • sin
    • softmax
    • sqrt
    • sqrt_rn
    • umulhi
  • 9.3. 规约操作
    • argmax
    • argmin
    • max
    • min
    • reduce
    • sum
    • xor_sum
  • 9.4. 扫描/排序操作
    • associative_scan
    • cumprod
    • cumsum
    • histogram
    • sort
• 10. 调试
  • 10.1. interpret
  • 10.2. print
  • 10.3. topsgdb
  • 10.4. gsan
• 11. 性能优化
  • 11.1. grid && num_warps
  • 11.2. BLOCK_SIZE
  • 11.3. 以连续方式加载数据，避免低效的随机地址访问
  • 11.4. pingpong 的使能
    • 1D计算pingpong
    • 2D计算pingpong
• 12. 环境变量
  • 12.1. MLIR_ENABLE_DUMP
  • 12.2. TRITON_ALWAYS_COMPILE
  • 12.3. TRITON_DISABLE_LINE_INFO
  • 12.4. TRITON_INTERPRET
  • 12.5. TRITON_PRINT_AUTOTUNING
  • 12.6. TRITON_KERNEL_DUMP
  • 12.7. TRITON_KERNEL_OVERRIDE
  • 12.8. TRITON_REPRODUCER_PATH
  • 12.9. LLVM_IR_ENABLE_DUMP
  • 12.10. TRITON_ENABLE_LLVM_DEBUG
  • 12.11. TRITON_LLVM_DEBUG_ONLY
  • 12.12. DISABLE_LLVM_OPT
  • 12.13. LLVM_ENABLE_TIMING
  • 12.14. TRITON_F32_DEFAULT
• 13. 限制
  • 13.1. grid 维度限制
  • 13.2. BLOCK_SIZE 限制
  • 13.3. num_stages 限制
  • 13.4. 无法使用原生 llvm 的优化场景
    • vector memory layout 问题
  • 13.5. load/store 限制
    • 隐式broadcast限制(stride=0)
    • 同一内存多次读取限制(stride从大到小不是整数倍)
    • tensor最大维度限制
• 14. 移植开源Triton算子到TritonGCU
  • 14.1. 移植步骤
  • 14.2. 注意事项
• 15. 术语定义
• 16. 附录