模型性能分析工具
Topsprof
Topsprof 分析工具使您能够从命令行收集和查看分析数据
支持在CPU和GCU上收集与 Tops 相关的活动的时间线
收集分析数据后,分析结果显示在控制台中,也可以保存以供 topsprof 或 Visual Profiler 以后查看
其分析结果可以存储,或者直接在控制台中显示,结合Visual Profiler 工具还可以实现分析结果的可视化
提供了 Python 版本 Profiling API
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
TOPS VISUAL PROFILER
TopsVisualProfiler 是一款性能分析可视化工具
支持本地和远程两种方式进行性能分析,极大方便用户的使用
统一的时间线视图可以清楚地分析 CPU 和 DTU 发生的活动
内置的数据比较器方便用户在不同 Profile 数据内进行性能数据对比
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
加速卡监控工具
EFSMI
EFSMI用于监管加速卡的Linux命令行工具
可查询加速卡资产信息、温度、功耗、时钟频率、GCU设备和内存资源利用率等
基于EFML (Enflame Management Library) 开发
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
EFML
EFML是一套访问底层GCU设备的代码库
公开提供的API 可以被C/C++/Python/Go等语言开发的程序使用
基于C/C++ 语言开发的程序库,应用软件可以方便地实现对GCU设备的访问
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
EFQUAL
EFQUAL是一套加速卡压测工具
可以测试散热、功耗、PCIe带宽、GCU-LARE带宽等
可以用于测试加速卡、服务器适配和稳定性测试
该工具有独立安装包,如有需要,请前往软件下载模块进行下载
部署运维工具
K8S-DEVICE-PLUGIN
GCU K8s 插件,支持K8s管理GCU设备
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
CONTAINER-TOOLKIT
GCU容器运行套件,支持Docker管理GCU设备
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
ENFLAME-EXPORTER
GCU的Prometheus Exporter,支持GCU设备的监控信息采集与告警信息发送
该工具已集成到软件包中,如有需求,请前往软件下载模块进行下载
SPARK
Enflame Spark集群部署工具提供集群级别的快速部署与交付测试。包括网络配置、驱动安装、平台测试、与模型测试等功能