华为NPU卡 Atlas 300T Pro 训练卡-1*昇腾910 AI 16Core 2.2GHz(集成30个华为达芬奇AI Core + 16个TaiShan核),32GB,1228GB/s,300W,FP16-140TOPS,INT8-280TOPS,100Gb,1*100GE QSFP-DD接口,双宽全高全长
无需外置网卡,训练数据和梯度同步效率提升10%~70%。
三、经典使用场景
Atlas 300T Pro 训练卡 (型号 9000)典型应用场景为AI训练,人机交互操作,如图3-1所示。
图3-1 典型单机用户
系统管理员:操作界面是iBMC系统,通过带外的方式实现设备管理,包含OS安装,固件升级,服务器系统信息查询,故障处理。
生产装备人员:通过装备系统与iBMC系统(带外)和OS系统(带内)交互完成。
算法工程师:通过Tensorflow等AI框架开发网络模型,调试训练代码,导入训练数据集,启动训练,观测训练过程(包含多次迭代的loss趋势),导出训练好的模型。