华为昇腾Atlas 300I Pro 推理卡融合“通用处理器、AI Core、编解码” 于一体
来源:
www.it108.com | 发布时间:2025年04月07日
一、华为昇腾Atlas 300I Pro 推理卡 概述
华为昇腾Atlas 300I Pro 推理卡融合“通用处理器、AI Core、编解码” 于一体,提供超 强AI推理、目标检索等功能,具有强算力、高能效、高性能特征检索、安全启动等优势,可广泛应用于OCR识别、语音分析、搜索推荐、内容审核等诸多AI应用场景
二、华为昇腾Atlas 300I Pro 推理卡 产品特点
强算力
· 单卡提供140 TOPS INT8算力,为数据中心推理提供更强大支持
· 支持 8 core * 1.9 GHz CPU计算能力
高能效
· 提供 2 TOPS / W 高能效比,达到业界2.1倍,节省机房部署成本
安全启动
· 设备启动链完整,启动状态确定,防止后端植入
三、华为昇腾Atlas 300I Pro 推理卡 应用场景
Atlas 300I Pro 推理卡典型应用场景为搜索推荐、内容审核和OCR系统。
搜索推荐系统主要根据用户输入(用户画像、搜索词等),通过召回和排序算法,在内容池中筛选出最终推荐的素材(视频、文本等)。主要应用在互联网等领域。
搜索推荐系统如图3-1所示,主要部件有推理服务器、客户端信息化系统软件组成,Atlas 300I Pro 推理卡部署在推理服务器中,主要实现用户数据类别召回、排序、重排序等推理功能。
图3-1 搜索推荐系统架构图
内容审核系统主要采用了数据评级打分算法,实现了视频,图像,语音,文本等审核功能。主要应用在互联网等领域。
内容审核系统如图3-2所示,主要部件有NLP服务器、中心管理服务器、信息化系统软件组成。Atlas 300I Pro 推理卡部署在NLP服务器中,主要实现视频、图像、语音、文本的审核校验等推理功能。
图3-2 内容审核系统架构图
OCR系统主要采用了文本检测和文本识别算法,实现了身份证实名认证、票据识别、档案资料和信息录入、电子签名识别等功能。主要应用在智慧政务、智慧金融等领域。
OCR系统架构如图3-3所示,主要部件有扫描仪、OCR服务器、中心管理服务器、信息化系统等软件组成。Atlas 300I Pro 推理卡部署在OCR服务器中,主要实现图片预处理、文本检测、文本识别、后处理校验等推理功能。
图3-3 典型的OCR系统架构图