Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
支持处理中英、小语种、加字幕、换背景、混剪等,另外新增本地模型和公共库模型,本地模型只能用户自己使用,公共库可以多用户使用。
局域网版,可以自己使用。
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。
cann-ops,是基于昇腾硬件的基础算子库,同时接受外部基础算子贡献。
算子公共平台,南向对接不同组织开发的算子库,北向支撑不同加速库应用,实现M x N算子能力复用
基于 rv1106 开发的神经网络模型部署仓库,目前支持 picodet、mobilenet 、crnn 、pphumanseg、ocr 、yolov5、paddleocr 、pfld(人脸关键点检测)等神经网络模型
cu-bridge 尝试成为GPU程序员使用一种编程语言进行开发、并且可运行在多种GPU硬件平台的解决方案。
ACL作为AI计算语言开发和运行平台,提供了Device管理、Context管理、Stream管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API,供用户开发AI应用,实现目标识别、图像分类、语言和文字处理等功能。
ascendc-api-adv,是昇腾硬件上面向算子开发场景的编程语言Ascend C的高阶类库。