Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
支持处理中英、小语种、加字幕、换背景、混剪等,另外新增本地模型和公共库模型,本地模型只能用户自己使用,公共库可以多用户使用。
局域网版,可以自己使用。
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。
cann-ops,是基于昇腾硬件的基础算子库,同时接受外部基础算子贡献。
算子公共平台,南向对接不同组织开发的算子库,北向支撑不同加速库应用,实现M x N算子能力复用
本仓库仅作为 flagtree 项目 github 仓库的镜像版本,FlagTree 团队根据生态惯例、项目管理等实际情况综合研判,暂不开放本 gitee 仓库的 issue、pull request等功能,如有需求请移步 https://github.com/FlagTree/flagtree 进行提交,同时感谢您对 FlagTree 生态/项目的关心与支持。
基于 rv1106 开发的神经网络模型部署仓库,目前支持 picodet、mobilenet 、crnn 、pphumanseg、ocr 、yolov5、paddleocr 、pfld(人脸关键点检测)等神经网络模型
The vLLM-MetaX backend plugin for vLLM.
ACL作为AI计算语言开发和运行平台,提供了Device管理、Context管理、Stream管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API,供用户开发AI应用,实现目标识别、图像分类、语言和文字处理等功能。