支持处理中英、小语种、加字幕、换背景、混剪等,另外新增本地模型和公共库模型,本地模型只能用户自己使用,公共库可以多用户使用。
局域网版,可以自己使用。
Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
cann-ops,是基于昇腾硬件的基础算子库,同时接受外部基础算子贡献。
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。
ascendc-api-adv,是昇腾硬件上面向算子开发场景的编程语言Ascend C的高阶类库。
基于 rv1106 开发的神经网络模型部署仓库,目前支持 picodet、mobilenet 、crnn 、pphumanseg、ocr 、yolov5、paddleocr 、pfld(人脸关键点检测)等神经网络模型
A KVCache-centric Disaggregated Architecture for LLM Serving
The vLLM-MetaX backend plugin for vLLM.
本仓库仅作为 flagtree 项目 github 仓库的镜像版本,FlagTree 团队根据生态惯例、项目管理等实际情况综合研判,暂不开放本 gitee 仓库的 issue、pull request等功能,如有需求请移步 https://github.com/FlagTree/flagtree 进行提交,同时感谢您对 FlagTree 生态/项目的关心与支持。