4Paradigm用户5623
ModelHub 社区发布面向信创算力的推理引擎体系 EngineX：以架构适配驱动批量化模型支持
输入“/”快速插入内容
ModelHub 社区发布面向信创算力的推理引擎体系 EngineX：以架构适配驱动批量化模型支持
ModelHub 社区发布面向信创算力的推理引擎体系 EngineX：以架构适配驱动批量化模型支持
用户5623用户56232025年8月28日修改
信创算力社区 ModelHub 今日正式发布专门适配信创算力的 AI 引擎体系 EngineX。该体系采取“架构级适配”模式，通过适配主流深度学习架构（如 Transformers、Diffusion、CNN 等），实现对同一架构下多个模型的批量化支持，从根本上解决了国产信创芯片在 AI 模型兼容性和支持数量上的长期瓶颈问题。
架构级适配：一次适配，批量支持
在国产算力生态中，不同模型往往需要分别适配，耗时长且重复工作量大。ModelHub 社区提出，因为目前 90% 主流的 AI 模型都是基于三类基础算法架构（即 transformer、diffusion、CNN），因此可以通过基础算法架构适配，驱动批量化模型支持。基于此，ModelHub 推出了面向信创算力的推理引擎体系 EngineX，并且将适配层提升至 架构级：
•
针对架构（如 transformer）进行一次适配，即可批量支持该架构下的所有模型（如 Llama、DeepSeek、ChatGLM 等、Whisper、SenseVoice 等）。
•
在 diffusion 架构下，可一次性适配 Stable Diffusion、Gemma 3 等多个文生图和多模态模型。
•
在 CNN 架构下，可统一支持 ResNet、MobileNet、LCNet 等视觉模型。
这一方式极大缩短了模型上国产算力平台的部署周期，实现了“引擎驱动、多模型即插即用”的目标。
推理引擎体系 EngineX 技术架构图
画板
EngineX 以“模型架构适配”为核心，通过统一的引擎层实现不同领域、多架构、多模型的批量化支持，并与国产算力平台深度适配。
覆盖四大主流 AI 任务领域，全场景信创适配
EngineX 以引擎层为核心，覆盖自然语言处理、语音、多模态和计算机视觉四大 AI 领域：
•
自然语言处理（transformer 架构）：EngineX-vllm（文本生成）、EngineX-translation（翻译），批量支持 Llama、DeepSeek、ChatGLM、mBART-50 等模型。
•
语音（transformers + diffusion 架构）：EngineX-asr（语音识别）、EngineX-tts（语音合成），批量支持 Whisper、SenseVoice、F5-TTS、Kokoro 等模型。
•
多模态（transformers + diffusion 架构）：EngineX-diffusers（文生图）、EngineX-vl（视觉多模态理解），一次适配可支持 Stable Diffusion、MiniCPM-V 等多模态模型。
•
计算机视觉（CNN 架构）：EngineX-vc-cnn（视觉分类）、EngineX-paddleocr（文字识别），统一支持 ResNet、MobileNet、LCNet 等。
全链路适配国产算力
EngineX 通过统一的工具链接口（PyTorch/TensorFlow/ONNX），深度适配国产 CPU、GPU、NPU，包括华为昇腾、天数智芯、寒武纪、昆仑芯、壁仞、摩尔线程、燧原、海光等主流硬件，确保在信创环境下的高性能与高兼容性。
开放的 ModelHub 生态
依托 ModelHub 开放社区，开发者可以在统一推理引擎体系 EngineX 下快速集成、切换和部署模型，无需重复适配工作，大幅降低国产算力平台上的 AI 落地成本。
关于 ModelHub
ModelHub 是面向信创算力生态的 AI 模型与工具社区，致力于推动国产硬件平台上的人工智能创新与落地，提供涵盖模型训练、推理到部署的全流程解决方案。
•
•
信创算力微信交流群：扫描下方二维码