MinerU 支持根据不同需求,按需安装扩展模块,以增强功能或支持特定的模型后端。
core 模块是 MinerU 的核心依赖,包含了除vllm/lmdeploy外的所有功能模块。安装此模块可以确保 MinerU 的基本功能正常运行。
uv pip install "mineru[core]"
vllm加速 VLM 模型推理[!NOTE]
vllm和lmdeploy对vlm的推理加速效果和使用方式几乎相同,您可以根据实际情况选择其中之一进行安装和使用,但不建议同时安装这两个模块,以避免潜在的依赖冲突。
vllm 模块提供了对 VLM 模型推理的加速支持,适用于具有 Volta 及以后架构的显卡(8G 显存及以上)。安装此模块可以显著提升模型推理速度。
uv pip install "mineru[core,vllm]"
[!TIP] 如在安装包含
vllm的扩展包过程中发生异常,请参考 vllm 官方文档 尝试解决,或直接使用 Docker 方式部署镜像。
lmdeploy加速 VLM 模型推理[!NOTE]
vllm和lmdeploy对vlm的推理加速效果和使用方式几乎相同,您可以根据实际情况选择其中之一进行安装和使用,但不建议同时安装这两个模块,以避免潜在的依赖冲突。
lmdeploy 模块提供了对 VLM 模型推理的加速支持,适用于具有 Volta 及以后架构的显卡(8G 显存及以上)。安装此模块可以显著提升模型推理速度。
uv pip install "mineru[core,lmdeploy]"
[!TIP] 如在安装包含
lmdeploy的扩展包过程中发生异常,请参考 lmdeploy 官方文档 尝试解决。
如果您需要在边缘设备上安装轻量版的 client 端以连接兼容 openai 接口的服务端来使用vlm模式,可以安装mineru的基础包,非常轻量,适合在只有cpu和网络连接的设备上使用。
uv pip install mineru