zhch158_admin ba172d8f17 新增 macOS 兼容的推理脚本,优化支持 float16 和 MPS 加速,包含模型加载和推理功能 3 months ago
..
convert_model_float16.py 4a27f2864c 新增 Float16 和 Float32 模型转换脚本,支持 Apple Silicon MPS 加速 3 months ago
convert_model_macos_float32.py 4a27f2864c 新增 Float16 和 Float32 模型转换脚本,支持 Apple Silicon MPS 加速 3 months ago
curl_github.sh c14ca831fb 新增 curl_github.sh 脚本以测试 GitHub API 连接和用户信息 3 months ago
demo_1.jpg 44be75386c 新增支持 bfloat16 的推理脚本,包含图像处理和模型生成逻辑 3 months ago
demo_gradio.py 6a18247ccf 新增 Gradio 界面以支持图像和 PDF 布局推断 3 months ago
demo_hf_macos_bfloat16.py 44be75386c 新增支持 bfloat16 的推理脚本,包含图像处理和模型生成逻辑 3 months ago
demo_hf_macos_float16.py ba172d8f17 新增 macOS 兼容的推理脚本,优化支持 float16 和 MPS 加速,包含模型加载和推理功能 3 months ago
demo_vllm.py 6a3993fdf3 新增 vLLM 推理功能,支持图像输入和自定义提示 3 months ago
launch_model_vllm.sh 3c55054976 新增启动 vLLM 服务器的 Bash 脚本,配置模型路径和运行参数 3 months ago
launch_model_vllm_macos.sh 2117c646bb 新增 Apple Silicon 优化的 vLLM 启动脚本 3 months ago
study-notes.md 478aa18e46 新增启动脚本示例,包含 vllm 启动配置和 DotsOCR 导入 3 months ago