EN 中文

vLLM-Client

vLLM OpenAI 兼容 API 的 Rust 客户端

English Docs 中文文档
🚀
异步
Tokio 运行时，纯异步
📡
流式响应
SSE 支持，实时增量
🔧
工具调用
函数调用，简单易用
🖼️
多模态
支持图像输入
🔄
OpenAI 兼容
API 对齐 openai-python
🛡️
类型安全
Serde 强类型
streaming_example.rs