开源自部署 · 永久免费
Ollama
Ollama 是开源的本地大模型运行框架，可一键在本地部署 Llama、Qwen、DeepSeek、Gemma 等开源模型，永久完全免费，无任何限制，是隐私敏感场景的最佳选择。
关键信息一览
| 免费额度 | 完全免费（需本地算力） |
| 使用限制 | 依赖本地 GPU/CPU 算力 |
| 网络要求 | 国内直连 |
| 所属分组 | 开源自部署 |
| 可用模型 | llama3.3qwen2.5deepseek-r1gemma2 |
| 收录时间 | 2026-07-26 |
特色功能标签
本地部署完全免费无网络限制OpenAI 兼容
核心优势
- 完全免费：无任何调用限制、无网络依赖
- 隐私安全：数据不出本地，适合敏感场景
- 模型丰富：支持 Llama、Qwen、DeepSeek、Gemma 等
- OpenAI 兼容：提供 OpenAI 兼容 API
安装与使用
# 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh
# 拉取模型
ollama pull llama3.3
# 运行模型
ollama run llama3.3
# 启动 API 服务（默认 11434 端口）
ollama serve接入方式
from openai import OpenAI
client = OpenAI(
api_key="ollama", # 任意值即可
base_url="http://localhost:11434/v1"
)
response = client.chat.completions.create(
model="llama3.3",
messages=[{"role": "user", "content": "Hello!"}]
)
