Jan：把大语言模型搬回自己电脑的开源客户端

传统网页版 AI 助手的对话要上传到厂商服务器处理，而 Jan 把推理过程整个搬到你的 CPU/GPU 上：输入的草稿、合同片段、私人问题不出本机。对处理敏感材料的用户来说，「数据物理隔离」比任何隐私条款都更直接。

模型一旦下载到本地，聊天推理就不再需要联网。飞机上、内网环境里、或者单纯不想被网络波动打断工作流时，它都照常工作。订阅费、限流、账号风控这些云服务的烦恼也随之消失。

源码托管在 GitHub，代码怎么处理数据、往哪里发请求都是公开可见的，社区可以审查也可以自行构建。「隐私」从一句承诺变成了一件可以被检验的事。

内置模型中心可以直接浏览、下载常见的开源权重，社区通行的是 GGUF 这类为本地推理设计的量化格式。同一个界面里能管理多个模型，按任务切换。

Jan 内置了本地 API 服务，开启后会提供兼容 OpenAI Chat Completions 格式的 HTTP 接口。原本对接 OpenAI 的脚本、插件、笔记工具，把地址指到本机就能复用，这是它区别于纯聊天窗口的关键。

遇到本机跑不动的重活，也可以在设置里接入 OpenAI 等远程模型服务，本地与云端模型收在同一个对话界面里切换。隐私敏感的任务走本地，质量优先的任务走云端，选择权在你。

去官网或 GitHub Releases 获取对应系统的安装包，Windows、macOS、Linux 都有覆盖，安装过程与普通桌面软件无异。

新手建议从小参数量的量化模型起步，对内存和显存的压力最小；配置宽裕再逐步尝试更大的模型。各模型的许可证不同，商用前记得核对授权条款。

模型文件普遍有几个 GB，第一次下载需要些耐心；完成后新建线程即可开始完全离线的对话，界面上可以随时切换已安装的其他模型。

上下文长度、温度等参数都能在设置里调整：写长文就把上下文调大，求稳定输出就压低温度。不确定怎么设就先用默认值，够用再动。

在设置中启用本地服务器后，Jan 会提供一个兼容 OpenAI 格式的接口地址；把第三方应用的 Base URL 改成这个地址，就能让它们调用你本地的模型。