一句话结论
本地运行大模型并进行AI对话的工具,免费开源
为什么要收录它?
本地运行大模型并进行AI对话的工具,免费开源
它是什么
Jan 是免费开源的本地大模型客户端:支持 LlaMa、Mistral、Phi-2、DeepSeek、Yi 等 20 多个模型,可以手动导入也能直接在模型库里下载,界面简洁,Windows、Mac(含 M1/M2/M3)和 Linux 都能跑。
主要功能与特点
- 本地运行开源大模型:支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个模型,可手动导入也可以在模型库下载模型简洁好用的聊天界面:软件界面清爽简洁、直观易用,直接在本地与开源大模型快速进行对话聊天支持多个平台:Jan支持在Windows、Mac(Intel、M1/M2/M3)和Linux等操作系统运行,后续还将推出移动端APP。
- 内置API服务器:与OpenAI API兼容,可通过API获取模型信息、下载、启动、停止模型及聊天等。
核心优势
- 完全本地:对话不出本机,敏感内容也能用。
- 免费开源:没有订阅和额度,装完就能一直用。
- 模型能自己挑:20 多个开源模型可下载也可手动导入。
- 接口通用:内置与 OpenAI 兼容的 API 服务,现有代码改个地址就能接。