Ollama

在本地计算机运行Llama等开源大模型的命令行工具。

适用人群开发者、研究人员、AI 爱好者使用场景本地开发、隐私敏感场景、研究学习
分类:开源AI项目收录时间:2026-11-09
信息提示:积分额度、会员权益与模型版本可能调整,请以Ollama官网当前说明为准。

Ollama是什么

Ollama 是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行 Llama 2、Code Llama、DeepSeek-R1 等开源模型,还支持自定义和创建自己的模型。

这个免费开源项目支持 macOS、Linux 和 Windows,并提供官方 Docker 镜像与 REST API,支持 GPU 加速,让所有交互都在本地进行,无需把私有数据发送到第三方服务。

Ollama是什么
▲ 图源网络

Ollama的主要功能

  • 本地运行模型:在本地计算机运行 Llama 2、DeepSeek-R1 等开源模型。
  • 模型库:提供 40 多个可一键下载运行的模型,持续增加中。
  • GPU 加速:在 macOS 和 Linux 上支持 GPU 加速推理。
  • REST API:提供 REST API 用于与应用程序交互。
  • Docker 部署:提供官方 Docker 镜像,简化容器部署。
  • 隐私安全:所有交互都在本地进行,无需上传私有数据。

如何使用Ollama

  1. 安装:访问 ollama.com 下载对应系统的安装包。
  2. 下载模型:用 ollama run 命令下载并运行模型,如 ollama run llama2。
  3. 对话交互:在命令行或桌面端与本地模型对话。
  4. API 调用:通过 REST API 把本地模型接入自己的应用。

Ollama的应用场景

  • 本地开发:在本地运行和实验大语言模型,无需依赖云服务。
  • 隐私敏感场景:在本地处理数据,确保私有数据不泄露给第三方。
  • 研究与学习:开发者研究开源模型的部署与推理。

常见问题解答

Ollama 是什么?

Ollama 是用于在本地运行大语言模型的命令行工具。

Ollama 支持哪些模型?

支持 Llama 2、DeepSeek-R1、Mistral 等 40 多个开源模型。

Ollama 免费吗?

是免费开源项目,支持 macOS、Linux 和 Windows。

发现值得收录的 AI 工具?

推荐优质的 AI 产品、模型入口或开源项目,核验通过后将在首页展示。

提交收录