AIAI 导航
Ollama

Ollama

在自己电脑上跑开源模型,一条命令

分类:开发平台 开发方:Ollama 官网:ollama.com 国内使用:需要网络条件
Ollama 官网截图
Ollama 官网首页(ollama.com)

01Ollama 是什么

Ollama 是把「在自己电脑上跑大模型」变简单的工具。装好之后一条命令就能拉模型并启动,接口和 OpenAI 兼容,本地程序直接能接。

它的价值在隐私和离线:数据一行都不出本机。做敏感数据处理、没有网络的设备、或者纯粹不想付 API 费,都用它。

短板是硬件要求。跑小参数模型普通的电脑还行,想跑到接近云端效果得有独立显卡和大显存。效果和云端旗舰模型还是有差距。

02Ollama 能做什么

一条命令启动

拉模型和运行一步完成。

模型库

主流开源模型都有。

本地接口

兼容 OpenAI 协议。

完全离线

不联网也能跑。

免费开源

不收任何费用。

03怎么开始用 Ollama

  1. 先看自己显存8G 能跑小模型,大模型要 24G 起。
  2. 先用小模型试确认流程通了再换大的。
  3. 量化版本更省显存效果会掉一点。
  4. 用本地接口接自己的程序和云端代码几乎一样。

04显存决定你能跑多大

别下完了才发现跑不动。

显存能跑什么
8G7B 量化版,日常够用
16G14B 左右,效果明显好
24G30B 量化版
不足 8G只能跑极小模型,效果有限

05好在哪,差在哪

隐私最好

数据完全不出本机。

零成本

只花电费。

上手最简单

比手工装环境快太多。

用得上
  • 本地隐私处理
  • 离线环境
  • 个人实验
  • 小工具接入
别指望
  • 追求云端旗舰效果
  • 大并发服务
  • 没有独立显卡的电脑
  • 非技术用户

06价格和套餐

版本价格说明
软件免费开源不收费用。
模型免费开源权重。
硬件自理成本是自己的显卡。

软件和模型都免费,成本全在硬件。跑大模型的显卡不便宜。

07谁适合用

敏感数据处理

数据不能出本机。

离线环境

没有网络的设备。

个人实验

试各种开源模型。

内部工具

小型本地助手。

08官网入口

官方入口

ollama.com

前往官网 ↗

官方域名是 ollama.com,开源项目,各平台安装包都能直接下。别从第三方站下载改过的安装包。

10常见问题

Ollama 官网是哪个?

ollama.com,开源项目,装完就能用。

要钱吗?

不要。软件和模型都免费,成本是你的显卡和电费。

多大显存够?

8G 跑得动小参数模型,想跑 30B 以上要 24G 起,满血版要专业卡。

和 LM Studio 怎么选?

Ollama 是命令行,适合接程序;LM Studio 是图形界面,适合手动聊天。

全部 AI 工具(237 个)

ChatGPT Claude DeepSeek Kimi 豆包 通义千问 智谱清言 文心一言 腾讯元宝 讯飞星火 腾讯混元 商量 SenseChat 万知 Midjourney Ideogram 万相 稿定设计 佐糖 即梦 AI 可灵 AI Runway 海螺 AI Luma Dream Machine 剪映 必剪 度加创作 Suno ElevenLabs 讯飞听见 魔音工坊 网易天音 Cursor GitHub Copilot Trae 通义灵码 CodeGeeX Perplexity 秘塔 AI 搜索 纳米 AI 天工 AI 夸克 Hugging Face 扣子 火山引擎 阿里云百炼 Gamma Notion AI WPS AI 讯飞智文 ProcessOn 飞书 彩云小译 有道翻译 创客贴 图司机 硅基流动 智谱 BigModel Kimi 开放平台 DeepSeek 开放平台 百度千帆 腾讯文档 石墨文档 语雀 幕布 墨刀 蛙蛙写作 笔灵 AI 亿图 腾讯会议 钉钉 MasterGo 即时设计 蓝湖 摹客 AutoGLM 通义听悟 Vidu PixVerse 来画 Qoder 美图设计室 书生·浦语 图怪兽 易企秀 兔展 印象笔记 有道云笔记 商汤日日新 面壁智能 澜舟科技 思必驰 万彩动画大师 Figma Descript Otter.ai Replit v0 Bolt.new remove.bg 扫描全能王 腾讯问卷 作业帮 百度网盘 DeepL Grammarly Recraft Jasper Make Synthesia Warp Zed Tabnine Cline 来也科技 达观数据 云从科技 第四范式 Beautiful.ai 云知声 Murf AI AssemblyAI Deepgram D-ID 有道智云 腾讯云 华为云 Replicate Together AI Groq OpenRouter Ollama LM Studio n8n LangChain Pinecone Fireworks AI Modal 光速写作 秘塔写作猫 火龙果写作 猿辅导 智齿科技 网易七鱼 探迹 帆软 影刀 Mem Fireflies.ai tl;dv Fathom 蝉镜 OpusClip Captions 声网 Agora 即构 ZEGO Stability AI Kittl 百度翻译 小冰 法信 无讼案例 未来医生 丁香园 学而思 Consensus 有赞 微盟 Copy.ai Sudowrite Framer Durable 京东云 天翼云 阿里云 零一万物 酷家乐 万兴科技 LALAL.AI Mubert AIVA Resemble AI Colossyan Aider Qodo CodeRabbit FastGPT 法大大 e签宝 粉笔 好大夫在线 简道云 明道云 轻流 神策数据 观远数据 七牛云 UCloud 青云科技 坚果云 Open WebUI Flowise Activepieces Lindy Voiceflow Fliki WellSaid Labs Riverside PDF.ai Humata Mintlify Supermaven 北大法宝 威科先行 医脉通 平安好医生 学科网 泛微 致远互联 用友 金蝶 销售易 合思 文心快码 Gitee 禅道 Airtable Coda ClickUp monday.com Softr Glide Langflow AnythingLLM Granola Reclaim Reflect Pitch