一键部署模型
通过ollama run llama3一条命令即可下载并运行Llama 3、Mistral、Qwen等数百种开源模型,无需复杂配置。
Ollama 将复杂的大语言模型部署流程简化为一条命令。无论是开发者、研究者还是AI爱好者, 都能在几分钟内启动自己的本地AI助手。
通过ollama run llama3一条命令即可下载并运行Llama 3、Mistral、Qwen等数百种开源模型,无需复杂配置。
所有对话和推理过程完全在本地完成,数据永远不会上传到云端服务器,彻底杜绝隐私泄露风险。
本地推理无需等待网络请求,响应速度仅取决于您的硬件性能,离线状态下也能正常使用AI功能。
内置完整的REST API服务,支持Python、JavaScript、Go等语言调用,轻松集成到您的应用程序中。
完美支持macOS、Windows 10/11以及Ubuntu、Debian、Fedora等主流Linux发行版,一处编写处处运行。
自动检测并利用NVIDIA、Apple Silicon等GPU硬件进行推理加速,大幅提升模型生成速度和效率。
内置模型仓库,支持Llama 3.2、Mistral 7B、Qwen 2.5、Gemma、DeepSeek等数百种最新开源大模型。
在同一环境中轻松切换不同模型,对比不同模型的输出效果,找到最适合您业务场景的AI方案。
传统的大模型使用方式存在诸多痛点。Ollama 从根本上改变了AI大模型的部署和使用方式, 让每个人都能在本地自由地使用最前沿的AI技术。
使用云端AI服务意味着您的对话内容、业务数据需要发送到第三方服务器。Ollama让所有数据留在本地,适合处理敏感信息的场景。
✓ 本地推理,零数据外泄商业AI API按token计费,长期使用成本极高。Ollama完全免费开源,一次安装永久使用,无任何隐藏费用。
✓ 永久免费,无使用限制云端AI需要稳定的网络连接,断网即不可用。Ollama在本地运行,即使完全离线也能流畅使用AI功能。
✓ 完全离线可用自行部署大模型需要复杂的依赖配置和专业知识。Ollama提供一键安装、一行命令运行,大幅降低使用门槛。
✓ 安装即用,无需专业背景只需四个简单步骤,即可在您的电脑上运行强大的本地大语言模型。 整个安装过程通常在5分钟以内完成。
访问Ollama官网下载页,根据您的操作系统选择对应版本的安装包。支持macOS、Windows和Linux。
ollama-zh.cn/download
macOS用户将Ollama拖入应用程序文件夹;Windows用户双击安装程序;Linux用户运行安装脚本。
双击安装包即可
打开终端(命令行),输入以下命令即可自动下载并运行Llama 3模型,开始对话。
ollama run llama3
模型加载完成后即可在终端中与AI对话。也可通过API在您的应用中集成Ollama功能。
http://localhost:11434
以下是用户最常咨询的问题。如果您还有其他疑问,欢迎查阅完整文档或在社区提问。
curl -fsSL https://ollama.com/install.sh | sh 即可更新到最新版本。
ollama rm 模型名称 可以删除指定模型释放磁盘空间。
免费、开源、安全。选择适合您操作系统的版本,
扫描二维码即可下载,5分钟内即可在本地运行强大的大语言模型。