当前位置：首页 > news >正文

Mac下Ollama安装全攻略：开启本地大模型之旅

news 来源：原创 2025/8/10 7:36:21

文章目录

Mac下Ollama安装全攻略：开启本地大模型之旅
- 一、Ollama 是什么
- - 功能特点
  - 优势
  - 应用场景
- 二、安装前准备
- - （一）系统要求
  - （二）硬件要求
- 三、下载安装包
- - （一）官网下载
  - （二）其他途径
- 四、安装过程详解
- - （一）解压安装包
  - （二）移动应用程序
  - （三）终端验证
- 五、下载和使用模型
- - （一）模型下载
  - （二）模型运行
  - （三）模型管理

Mac下Ollama安装全攻略：开启本地大模型之旅

一、Ollama 是什么

Ollama 是一个开源的大语言模型平台，允许用户在本地环境中便捷地运行、创建和共享大型语言模型。它提供了丰富的功能和特性，让用户在自己的计算机上就能轻松部署和运行大型语言模型，无需依赖云服务。

功能特点

类似 Docker 的 CLI 界面：Ollama 提供了一个类似于 Docker 的命令行界面（CLI），使得用户可以快速地在本地进行大语言模型的推理部署，操作流程得到极大简化。

丰富的 API 接口和聊天界面：拥有类似 OpenAI 的 API 接口和聊天界面，支持热加载模型文件，用户可以通过接口使用最新版本的模型，并且无需重新启动即可切换不同的模型，为用户提供了更加灵活和高效的使用体验。

模型库支持：内置了一个模型库，用户可以从中下载和运行不同的大型语言模型，如 Llama 2、Mistral 等。此外，它还支持自定义和创建模型，以满足用户的个性化需求。

多平台支持和灵活扩展：支持 macOS、Windows 和 Linux 等主流操作系统，具备灵活的扩展性，支持与很多工具集成，用户还可以通过编写 Modelfile 来导入更多的自定义模型。

优势

本地部署：用户可以在自己的计算机上运行大型语言模型，而不需要依赖云服务或远程服务器，这不仅节省了成本，还能更好地保护用户的数据隐私和安全。

易于使用：简洁明了的 API 设计，使得即使是没有经验的用户也可以轻松上手。同时，提供的类似 OpenAI 的简单内容生成接口以及类似 ChatGPT 的聊天界面，无需开发即可直接与模型聊天，进一步降低了使用门槛。

灵活多变：支持多种主流的大语言模型，并允许用户根据特定需求定制和创建自己的模型。同时支持热切换模型，用户可以根据不同的任务需求，随时切换到最适合的模型。

社区和文档支持：Ollama 得到了积极的维护和更新，拥有一个庞大而活跃的社区，为用户提供了丰富的支持和资源。此外，其官方网站和 GitHub 页面提供了详细的安装和使用指南，帮助用户更好地使用平台。

应用场景

Ollama 可以应用于各种自然语言处理任务：

文本生成：可以用于生成各种文本内容，例如新闻文章、博客文章、诗歌、代码等。

翻译：帮助用户将文本从一种语言翻译成另一种语言。

问答：回答用户提出的各种问题，为用户提供准确的信息和解答。

代码生成：根据用户的需求生成相应的代码，例如 Python 代码、JavaScript 代码等，提高开发效率。

对于 Mac 用户来说，在 Mac 系统上安装 Ollama，就可以利用 Mac 的硬件性能，在本地享受大语言模型带来的各种便利，无论是进行开发工作、学习研究还是日常的文本处理，都能提供强大的支持。

二、安装前准备

在 Mac 上安装 Ollama 之前，需要确保你的系统和硬件满足一定的条件，以保证 Ollama 能够正常安装和运行。

（一）系统要求

Ollama 支持在 macOS 11 及更高版本的系统上运行。请确保你的 Mac 运行的是符合要求的系统版本，你可以通过点击屏幕左上角的苹果图标，选择 “关于本机” 来查看系统版本信息。如果你的系统版本低于要求，建议先进行系统更新。
如图所示：
在这里插入图片描述

（二）硬件要求

内存：运行 Ollama 对内存有一定要求，具体取决于你要使用的模型大小。一般来说，运行较小的模型（如 7B 参数的模型）至少需要 8GB 内存；如果要运行更大的模型（如 13B 参数的模型），则建议至少拥有 16GB 内存；对于 33B 参数的模型，至少需要 32GB 内存。如果内存不足，可能会导致模型运行缓慢甚至无法运行。

磁盘空间：模型文件通常会占用一定的磁盘空间，不同模型的大小有所差异。例如，Llama 2 7B 模型大约需要 3.8GB 磁盘空间，而 Llama 2 70B 模型则需要约 39GB 磁盘空间。因此，在安装 Ollama 之前，请确保你的 Mac 有足够的可用磁盘空间来存储模型文件，建议至少预留 50GB 以上的磁盘空间，以应对未来可能下载的更多模型。

处理器：虽然 Ollama 可以在各种处理器上运行，但为了获得更好的性能，建议使用较新的多核处理器，如 Intel Core i5 及以上或 Apple Silicon 芯片。这些处理器能够更快地处理模型推理任务，提高响应速度。

GPU（可选但推荐）：如果你有 NVIDIA GPU，并且安装了相应的驱动和 CUDA 工具包，可以显著加速模型的运行速度。不过，Apple Silicon 芯片的 Mac 也能通过 Metal 加速来运行 Ollama 模型，同样能提供不错的性能表现。如果你的 Mac 配备了 GPU，建议安装最新的驱动程序，以确保最佳性能。

三、下载安装包

（一）官网下载

打开你常用的浏览器，访问 Ollama 官方网站：https://ollama.com/download 。在该页面，你会看到针对不同操作系统的下载选项。

因为我们是在 Mac 上安装，所以找到适用于 macOS 的下载链接，通常会显示为 “Download for macOS” 或类似字样，点击该链接开始下载安装包。安装包一般为压缩文件，文件名为 “Ollama-darwin.zip”。

下载完成后，找到下载的安装包文件，通常位于浏览器的默认下载路径（一般是 “下载” 文件夹）。双击解压该压缩包，你会得到一个名为 “Ollama.app” 的应用程序文件。

（二）其他途径

除了官网下载，你还可以在 GitHub 上获取 Ollama 的安装文件。GitHub 是一个开源代码托管平台，Ollama 的开发者会将项目代码和相关资源发布在上面。你可以访问 Ollama 的 GitHub 仓库：https://github.com/ollama/ollama 。在仓库页面中，找到与 Mac 安装相关的内容，可能会有编译好的二进制文件可供下载，也可能需要你根据提供的说明自行编译安装。

不过，通过非官方渠道下载可能存在一些风险：

版本问题：非官方渠道提供的版本可能不是最新的，这意味着你可能无法享受到最新的功能和修复的漏洞。同时，较旧版本可能与当前系统或其他软件存在兼容性问题。

安全风险：在非官方渠道下载时，有可能会下载到被篡改过的文件，这些文件可能包含恶意软件，如病毒、木马等，会对设备安全和数据安全造成严重威胁。因此，若非必要，建议优先选择从官方网站下载 Ollama 安装包，以确保下载的安全性和稳定性。

四、安装过程详解

（一）解压安装包

当你从官网下载好 “Ollama-darwin.zip” 安装包后，它默认会保存在浏览器的 “下载” 文件夹中。找到这个压缩包文件，然后双击它，Mac 系统会自动进行解压操作。解压完成后，你会看到一个名为 “Ollama.app” 的应用程序文件，这个就是我们即将要安装的 Ollama 应用。如果你在解压过程中遇到问题，比如提示磁盘空间不足，那就需要清理一下磁盘空间，删除一些不必要的文件，然后重新解压；又或者解压后的文件损坏，这可能是下载过程中出现了错误，你可以尝试重新下载安装包。

（二）移动应用程序

接下来，我们要将解压得到的 “Ollama.app” 移动到 “/Applications” 目录中，这是 Mac 系统存放应用程序的标准目录。你可以通过以下两种常见的方法来完成移动操作：

Finder 操作：打开 “访达（Finder）”，在左侧边栏中点击 “应用程序”，打开 “应用程序” 文件夹。然后回到刚才解压 “Ollama.app” 的位置，选中 “Ollama.app”，直接将它拖曳到 “应用程序” 文件夹窗口中，松开鼠标即可完成移动。

终端操作：如果你对终端命令比较熟悉，也可以使用终端来完成移动操作。打开 “终端” 应用程序，在终端中输入以下命令（注意将命令中的路径替换为你实际的路径）：

mv /Users/你的用户名/下载/Ollama.app /Applications/

在上述命令中，“/Users/ 你的用户名 / 下载 /” 是你下载的 “Ollama.app” 所在的路径，“/Applications/” 是目标路径。输入完成后，按下回车键，即可将 “Ollama.app” 移动到 “/Applications” 目录中。

（三）终端验证

完成前面的步骤后，我们需要验证 Ollama 是否安装成功。打开 “终端” 应用程序，在终端中输入以下命令：

ollama --version

如果你看到类似 “0.5.7” 这样的版本号输出，就说明 Ollama 已经成功安装到你的 Mac 系统中了。如果在输入命令后，提示 “command not found”，这意味着系统无法找到 “ollama” 命令，可能是因为安装过程出现了问题，比如没有正确将 “Ollama.app” 移动到 “/Applications” 目录，或者系统环境变量配置不正确。这时，你可以重新检查前面的安装步骤，确保所有操作都正确无误。另外，你还可以尝试重新打开终端，再次输入验证命令，看是否能解决问题。

五、下载和使用模型

（一）模型下载

在 Mac 上安装好 Ollama 后，就可以开始下载模型了。Ollama 提供了丰富的模型库，涵盖了各种不同类型和规模的模型，以满足用户多样化的需求。

要下载模型，你可以使用ollama pull命令，后面跟上你想要下载的模型名称。例如，如果你想下载流行的 Llama 2 模型，可以在终端中输入以下命令：

ollama pull deepseek-r1:14b

执行上述命令后，Ollama 会自动从模型仓库中下载deepseek-r1:14b 模型到你的本地计算机。下载过程中，你可以看到下载进度和相关信息。模型下载完成后，就可以随时使用该模型进行各种任务了。

你可以在 Ollama 的官方网站（https://ollama.com/library ）上查看完整的模型库，了解每个模型的特点、适用场景和下载命令。在选择模型时，需要考虑你的计算机硬件配置，如内存和磁盘空间，以及你的具体使用需求。例如，如果你的计算机内存有限，可能更适合选择较小规模的模型，以确保模型能够正常运行。

（二）模型运行

下载好模型后，就可以使用ollama run命令来运行模型，与模型进行交互了。例如，要运行刚刚下载的 deepseek-r1:14b 模型，在终端中输入以下命令：

ollama run deepseek-r1:14b

执行上述命令后，你会进入与 deepseek-r1:14b 模型的交互界面。在交互界面中，你可以输入各种问题或指令，模型会根据你的输入生成相应的回答。例如，你可以输入 “请介绍一下人工智能的发展历程”，模型会分析你的问题，并生成关于人工智能发展历程的介绍内容。模型的回答会实时显示在终端中，你可以与模型进行多轮对话，不断提出新的问题或指令。

下面是一个与deepseek-r1:14b 模型的对话交互示例：

\$ ollama run deepseek-r1:14b\> 请介绍一下人工智能的发展历程人工智能的发展历程可以追溯到20世纪50年代。以下是其主要阶段：1\. \*\*诞生（20世纪50年代）\*\*：1956年，达特茅斯会议上正式提出“人工智能”这一术语，标志着人工智能作为一个学科的诞生。早期的研究主要集中在逻辑推理和简单的问题解决上。2\. \*\*发展与挫折（20世纪60-70年代）\*\*：在这一时期，人工智能取得了一些进展，如开发出了一些早期的专家系统。然而，由于计算能力的限制和对人工智能的过高期望，研究遇到了一些挫折，进入了所谓的“人工智能寒冬”。3\. \*\*复苏（20世纪80-90年代）\*\*：随着计算机技术的发展，特别是计算能力的提升，人工智能开始复苏。机器学习和神经网络等领域取得了重要进展，专家系统也开始在商业和工业领域得到应用。4\. \*\*快速发展（21世纪初至今）\*\*：进入21世纪，大数据、云计算和深度学习等技术的发展，推动人工智能进入了快速发展阶段。深度学习算法在图像识别、语音识别、自然语言处理等领域取得了巨大成功，使得人工智能在各个领域得到了广泛应用，如自动驾驶、智能助手、医疗诊断等。\> 目前人工智能在医疗领域有哪些应用？目前人工智能在医疗领域有多种应用，包括：1\. \*\*疾病诊断\*\*：通过分析医学影像（如X光、CT、MRI等）和临床数据，人工智能算法可以辅助医生进行疾病的早期诊断和精准诊断。例如，一些人工智能系统能够识别医学影像中的异常，帮助医生检测癌症、心脏病等疾病。2\. \*\*药物研发\*\*：人工智能可以加速药物研发过程，通过分析大量的生物数据，预测药物的疗效和副作用，筛选潜在的药物靶点，以及优化药物分子结构。3\. \*\*个性化医疗\*\*：根据患者的基因信息、病史和生活习惯等数据，人工智能可以为患者提供个性化的治疗方案，提高治疗效果和减少不良反应。4\. \*\*医疗机器人\*\*：医疗机器人在手术、康复治疗等方面发挥着重要作用。例如，手术机器人可以实现精确的手术操作，减少手术创伤；康复机器人可以帮助患者进行康复训练。5\. \*\*医疗管理\*\*：人工智能可以用于医疗资源的管理和优化，如医院的排班、药品库存管理等，提高医疗服务的效率和质量。

在与模型交互时，你可以充分发挥模型的能力，进行各种文本处理任务，如文本生成、翻译、问答、代码生成等。不同的模型在不同的任务上可能有不同的表现，你可以根据实际需求选择合适的模型进行交互。

（三）模型管理

随着使用 Ollama 下载的模型越来越多，你可能需要对这些模型进行管理，例如查看已下载的模型列表、删除不需要的模型等。

查看模型列表：要查看本地已下载的模型列表，可以使用ollama list命令。在终端中输入该命令后，会列出所有已下载的模型，包括模型名称、版本、大小等信息。例如：

\$ ollama listNAME       TYPE     IMAGE ID        SIZE       MODIFIEDdeepseek-r1:14b     model    923489234892    10GB      2024-07-15 10:30:00mistral    model    892347892347    4.1GB      2024-07-15 10:45:00

通过查看模型列表，你可以清楚地了解本地已安装的模型情况，方便进行后续的管理操作。

删除模型：如果你想删除某个已下载的模型，可以使用ollama rm命令，后面跟上要删除的模型名称。例如，如果你想删除名为 “deepseek-r1:14b” 的模型，可以在终端中输入以下命令：

ollama rm deepseek-r1:14b

执行上述命令后，Ollama 会删除指定的模型及其相关文件。请谨慎使用删除命令，因为删除后模型将无法恢复，如果后续还可能使用该模型，建议不要轻易删除。

查看模型信息：如果你想查看某个模型的详细信息，如模型的参数、许可证等，可以使用ollama show命令，后面跟上模型名称。例如：

\$ ollama show deepseek-r1:14bName: deepseek-r1:14bType: modelVersion: 1.0Size: 10GBParameters: 14BLicense: Apache 2.0Description: Llama 2 is a large language model developed by Meta. It has been trained on a vast amount of text data and can generate high-quality text for various tasks.

通过ollama show命令，你可以获取模型的详细信息，更好地了解模型的特点和适用范围。

通过这些模型管理命令，你可以方便地对本地下载的模型进行有效的管理，确保模型的使用更加高效和便捷。

文章目录

Mac下Ollama安装全攻略：开启本地大模型之旅

一、Ollama 是什么

功能特点

优势

应用场景

二、安装前准备

（一）系统要求

（二）硬件要求

三、下载安装包

（一）官网下载

（二）其他途径

四、安装过程详解

（一）解压安装包

（二）移动应用程序

（三）终端验证

五、下载和使用模型

（一）模型下载

（二）模型运行

（三）模型管理

相关文章：