Llamaport MAC 版

免费开源的 Mac 应用,用 llama-server 运行本地 GGUF 模型,并支持从 Hugging Face 断点续传下载。测试版。

Llamaport 简介

Llamaport 是一款用于运行和下载本地 GGUF 语言模型的小型 Mac 应用。它封装了 llama.cpp 项目的 llama-server:列出模型文件夹中的模型,在你按下 Start 之前完整显示启动命令,运行时显示资源占用,并从 Hugging Face 下载新模型,下载在强制退出或重启后仍可继续。它直接读取 GGUF 文件头,因此列表显示的是真实的量化方式、上下文长度和混合专家(MoE)结构,而不是根据文件名猜测的结果。

Llamaport 由 Muhammad Kamran 开发,以 MIT 许可证免费开源。0.7.0 版是重新设计后的首个版本,带有包含 Library、Discover、Downloads、Activity Monitor 和 Settings 的侧边栏,以及用于浏览 Hugging Face GGUF 仓库的全新 Discover 页面。提供两个下载:一个适用于 Apple 芯片,另一个是适用于 Apple 芯片和 Intel Mac 的通用版。开发者表示,通用版从未在 Intel Mac 上运行过。

Llamaport 是测试版,且未经 Apple 签名,因此 macOS 会阻止首次打开;请在系统设置的隐私与安全性中使用“仍要打开”。它不包含 llama.cpp:你需要先安装 llama-server,例如通过 Homebrew(brew install llama.cpp)。它一次只能运行一个模型,没有自己的聊天窗口(会打开 llama.cpp 的 Web UI),并且只能访问 Hugging Face 的公开仓库。

主要功能

有了 Llamaport,用 llama-server 运行本地模型时不必一再重新输入命令。

  • 模型库:列出你的 GGUF 模型,显示真实的量化方式、上下文长度和大小。
  • 显示启动命令:启动模型前完整显示 llama-server 命令。
  • 预设:Default、Best speed 和 Model suggested 帮你设定不想手动调整的参数。
  • Test model:检查进程、端口、健康检查端点、模型列表和一次真实的聊天回复。
  • 内存估算:根据 GPU 实际可用的内存,计算权重和 KV 缓存的需求。
  • 断点续传下载:四路分段连接、sha256 校验,强制退出或重启后可继续下载。
  • Discover:浏览 Hugging Face 的 GGUF 仓库,并自动选择适合你 Mac 的量化版本。
  • Activity Monitor:显示 Mac 上每个 llama-server 及其内存和 CPU 占用。

0.7.0 版本新功能

Llamaport 0.7.0 是重新设计后的首个版本,也是首个带有 Discover 的版本。

  • Discover 可实时浏览 Hugging Face 的 GGUF 仓库,提供热门、下载最多和点赞最多列表、筛选和搜索,并选择适合你 GPU 的量化版本。
  • 全新侧边栏布局,包含 Library、Discover、Downloads、Activity Monitor 和 Settings,每个模型页面有三个预设。
  • Activity Monitor 列出 Mac 上的每个 llama-server 及其内存和 CPU。
  • 外观设置提供五种配色、浅色或深色模式以及半透明侧边栏。
  • 网络命令和 llama-server 程序不再在主线程运行,应用的网页视图首次加入了内容安全策略(Content Security Policy)。

Llamaport 常见问题

Llamaport 免费吗?

是的。Llamaport 以 MIT 许可证免费开源。

使用 Llamaport 需要什么?

需要 llama.cpp 的 llama-server。Llamaport 会在 PATH 或常见的 Homebrew 位置查找它;可以用 brew install llama.cpp 安装。Llamaport 不包含也不管理 llama.cpp。

Llamaport 能在 Apple 芯片上运行吗?

能。有适用于 Apple 芯片的下载,也有适用于 Apple 芯片和 Intel Mac 的通用版下载。

Llamaport 能在 Intel Mac 上运行吗?

通用版包含 Intel 支持,但开发者表示它从未在 Intel Mac 上运行过,因此在 Intel 上的使用未经测试。

macOS 为什么会阻止 Llamaport?

Llamaport 没有使用 Apple 开发者证书签名。先尝试打开它,然后前往系统设置、隐私与安全性,点击“仍要打开”。

Llamaport 是正式版软件吗?

不是。开发者称其为未签名的测试版。

Llamaport 能续传大模型的下载吗?

能。它通过四路分段连接下载、校验 sha256,并在应用被强制退出或 Mac 重启后继续下载。不支持续传的服务器会被拒绝。

Llamaport 有聊天窗口吗?

没有。llama-server 本身已带有聊天界面,模型就绪后 Llamaport 会打开 llama.cpp 自带的 Web UI。

Llamaport 能同时运行多个模型吗?

不能。它一次只运行一个模型,并且只从 Hugging Face 的公开仓库下载。

llamaport.FULLMAC.app 上的 Llamaport 下载来自哪里?

下载按钮会转到 GitHub 上的官方 Llamaport 发布页 https://github.com/smkamranqadri/llamaport/releases/latest。llamaport.FULLMAC.app 不会修改或重新打包应用。

相似应用

FULLMAC.app 不托管此应用。下载按钮会将你带到开发者自己的页面。