Llamaport 简介
Llamaport 是一款用于运行和下载本地 GGUF 语言模型的小型 Mac 应用。它封装了 llama.cpp 项目的 llama-server:列出模型文件夹中的模型,在你按下 Start 之前完整显示启动命令,运行时显示资源占用,并从 Hugging Face 下载新模型,下载在强制退出或重启后仍可继续。它直接读取 GGUF 文件头,因此列表显示的是真实的量化方式、上下文长度和混合专家(MoE)结构,而不是根据文件名猜测的结果。
Llamaport 由 Muhammad Kamran 开发,以 MIT 许可证免费开源。0.7.0 版是重新设计后的首个版本,带有包含 Library、Discover、Downloads、Activity Monitor 和 Settings 的侧边栏,以及用于浏览 Hugging Face GGUF 仓库的全新 Discover 页面。提供两个下载:一个适用于 Apple 芯片,另一个是适用于 Apple 芯片和 Intel Mac 的通用版。开发者表示,通用版从未在 Intel Mac 上运行过。
Llamaport 是测试版,且未经 Apple 签名,因此 macOS 会阻止首次打开;请在系统设置的隐私与安全性中使用“仍要打开”。它不包含 llama.cpp:你需要先安装 llama-server,例如通过 Homebrew(brew install llama.cpp)。它一次只能运行一个模型,没有自己的聊天窗口(会打开 llama.cpp 的 Web UI),并且只能访问 Hugging Face 的公开仓库。
主要功能
有了 Llamaport,用 llama-server 运行本地模型时不必一再重新输入命令。
- 模型库:列出你的 GGUF 模型,显示真实的量化方式、上下文长度和大小。
- 显示启动命令:启动模型前完整显示 llama-server 命令。
- 预设:Default、Best speed 和 Model suggested 帮你设定不想手动调整的参数。
- Test model:检查进程、端口、健康检查端点、模型列表和一次真实的聊天回复。
- 内存估算:根据 GPU 实际可用的内存,计算权重和 KV 缓存的需求。
- 断点续传下载:四路分段连接、sha256 校验,强制退出或重启后可继续下载。
- Discover:浏览 Hugging Face 的 GGUF 仓库,并自动选择适合你 Mac 的量化版本。
- Activity Monitor:显示 Mac 上每个 llama-server 及其内存和 CPU 占用。
0.7.0 版本新功能
Llamaport 0.7.0 是重新设计后的首个版本,也是首个带有 Discover 的版本。
- Discover 可实时浏览 Hugging Face 的 GGUF 仓库,提供热门、下载最多和点赞最多列表、筛选和搜索,并选择适合你 GPU 的量化版本。
- 全新侧边栏布局,包含 Library、Discover、Downloads、Activity Monitor 和 Settings,每个模型页面有三个预设。
- Activity Monitor 列出 Mac 上的每个 llama-server 及其内存和 CPU。
- 外观设置提供五种配色、浅色或深色模式以及半透明侧边栏。
- 网络命令和 llama-server 程序不再在主线程运行,应用的网页视图首次加入了内容安全策略(Content Security Policy)。
Llamaport 常见问题
Llamaport 免费吗?
是的。Llamaport 以 MIT 许可证免费开源。
使用 Llamaport 需要什么?
需要 llama.cpp 的 llama-server。Llamaport 会在 PATH 或常见的 Homebrew 位置查找它;可以用 brew install llama.cpp 安装。Llamaport 不包含也不管理 llama.cpp。
Llamaport 能在 Apple 芯片上运行吗?
能。有适用于 Apple 芯片的下载,也有适用于 Apple 芯片和 Intel Mac 的通用版下载。
Llamaport 能在 Intel Mac 上运行吗?
通用版包含 Intel 支持,但开发者表示它从未在 Intel Mac 上运行过,因此在 Intel 上的使用未经测试。
macOS 为什么会阻止 Llamaport?
Llamaport 没有使用 Apple 开发者证书签名。先尝试打开它,然后前往系统设置、隐私与安全性,点击“仍要打开”。
Llamaport 是正式版软件吗?
不是。开发者称其为未签名的测试版。
Llamaport 能续传大模型的下载吗?
能。它通过四路分段连接下载、校验 sha256,并在应用被强制退出或 Mac 重启后继续下载。不支持续传的服务器会被拒绝。
Llamaport 有聊天窗口吗?
没有。llama-server 本身已带有聊天界面,模型就绪后 Llamaport 会打开 llama.cpp 自带的 Web UI。
Llamaport 能同时运行多个模型吗?
不能。它一次只运行一个模型,并且只从 Hugging Face 的公开仓库下载。
llamaport.FULLMAC.app 上的 Llamaport 下载来自哪里?
下载按钮会转到 GitHub 上的官方 Llamaport 发布页 https://github.com/smkamranqadri/llamaport/releases/latest。llamaport.FULLMAC.app 不会修改或重新打包应用。
相似应用
UnfoldlyUnfoldly 是一款 Mac 本地 AI 搜索应用,按你对文件内容的记忆而不是文件名来查找文件。你选择要建立索引的文件夹和文件,它就会在 Mac 上为它们建立可搜索的记忆:文档中的文字、图片里的内容、视频中的片段以及录音的内容。然后你只需描述要找的东西,比如一张狗狗的照片,或者提到某个价格方案的 PDF,并可以继续就找到的文件提问:总结文档、询问视频内容或对比笔记。AI
Claude Usage MonitorClaude Usage Monitor 是一款免费开源的菜单栏应用,用来显示你的 Claude.ai 使用额度还剩多少。随着接近上限,它的图标会从绿色变为橙色再变为红色;旁边的文字会显示当前会话的百分比,或在你使用时按当前速度估算的剩余时间,以及你的每周用量。点击后会打开一个小面板,用进度条分别显示当前会话、所有模型的每周上限,以及 Max 套餐中仅 Sonnet 的用量,每一项都附有距下次重置的倒计时。AI
M-CourtyardM-Courtyard 是一款桌面应用,可在 Apple Silicon Mac 上本地微调大语言模型,无需编写代码。你可以导入文档,将其转换为训练数据集,通过 mlx-lm 使用 Apple 的 MLX 运行 LoRA 微调,在内置聊天中测试结果,然后导出。该项目表示,数据不会离开你的 Mac。AI
EnviousWisprEnviousWispr 是一款用于 Mac 菜单栏的听写应用。在任意应用中按下键盘快捷键并说话,你的话就会在 Mac 上转录,并粘贴到你正在输入的位置。你可以在两种语音模型之间选择:Parakeet Ultra 是默认的快速模型,支持 25 种欧洲语言;Whisper 支持 99 种以上语言,并能自动检测语言。它可离线使用,无需账户或订阅。AI
Qwen ScribeQwen Scribe 是一款带本地网页界面的菜单栏应用,可以在 Apple Silicon Mac 上转录音频和视频文件,并提供全系统听写。它通过 MLX 在 Mac 自己的 GPU 上运行 Qwen3-ASR 语音模型。没有账户,没有 API 密钥,也没有 Qwen Scribe 云服务,因此音频和转录内容都留在 Mac 上。AI
Agent Teams AIAgent Teams AI 是一款用于协调 AI 智能体团队的桌面应用,可用于编程和其他项目工作。只需一条提示即可创建团队,并为成员分配角色。智能体随后并行工作,互相发送消息,管理自己的任务并互相审查工作,任务则在实时看板上推进。你可以给任何智能体发消息、评论任务,并批准或拒绝每项任务修改的代码。AI
FULLMAC.app 不托管此应用。下载按钮会将你带到开发者自己的页面。