Llamaport（MAC版）

Llamaport は、ローカルの GGUF 言語モデルを実行・ダウンロードするための小さな Mac アプリです。llama.cpp プロジェクトの llama-server を包む形で動き、モデルフォルダ内のモデルを一覧表示し、Start を押す前にコマンド全体を見せてから起動し、実行中の負荷を表示し、強制終了や再起動のあとでも再開できるダウンロードで Hugging Face から新しいモデルを取得します。GGUF ヘッダーを直接読み取るため、一覧にはファイル名からの推測ではなく、実際の量子化、コンテキスト長、mixture-of-experts 構造が表示されます。

Llamaport は Muhammad Kamran が開発し、MIT ライセンスの無料オープンソースです。バージョン 0.7.0 はデザイン刷新後の最初のリリースで、Library、Discover、Downloads、Activity Monitor、Settings のサイドバーと、Hugging Face の GGUF リポジトリを閲覧する新しい Discover 画面を備えています。ダウンロードは 2 種類あり、Apple シリコン用と、Apple シリコンと Intel の Mac に対応したユニバーサル版です。開発者によると、ユニバーサル版は Intel Mac で一度も実行されたことがありません。

Llamaport はベータ版で、Apple の署名を受けていないため、macOS は初回起動をブロックします。システム設定、プライバシーとセキュリティで「このまま開く」を使ってください。llama.cpp は同梱されていないため、Homebrew（brew install llama.cpp）などで llama-server をインストールしておく必要があります。一度に実行できるモデルは 1 つだけで、独自のチャット画面はなく（llama.cpp の Web UI を開きます）、Hugging Face の公開リポジトリにしかアクセスしません。

主な機能

Llamaport を使えば、llama-server でローカルモデルを動かすたびにコマンドを打ち直す必要がありません。

• モデルライブラリ：GGUF モデルを実際の量子化、コンテキスト長、サイズとともに一覧表示します。
• 起動コマンドを表示：モデルを起動する前に llama-server のコマンド全体を表示します。
• プリセット：Default、Best speed、Model suggested が、手で調整したくない設定を決めてくれます。
• Test model：プロセス、ポート、ヘルスエンドポイント、モデル一覧、実際のチャット応答を確認します。
• メモリの見積もり：重みと KV キャッシュの必要量を、GPU が実際に使える量と比べて計算します。
• 再開可能なダウンロード：4 本のレンジ接続、sha256 の検証、強制終了や再起動後の再開に対応します。
• Discover：お使いの Mac に合った量子化を選びながら、Hugging Face の GGUF リポジトリを閲覧できます。
• Activity Monitor：Mac 上のすべての llama-server をメモリと CPU の使用量とともに表示します。

Llamaport 0.7.0 は、デザイン刷新後の最初のリリースで、Discover を初めて搭載しました。

• Discover では、トレンド、ダウンロード数順、いいね数順の一覧、フィルター、検索で Hugging Face の GGUF リポジトリをリアルタイムに閲覧でき、GPU に収まる量子化が選ばれます。
• Library、Discover、Downloads、Activity Monitor、Settings を並べた新しいサイドバーと、各モデル画面の 3 つのプリセット。
• Activity Monitor で、Mac 上のすべての llama-server をメモリと CPU とともに一覧表示します。
• 5 つのパレット、ライトまたはダーク、半透明のサイドバーを選べる外観設定。
• ネットワークのコマンドと llama-server の実行がメインスレッドの外で行われるようになり、アプリの Web ビューに Content Security Policy が加わりました。