swiftlet

Apple端末でQwen MoE大規模モデルをローカル実行し、低RAMで利用できるSwift/Metalランタイムです。

Xで共有ライセンス: Apache-2.0

概要

SwiftletはQwen3-NextとQwen3.5/3.6のMixture-of-Expertsモデル向けのSwift/Metalランタイムです。小さな密集コアだけをメモリに保持し、必要な専門家重みをストレージからオンデマンドで読み込み、Apple端末でのローカル推論を可能にします。

主な特長

  • macOSとiOSデバイスで大規模Qwen MoEモデルをローカル実行する
  • 密集コアをメモリに保持し、必要な専門家重みをストレージから読み込む
  • プロジェクト例では35Bと80Bモデルを対象とする
  • SwiftとMetalを使ってオンデバイス推論を行う

こんな人・用途に

AppleデバイスでローカルAI推論を行う開発者や愛好者に向いています。RAMが限られている環境で大規模Qwen MoEモデルを実行したい場合に適しています。

アップストリーム
leonickson1/Swiftlet
GitHubのフォーク
Guo-astro/swiftlet
アップストリームのスター数
654
カテゴリ
AIエージェントとLLMツール
ライセンス
Apache-2.0
フォーク日
2026-10-05
同期状態
同期済み最終同期 2026-10-11