加载中…
在自有 GPU 上私有运行多种 MoE 大模型的本地推理套件,支持单卡到 16 卡、NVIDIA GPU,AMD 与 Windows 为实验性支持。
本地优先的开源 AI Agent 运行框架,把循环、记忆与评测都写成可读代码,方便自行掌控和改造。
运行在本地的 AI 客户端网关,让 Claude Code、Codex 等工具不改配置即可切换上游,同时保管密钥、拦截危险工具调用并记录请求。
一个用纯 C99 从零编写的 LLM 推理实现,目标是在只有 CPU、没有 GPU 的普通机器上跑起 Kimi K3,并尽量压低内存占用。
开源桌面端 AI 聊天客户端,让大模型在本机离线运行,可作为注重隐私的 ChatGPT 替代。
把大模型打包成单个可执行文件,在本地跨平台运行和分发,省去繁琐的环境配置。
简洁易用的跨平台开源桌面 AI 客户端,支持多模型 API 聚合配置。