📰 Lemonade:AMD 推出的快速开源本地 LLM 服务器

Lemonade 是 AMD 推出的开源本地 LLM 服务器,专注于 GPU 和 NPU 加速。

  • 极快的性能:针对 GPU 和 NPU 进行了优化,在任何 PC 上几分钟内即可完成设置
  • 开源免费:完全开源,由本地 AI 社区构建
  • 隐私优先:所有处理在本地完成,保护用户隐私
  • 原生 C++ 后端:轻量级服务,仅 2MB
  • 一分钟安装:简单的安装程序,自动配置整个技术栈
  • OpenAI API 兼容:开箱即用支持数百款应用,集成只需几分钟
  • 自动硬件配置:为 GPU 和 NPU 自动配置依赖
  • 多引擎兼容:支持 llama.cpp、Ryzen AI SW、FastFlowLM 等
  • 同时运行多个模型:支持并发运行多个模型
  • 跨平台:支持 Windows、Linux 和 macOS
  • 内置应用:提供 GUI,可快速下载、试用和切换模型
  • 统一 API:支持聊天、视觉、图像生成、语音转录、语音合成等多种模态

原文链接:https://lemonade-server.ai

🕐 发布于: 2026年04月03日 08:05

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注