在本地PC上运行大语言模型（LLM）越来越受欢迎，为此，AMD推出了自己的LLM应用程序Gaia，这是一个开源项目，用于在任何Windows电脑上运行本地LLM。

Gaia使用来自ONNX TurnkeyML 的开源Lemonade SDK进行LLM推理，可以在Windows电脑上运行各种LLM模型，并针对配备锐龙AI处理器（包括锐龙AI Max 395+）的机器进行了进一步的性能优化。据介绍，Gaia可以根据不同的用途调整模型，包括总结和复杂推理任务。

AMD的这个新开源项目通过Lemonade SDK提供特定于LLM的任务，并在多个运行环境中提供服务。Lemonade提供一个与Gaia应用程序通过OpenAI兼容的REST API进行通信的LLM网络服务，Gaia本身充当一个由人工智能驱动的代理，检索和处理数据。它将外部内容向量化，并将其存储在本地向量索引中。换句话说，Gaia可以在LLM处理用户查询之前对其进行增强，从而提高响应的准确性和相关性。

这个新的人工智能聊天机器人有两个安装程序：一个适用于任何Windows电脑（无论该电脑是否配备AMD硬件）的主流安装程序，以及一个针对锐龙AI电脑优化的“混合”安装程序。后者专门使Gaia能够在锐龙AI CPU的神经处理单元（NPU）和集成显卡上运行计算，从而实现更好的性能。

Gaia是本地化LLM应用程序领域中的最新竞争对手，其中包括LM Studio和ChatRTX。与基于云的解决方案相比，本地运行LLM具有显著优势，包括更高的安全性、更低的延迟，以及在某些情况下，根据系统硬件的不同，可能更好的性能。最重要的是，本地LLM可以离线工作，不需要互联网连接。