AnythingLLM 是什么 - 下载安装及模型加载配置

　　随着自然语言处理技术的飞速发展，大规模语言模型（Large Language Models，LLM）已经在多个领域展现了其强大的能力。AnythingLLM 是一款开源软件，旨在为用户提供一个高效、灵活的解决方案，使其能够在各种环境中方便地使用、部署和配置大规模语言模型。本文将详细介绍 AnythingLLM 的功能、下载安装过程以及配置方法，帮助用户快速上手并充分利用该工具。

一、什么是 AnythingLLM？

　　AnythingLLM 是一个基于大规模语言模型（LLM）的开源框架，提供了一整套解决方案，支持自然语言处理（NLP）中的多种任务。无论是在文本生成、问答系统、对话生成还是其他 NLP 任务中，AnythingLLM 都可以帮助用户高效地完成任务。它支持多种语言模型（如 GPT-3、GPT-4、T5、BERT 等），并允许用户根据具体需求定制和优化。它的主要特点：
1. 开源自由。AnythingLLM 是完全开源的，用户可以根据自己的需要修改和优化代码。
2. 多模型支持。支持多种流行的语言模型架构，如 GPT 系列、BERT 系列、T5 等，方便用户根据实际需求选择最合适的模型。
3. 多任务处理。不仅支持文本生成，还支持文本摘要、文本分类、机器翻译、情感分析等多种 NLP 任务。
4. 高效部署。提供了简单的安装和配置流程，可以方便地在本地或云端进行部署。

二、下载安装

进入官网，选择对应系统版本的安装包进行下载：https://anythingllm.com/

双击安装即可。iHackSoft 的系统中之前已经安装了 Ollama，那么在 AnythingLLM 安装过程中会自动下载 Ollama 的支持库文件。

三、模型配置

安装过程后启动程序：

点击“开始”进入主界面，此时可新建工作区，如“test”。

在设置“外观”中，可以选择语言，如简体中文：

"LLM首选项"中，提供商选择 Ollama（根据你的实际情况），Ollama Model 中选择你接入或加载的模型（我之前下载的是 qwen2.5-coder:7b，如果你是deepseek请选择相应模型），然后点击 Save changes：

在Embedder首选项界面，嵌入引擎提供商选择 Ollama，Ollama Embedding Mode 选择“nomic-embed-text”，然后点保存更改。这里根据自己的实际需求来选择，iHackSoft 是用来训练本地数据，用了nomic-embed-text。

点击“工作区设置”，点击聊天设置，工作区LLM提供者选择“Ollama”，工作区聊天模型选择“qwen2.5-coder:7b”模型，然后点击“Update workspace agent”。

代理配置界面，工作区代理LLM提供商选择“Ollama”，工作区代理模型选择“qwen2.5-coder:7b”，然后点击“Update workspace agent”。

最后就是数据投喂训练AI，在工作区界面，点击“上传”按钮。点击 upload 选择需要上传的文件（支持PDF、Txt、Word、Excel、PPT等常见文档格式）。勾选上传的文件，点击“Move to Workspace”。最后，不要忘记了点击“Save and Embed”。

到这里数据投喂训练AI就完成了。以上就是 AnythingLLM 关于模型加载的基本配置和使用方法。