AnythingLLM是一款开源一体化 AI应用软件,无需编写代码就能搭建专属私有文档智能助手,软件兼容本地Ollama模型与各类云端大模型,只需拖拽就可导入PDF、文档、笔记等资料,自动构建专属知识库,实现基于自有文件的精准问答,可以有效减少 AI 虚构内容的情况,AnythingLLM依托独立工作区机制,不同项目资料相互隔离,方便区分工作、学习知识库,软件支持网页检索、智能摘要等拓展功能,不管是整理资料、研读文献,还是团队搭建内部知识问答系统,都能轻松落地。
1、一键安装
下载一个文件,双击完成。没有终端,没有包管理器,没有配置。
2、默认为本地
你的模型、文档和聊天记录都会留在你的电脑上。没有什么能打电话回家。
3、不需要账号
打开应用开始工作。没有注册,没有邮件验证,没有信用卡。
4、跨平台
原生版本适用于macOS(Apple Silicon + Intel)、Windows(x64 + ARM)和Linux。
1、安装并打开软件,在主界面点击左下角扳手图标,进入设置页面。
2、依次找到并选择「人工智能提供商」-「LLM首选项」,随后选定Ollama,再搭配选择DeepSeek-R1模型。
3、输入个人邮箱地址,选择个人使用类型,点击下一步继续配置。
4、自定义填写工作区名称,确认后点击下一步完成基础创建。
5、进入软件主界面,可进行基础模型对话测试,验证模型是否正常运行。
6、如需切换中文界面,再次进入设置页面,将语言选项设置为Chinese即可。
1、lancedb
这里是你本地矢量数据库及其表存储的地方。
2、documents
这是上传文件解析后的文档内容。
3、vector-cache
该文件夹是之前上传和嵌入文件的缓存和嵌入表示。其文件名是哈希处理的。
4、models
系统使用的任何本地存储的大型语言模型或嵌入模型都存储在这里。通常是GGUF文件。
5、anythingllm.db
这是AnythingLLM SQLite数据库。
6、plugins
这是存放你定制代理技能的文件夹。
7、direct-uploads
这是存放文件拖拽到 AnythingLLM 桌面聊天窗口的文件夹。这是为了在聊天窗口中全文插入文件。
8、logs
这是存放 AnythingLLM 桌面日志的文件夹。
1、无法连接Ollama
确认Ollama程序正在运行;地址填写http://localhost:11434,关闭防火墙拦截。
2、上传文档后 AI 读不到内容
检查文档是否成功Processed;确认嵌入模型正常加载;不要跨工作区提问(AI 只能访问当前 workspace 文档)。
3、中文检索效果差
嵌入模型优先使用bge-m3,终端执行ollama pull bge-m3。
展开内容