FreeAskInternet：本地AI搜索引擎

简介

FreeAskInternet是一个全面免费、私密且本地化运行的搜索聚合器和答案生成器，利用LLM技术，无需GPU。用户提出问题后，系统通过多引擎搜索并将结果整合到ChatGPT3.5 LLM中，进而生成答案。所有处理均在本地进行，无需GPU，也无需OpenAI或Google API密钥的支持。

项目地址

https://github.com/nashsu/FreeAskInternet

一周收获6.4K Star，恐怖如斯

项目特点

• 完全免费(不需要任何API密钥)
• 完全本地(不需要GPU，任何计算机都可以运行)
• 完全私有(所有东西都在本地运行，使用自定义llm)
• 运行没有LLM硬件(不需要GPU)
• 使用免费的 ChatGPT3.5 / Qwen / Kimi / ZhipuAI（GLM） API
• 自定义LLM(ollama,llama.cpp)支持
• 快速和容易部署与Docker撰写
• Web和移动友好的界面，专为Web搜索增强AI聊天，允许从任何设备轻松访问。

项目截图

项目部署

官方推荐使用docker

git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 

在浏览器输入以下地址：

http://localhost:3000

工作原理

• 系统在FreeAskInternet UI界面(本地运行)中获取用户输入问题，调用SearXNG搜索(本地运行)在多个搜索引擎上进行搜索。
• 抓取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen /知乎ai / ollama(使用自定义llm)，让llm根据该内容作为参考回答用户问题。
• 将答案流式传输到聊天UI。
• 支持自定义LLM设置，所以理论上是无限的LLM支持。