LocalGPT 是一个开源的本地大模型 GPT 工具,旨在让用户在本地设备上与文档进行对话,确保数据隐私和安全。它是一个完全私密的解决方案,所有数据处理均在本地完成,确保用户数据不会离开设备。LocalGPT 支持多种开源模型,如 HF、GPTQ、GGML、GGUF 等,并提供多种嵌入选项,用户可以无缝集成这些模型以增强其功能。此外,LocalGPT 提供了命令行和图形界面两种交互方式,支持 GPU、CPU、HPU 和 MPS 等多种平台,确保在不同硬件环境下都能高效运行。
LocalGPT开源项目官网入口网址:https://github.com/PromtEngineer/localGPT
LocalGPT 的核心功能包括数据本地存储、模型可重复使用、对话历史记录、API 接口支持以及多格式文档处理(如 PDF、DOCX、TXT、Markdown 等)。用户可以通过 API 构建检索增强应用(RAG),并利用其强大的本地计算能力进行文档分析和问答。LocalGPT 的设计灵感来源于 privateGPT,旨在为用户提供一个安全、私密且高效的本地 AI 体验。
LocalGPT 的部署和使用相对简单,用户可以通过克隆 GitHub 仓库、安装依赖并运行本地实例来快速启动项目。项目提供了详细的文档和教程,帮助用户快速上手并充分利用其功能。此外,LocalGPT 的社区活跃,用户可以在 GitHub 上参与讨论和贡献代码,进一步推动项目的持续发展。
LocalGPT 是一个功能强大、安全且灵活的本地 AI 工具,适合需要在本地运行大模型、保护数据隐私的用户和企业使用。
数据统计
相关导航
SQLBot 是一款基于大语言模型(LLM)和检索增强生成(RAG)技术的智能问数系统,旨在通过自然语言查询数据库,实现数据的即问即答和可视化分析。它支持多种集成方式,如嵌入到 n8n、MaxKB、Dify、Coze 等平台,并提供安全可控的数据权限管理。SQLBot 的核心优势在于其开箱即用、易于集成和安全可控,用户只需配置大模型和数据源即可开始使用。 SQLBot官网入口网址:https://dataease.cn/sqlbotSQLBot开源项目地址:https://github.com/dataease/SQLBot SQLBot 的功能包括自然语言转SQL、SQL转自然语言、多轮对话能力、数据可视化图表生成、智能数据分析等。它支持多种数据源配置,如Excel、CSV、数据库等,并提供数据看板构建功能。此外,SQLBot 还支持多用户协作和权限管理,适合团队协作使用。 SQLBot 是一款功能强大、易于使用且安全可控的智能问数系统,适合数据分析师和业务人员使用,以提升数据处理和分析的效率。
LocalAI 是一个免费、开源且功能强大的人工智能堆栈,旨在作为 OpenAI 和 Anthropic 等云端服务的本地替代方案。它的核心理念是“无云、无限制、无妥协”,允许用户在消费级硬件上本地运行强大的语言模型(LLM)、自主智能体(Autonomous Agents)以及文档智能处理工具,从而确保数据的完全隐私和安全。 LocalAI官网入口网址:https://localai.io/LocalAI开源项目地址:https://github.com/mudler/LocalAI核心功能与特点 LocalAI 最显著的特点是其与 OpenAI API 的高度兼容性。它可以作为 OpenAI API 的“即插即用”替代品,这意味着现有的基于 OpenAI 开发的应用程序和库无需修改代码即可无缝切换到 LocalAI,直接在本地运行。这不仅降低了迁移成本,还赋予了开发者完全的掌控权。 在功能模块上,LocalAI 不仅仅是一个模型推理引擎,它构建了一个模块化的生态系统: LLM 推理与多模态支持:支持运行各种大型语言模型,同时具备生成图像、音频等多模态能力。它支持多种后端推理引擎,能够适配不同系列的模型。自主智能体(LocalAGI):通过扩展组件 LocalAGI,用户可以在无需编写代码的情况下构建和部署自主 AI 智能体,实现更复杂的任务自动化。记忆与知识库(LocalRecall):集成本地语义搜索和记忆管理 API(LocalRecall),为 AI 应用提供长期的记忆能力和知识库检索功能,增强模型的上下文理解能力。硬件要求与隐私优势 LocalAI 的一大突破在于其对硬件的低门槛要求。它不需要昂贵的专业 GPU,普通的消费级硬件即可流畅运行,极大地降低了 AI 部署的成本。更重要的是,LocalAI 极度注重隐私保护。所有数据处理均在用户本地机器上完成,数据永远不会离开用户的设备,彻底消除了云端泄露的风险,非常适合对数据敏感性要求高的企业和个人的应用场景。 部署与社区 LocalAI 提供了极其便捷的部署方式,支持二进制文件安装、Docker、Podman 以及 Kubernetes 等多种环境。其中,Docker 是最推荐的安装方法,用户只需一条命令即可启动服务。作为一个由社区驱动的项目,LocalAI 拥有活跃的 GitHub 社区(已超过 40k stars)和 Discord 频道,定期更新并不断吸纳贡献者,共同塑造其未来发展方向。 LocalAI 为用户提供了一个完整、私有且易于部署的本地 AI 解决方案,是让 AI 技术真正落地到本地硬件的理想选择。
小智 AI 聊天机器人是一款开源硬件项目,旨在帮助用户入门 AI 硬件开发,并将大语言模型(LLM)应用于实体设备中。该项目由开发者“虾哥”以 MIT 许可证发布,具有低成本、高可玩性,适合 AI 硬件开发学习者使用 。项目支持 Wi-Fi 和 4G 连接,具备离线语音唤醒、流式语音对话、多语言识别(包括国语、粤语、英语、日语、韩语)、声纹识别、LLM 和 TTS 支持、短期记忆功能,以及 OLED/LCD 显示屏显示对话内容 。项目提供详细视频教程,用户可自行制作硬件和工具进行体验 。 小智 AI 聊天机器人官网入口网址:https://xiaozhi.me/小智 AI 聊天机器人开源项目地址:https://github.com/78/xiaozhi-esp32小智 AI 聊天机器人百科全书:链接 小智 AI 聊天机器人支持多种功能,包括语音唤醒(支持离线唤醒和按键唤醒)、多语言识别、流式语音对话、多模态交互方式等 。用户可以通过视频教程和固件修改进行自定义和扩展功能。此外,该项目还支持私有化服务器部署和定制模型应用。 小智 AI 聊天机器人不仅是一个开源硬件项目,还具有一定的娱乐性和实用性,例如在视频中展示其与用户互动、讲笑话、唱歌等功能。此外,该项目还支持与智能家居设备(如 Home Assistant)的集成,实现智能家居控制。 小智 AI 聊天机器人是一个集开源硬件、AI 技术、娱乐性和实用性于一体的项目,适合对 AI 硬件开发和智能设备感兴趣的用户。开发和智能设备感兴趣的用户。
awesome-llm-apps 是一个开源项目,旨在收集和展示基于大语言模型(LLM)的应用程序,特别是结合了检索增强生成(RAG)和AI代理技术的应用。该项目由 Shubham Saboo 创建并维护,旨在为开发者提供一个展示和探索LLM应用的平台。 awesome-llm-apps开源项目地址:https://github.com/Shubhamsaboo/awesome-llm-appsawesome-llm-apps中文介绍地址:https://www.zdoc.app/zh/Shubhamsaboo/awesome-llm-apps 该项目涵盖了多种应用场景,包括但不限于AI代理、多代理团队、RAG(检索增强生成)、语音代理等技术。这些应用可以使用OpenAI、Anthropic、Gemini等模型以及开源模型(如DeepSeek、Qwen、Llama)构建,并且部分应用可以在本地运行。 项目提供了详细的文档和安装指南,用户可以克隆仓库并按照README文件中的说明进行安装和运行应用。项目鼓励社区贡献新项目或改进现有项目,保持结构一致并附详细说明。 awesome-llm-apps 项目持续更新,拥有活跃的社区和持续的更新,以确保其内容和功能保持最新。
AstrBot 是一个松耦合、异步、支持多消息平台部署、具有易用的插件系统和完善的大语言模型(LLM)接入功能的聊天机器人及开发框架。 AstrBo官网入口网址:https://astrbot.app/ AstrBo开源项目地址:https://github.com/Soulter/AstrBot 主要功能 大语言模型对话。支持各种大语言模型,包括 OpenAI API、Google Gemini、Llama、Deepseek、ChatGLM 等,支持接入本地部署的大模型,通过 Ollama、LLMTuner。具有多轮对话、人格情境、多模态能力,支持图片理解、语音转文字(Whisper)。多消息平台接入。支持接入 QQ(OneBot)、QQ 频道、微信(Gewechat)、飞书、Telegram。后续将支持钉钉、Discord、WhatsApp、小爱音响。支持速率限制、白名单、关键词过滤、百度内容审核。Agent。原生支持部分 Agent 能力,如代码执行器、自然语言待办、网页搜索。对接 Dify 平台,便捷接入 Dify 智能助手、知识库和 Dify 工作流。插件扩展。深度优化的插件机制,支持开发插件扩展功能,极简开发。已支持安装多个插件。可视化管理面板。支持可视化修改配置、插件管理、日志查看等功能,降低配置难度。集成 WebChat,可在面板上与大模型对话。高稳定性、高模块化。基于事件总线和流水线的架构设计,高度模块化,低耦合。 AstrBo提供了一个强大、灵活且易于部署的消息平台解决方案,适用于各种规模的企业和个人用户。
OpenRouter 是一个专注于大型语言模型(LLMs)和其他 AI 模型的统一接口访问平台,旨在为开发者和用户提供一个简单、高效且灵活的工具。OpenRouter 提供了一个统一的 API 接口,支持访问和使用多种知名 AI 模型,包括但不限于 GPT-4、Claude、Google PaLM、LLama 等。这些模型覆盖了自然语言处理、计算机视觉、聊天机器人、内容生成等多个领域,用户可以根据需求选择最适合的模型进行调用。 OpenRoute官网入口网址:https://openrouter.ai/ 功能与特点: 统一接口:OpenRouter 提供了一个统一的 API 接口,使用户能够轻松调用多种大型语言模型(LLMs),如 GPT-4、Claude 和 Google PaLM 等。多样化的模型选择:平台支持多种开源和商业 AI 模型,包括 Llama-3、Mixtral、Anthropic 的 Claude 和 OpenAI 的 GPT-3.5 和 GPT-4 等。灵活的定价计划:OpenRouter 提供灵活的定价模式,部分模型按使用次数收费,而像 Claude 2 这样的模型则采用包月制。无代码网页应用封装:平台支持无代码网页应用封装,方便开发者快速集成 AI 功能。实验实验室与集成支持:OpenRouter 提供实验实验室功能,并支持与各种应用和框架的集成,如 Streamlit 和 LangChain。 应用场景: AI 写作助手:用户可以利用 OpenRouter 开发 AI 写作助手,提升内容创作效率。多模型聊天机器人:通过 OpenRouter,开发者可以构建多模型聊天机器人,提供更丰富和智能的对话体验。AI 模型比较工具:OpenRouter 允许用户比较不同模型的性能和价格,帮助用户选择最适合的模型。定制 AI 应用:用户可以利用 OpenRouter 开发定制化的 AI 应用,满足特定业务需求。 技术优势: 兼容性:OpenRouter 与 OpenAI 的 SDK 兼容,便于开发者在不同平台间无缝切换。成本透明:平台仅收取上游供应商的费用而不加价,为研究人员和初创企业提供了成本效益高的选择。高上下文长度支持:OpenRouter 支持高上下文长度的模型,如 GPT-4,能够处理更复杂的任务。边缘优化:平台通过边缘优化技术提升响应质量。 用户体验: 用户友好的界面:OpenRouter 提供了用户友好的界面,使用户能够轻松浏览、搜索和选择模型。实时交互:用户可以与模型进行实时对话,获取即时建议和回答。评价功能:用户可以对已使用过的模型进行评价和反馈,帮助其他用户做出更好的选择。 适用人群: AI 开发者:OpenRouter 提供了丰富的 API 接口和工具,适合 AI 开发者快速搭建和测试 AI 应用。研究人员:研究人员可以利用 OpenRouter 进行模型比较和性能测试,优化 AI 应用程序的性能和成本。企业和教育机构:企业和教育机构可以利用 OpenRouter 提高开发效率、降低成本,并为用户提供高质量的 AI 服务。 使用方法: 注册与获取 API 密钥:用户需要注册 OpenRouter 账号并获取 API 密钥,以便调用平台提供的 API 服务。配置与调用:通过简单的配置和调用,用户可以轻松访问多种预训练的大模型。免费试用与充值:OpenRouter 提供免费试用服务,并支持充值以获取更多使用额度。 OpenRouter 是一个强大且灵活的 AI 模型访问平台,为用户提供了一个统一的接口和多样化的模型选择,适用于个人开发者、企业和教育机构等多种用户群体。通过其用户友好的界面和灵活的定价模式,OpenRouter 成为 AI 开发和研究的重要工具。
