LibreChat:可自托管的多模型 AI 对话平台,ChatGPT 的开源平替
LibreChat 是功能最接近商业产品的开源 AI 对话平台,45.2k Stars。一个界面接 OpenAI、Anthropic、Google 与本地 Ollama,支持插件、代码解释器、Artifacts、多用户与数据自持,团队想自己搭一套 ChatGPT 时通常从它开始。
精选值得关注的 AI 开源项目与创意应用,每篇深度安利一个项目
LibreChat 是功能最接近商业产品的开源 AI 对话平台,45.2k Stars。一个界面接 OpenAI、Anthropic、Google 与本地 Ollama,支持插件、代码解释器、Artifacts、多用户与数据自持,团队想自己搭一套 ChatGPT 时通常从它开始。
Llama 3.3 是 Meta 开源的 70B 高性价比大模型,以极低推理成本逼近顶级模型效果;与 DeepSeek-V3 相比,两者在生态、中文能力、推理成本与协议限制上各有取舍,本文帮你一次选对。
Wan2.1 是阿里开源的最新视频生成大模型,从 1.3B 到 14B 多尺寸覆盖,文生视频、图生视频、视频编辑一条龙,开源社区可复现的 SOTA 级中文视频生成方案。
MiniCPM-o 是面壁智能开源的端侧多模态大模型系列,把 GPT-4o 级别的语音、视觉、全模态能力压缩进手机级算力,离线可用、隐私本地化,边缘 AI 的先锋。
Gemma 3 是 Google 开源的多模态轻量模型家族,一张消费级显卡就能跑,支持文本、图像与 140+ 语言,把前沿多模态能力带到了个人开发者的桌面。
Qwen3 是阿里开源的全新大模型家族,原生支持混合推理——模型自己决定要不要深度思考,旗舰 MoE 版本在代码与数学任务上直接对标 DeepSeek-R1,覆盖从端侧到云端的全尺寸。
DeepSpeed 是微软开源的分布式深度学习优化库,ZeRO 显存优化让千亿级模型训练成为可能,同时提供推理、微调、稀疏加速全家桶,大模型训练框架的常青树。
TensorRT-LLM 是 NVIDIA 官方的大模型推理引擎,在 TensorRT 之上为 LLM 深度定制,把 FP8 量化、KV Cache、PagedAttention 等优化做到极致,是英伟达 GPU 上把吞吐榨干的首选。
WhisperX 在 OpenAI Whisper 之上加上了词级时间对齐、说话人分离与批量加速,把一段模糊的原始转录变成带时间戳、分角色、可直接上字幕的标准字幕文件,音视频内容生产者的效率神器。
ktransformers 是主打异构推理的开源框架,把稀疏大模型的计算智能分配到 CPU 与 GPU,用一台万元级家用主机就能流畅跑起 671B 的 DeepSeek,本地部署大模型的成本杀手。
第 1-10 篇,共 57 篇