🚀 AI 项目推荐

🌟 推荐 大模型 #大模型 #选型对比

Llama 3.3 vs DeepSeek-V3：两大开源 70B 级模型的选型对比

Llama 3.3 是 Meta 开源的 70B 高性价比大模型，以极低推理成本逼近顶级模型效果；与 DeepSeek-V3 相比，两者在生态、中文能力、推理成本与协议限制上各有取舍，本文帮你一次选对。

2026-09-09 👁️ 19

阅读全文 →

🌟 推荐 大模型 #视频生成 #扩散模型

Wan2.1：阿里开源的视频生成大模型，国产视频生成的扛旗者

Wan2.1 是阿里开源的最新视频生成大模型，从 1.3B 到 14B 多尺寸覆盖，文生视频、图生视频、视频编辑一条龙，开源社区可复现的 SOTA 级中文视频生成方案。

2026-09-09 👁️ 14

阅读全文 →

🌟 推荐 大模型 #大模型 #端侧AI

MiniCPM-o：面壁智能的端侧多模态大模型，手机离线也能用

MiniCPM-o 是面壁智能开源的端侧多模态大模型系列，把 GPT-4o 级别的语音、视觉、全模态能力压缩进手机级算力，离线可用、隐私本地化，边缘 AI 的先锋。

2026-09-09 👁️ 18

阅读全文 →

🌟 推荐 大模型 #大模型 #Google

Gemma 3：Google 开源的单卡多模态小模型，普通人也能本地跑

Gemma 3 是 Google 开源的多模态轻量模型家族，一张消费级显卡就能跑，支持文本、图像与 140+ 语言，把前沿多模态能力带到了个人开发者的桌面。

2026-09-09 👁️ 14

阅读全文 →

🌟 推荐 大模型 #大模型 #阿里云

Qwen3：通义千问新一代开源大模型，思考与非思考一键切换

Qwen3 是阿里开源的全新大模型家族，原生支持混合推理——模型自己决定要不要深度思考，旗舰 MoE 版本在代码与数学任务上直接对标 DeepSeek-R1，覆盖从端侧到云端的全尺寸。

2026-09-09 👁️ 7

阅读全文 →

🌟 推荐 大模型 #分布式训练 #大模型

DeepSpeed：微软开源的分布式训练引擎，千亿参数训练的事实标准

DeepSpeed 是微软开源的分布式深度学习优化库，ZeRO 显存优化让千亿级模型训练成为可能，同时提供推理、微调、稀疏加速全家桶，大模型训练框架的常青树。

2026-09-09 👁️ 4

阅读全文 →

🌟 推荐 大模型 #大模型推理 #NVIDIA

TensorRT-LLM：NVIDIA 官方的大模型推理加速引擎

TensorRT-LLM 是 NVIDIA 官方的大模型推理引擎，在 TensorRT 之上为 LLM 深度定制，把 FP8 量化、KV Cache、PagedAttention 等优化做到极致，是英伟达 GPU 上把吞吐榨干的首选。

2026-09-09 👁️ 7

阅读全文 →

🌟 推荐 大模型 #语音识别 #Whisper

WhisperX：给 Whisper 加上时间对齐与说话人识别的超强转写流水线

WhisperX 在 OpenAI Whisper 之上加上了词级时间对齐、说话人分离与批量加速，把一段模糊的原始转录变成带时间戳、分角色、可直接上字幕的标准字幕文件，音视频内容生产者的效率神器。

2026-09-09 👁️ 5

阅读全文 →

🌟 推荐 大模型 #大模型推理 #异构计算

ktransformers：用 CPU+GPU 异构推理把 DeepSeek 跑进家用电脑

ktransformers 是主打异构推理的开源框架，把稀疏大模型的计算智能分配到 CPU 与 GPU，用一台万元级家用主机就能流畅跑起 671B 的 DeepSeek，本地部署大模型的成本杀手。

2026-09-09 👁️ 5

阅读全文 →

🌟 推荐 大模型 #大模型 #Attention

FlashAttention：让注意力机制快 2-8 倍的底层算法革命

FlashAttention 是 IO 感知的精确注意力算法，通过分块计算把访存开销降低一个数量级，让训练序列从 1K 突破到 128K，几乎每一代新大模型的训练与推理都离不开它。

2026-09-09 👁️ 8

阅读全文 →