AI 日报

大家好， 如果你构建 LLM 应用、自主智能体，或者只是使用 Claude/Cursor 进行编程，你可能遇到过这个问题：对话历史无限增长，token 成本爆炸，延迟飙升，最终 LLM 还是会忘记早期上下文。 为了解决这个问题，我构建了...

你好！ 我目前正在重新学习数据科学，我现在的笔记本电脑是 8 GB MacBook Air，所以自然我想升级。我也对 AI 和本地运行 LLM 感兴趣，我一直在考虑两个选项： a) 购买 48-64 GB RAM 的 MacBook Pro b) 购买 Mac Studio / Mac mini 搭配...

我难以理解这些技术细节。我的目标是构建一个本地智能体来解决低复杂度任务，使用与我使用前沿模型相同的框架。这自然意味着需要大的上下文窗口，因为低复杂度可能意味着在大型代码库中进行简单修复，而不仅仅是生成...

我只是出于个人爱好项目做这个。但我没有跟上最好的 TTS 技术的发展？哪个是当前最好的？ 那些能够展示所有类型情绪的 TTS，包括呻吟声、愤怒、尖叫、悲伤等。

我是 LDR 的维护者。感谢 r/LocalLLaMA 社区的强力支持，LDR 取得了很大进展。我有一段时间没有报告了，因为我觉得还没有准备好在本地 LLM 研究的领先媒体之一上发表另一篇重要文章。 但我想 LDR 社区终于又到了那个阶段。我认为

要闻提示 1.5月1日起，北京禁飞、禁售无人机！ 2.美国暂停对华虹半导体部分供货？中方回应 3.DeepSeek 终于能'看图'了！灰度'识图模式'，图片理解功能内测 4.一加、realme合并：成立子系列事业部，李炳忠任总经理 5.主播离职潮后，东方甄选奖励300名员工市值4亿股份，人均超140万元 6.阿里高绩效员工年终奖上浮1-2个月，新员工长期激励首年归属近1/3 7.官方通报网民称霸王茶姬喝出水银：异物为购买人自己投放 8.SpaceX批准马斯克天价薪酬，若达成市值与火星殖民目标可获2亿股 今日头条 5月1日起，北京禁飞、禁售无人机！ 4月29日消息，从5月1日开始，北京市无人驾驶航空器管理规定将正式执行（《北京市无人驾驶航空器管理规定》）。这项新规对无人机的销售、存储、飞

嘿 r/LocalLLaMA！ 我带着一个新模型回来了，今天是个特别的东西 😃 这是 Flare-TTS 28M，我的第一个文本转语音（TTS）模型，在单张 A6000 GPU 上从零开始训练约 24 小时，约 300 个 epoch，使用完整的 LJSpeech 数据集！ HF 模型链接：[https://huggingface.c

大家好， 我在想创建一个网站，根据我们的硬件，分享我们心爱模型的设置和配置。 我们可以分享我们的设置并投票，根据各种标准搜索它们，如硬件、RAM/VRAM、GPU…… 也许这个已经存在了？

你好， 这个模型/量化是我日常使用的，我想有一些参考基准，将我的设置与一个价格高 3 倍、功耗高 4 倍的设置进行比较。 先看结果，后看方法，文末链接包含所有结果 模型：[cyankiwi/MiniMax-M2.7-AWQ-4bit](https://huggingface.co/c

大家好， 我是 **Box** 的维护者 —— 这是谷歌 AI Edge Gallery 的一个分支，我将其扩展为一个完全离线的 Android AI 助手。 完整说明：我构建了这个项目。 它完全在设备上运行（无云服务、无账号、无外部推理），并结合了多个本地推...

这里的重点是原生 Windows，无需 WSL。安装简单，开源，无遥测。不销售或推广任何东西： https://github.com/devnen/qwen3.6-windows-server **数据（RTX 3090，Windows 10）：** - 72 tok/s 短提示 - 64.5 tok/s 长提示（约 25k tokens） - 53.4 tok/s 在 127k 上下文下

Qwen 有没有暗示其他模型（9B、122B、397B）会推出 3.6 版本？ 或者他们有没有以任何方式确认或暗示「这就是全部」？ 我真的很好奇是否错过了什么，因为我没有看到或听到任何相关消息，像我们很多人一样，我非常期待 122B 版本

[https://unsloth.ai/docs/models/mistral-3.5](https://unsloth.ai/docs/models/mistral-3.5) '2026年5月1日更新：我们与 Mistral 合作修复了影响某些实现的 Mistral Medium 3.5 推理问题，并发布了包含修复的更新版 GGUF（与 Unsloth 或我们的量化无关）。问题是

所有 gguf 都有问题，导致输出质量差，尤其是在长上下文下。 无论如何，现在已经修复了：[https://huggingface.co/unsloth/Mistral-Medium-3.5-128B-GGUF/discussions/1](https://huggingface.co/unsloth/Mistral-Medium-3.5-128B-GGUF/discussions/1) 编辑：Unsloth 公告：[https://huggingf

Build American AI 是一个与超级 PAC 关联的非营利组织，该组织由 OpenAI 和 Andreessen Horowitz 的高管资助。它正在资助一场运动，传播亲 AI 的信息，并煽动对中国的恐惧。 所以本地 LLM 很重要……永远如此！需要支持那些给我们提供更多开源和权重的人。

标题。 好奇大家通常如何处理 KV 缓存。BF16？Q8？Q4？Turboquant 还是其他秘诀？ 我运行 bf16 希望能减少幻觉，因为 g4 和 q3.6 本身就是在 bf16 上训练的。但非常想听听其他人...

由于Copilot改变了计费模式变得非常昂贵，我开始考虑自己运行本地大语言模型的可能性。但我不确定什么设备适合这种用途？ 1. 大内存的Mac，比如128GB 2. 配备RTX5070/5080/5090的Windows，但...

**模型：** Abiray-Qwen3.6-27B-NVFP4.gguf **配置：** \- Legion 7i Gen10 - NVIDIA GeForce RTX™ 5090 \- Intel® Core™ Ultra 9 275HX × 24 \- 内存 32.0 GiB **llama-cpp 设置：** ./build/bin/llama-server \ -m ~/.lmstudio/models/lmstudio-community/Qwen3.6-27B-GGUF/Abiray-Qwen3.6-27B-NVFP4.gguf \

我们宣布新规则已经一周了：https://www.reddit.com/r/LocalLLaMA/comments/1su3ao4/rlocalllama_rule_updates/ 我们想了解一下社区目前对这些规则的反应如何。我们特别关注

面对 2026 年代币计算费用的大幅增长，我决定将 Qwen 3.6 作为日常使用工具。虽然只试用了一天，但必须说印象深刻。 我下载了 VSCode 预览版并配置了本地模型支持 - 非常简单。然后我测试了不同场景

我的主要收获： * 6% 的使用涉及个人指导（'不仅寻求信息，还希望获得下一步行动的视角建议。） * 令人惊讶的是只有 6%，但随着公众更广泛地采用 AI，以及软件工程师使用占比缩小，我完全预计这个比例会上升。 * Eve

你认为五月可能会发布哪些模型？欢迎你选择或排序你最期待的内容： - 更多 Gemma4 模型（124b 版本？）还有其他尺寸吗？ - 更多 Qwen3.6 模型（9b？122b？397b？） - 新的 Qwen Coder 模型（80b 更新版本？）（~397b/400b+ 编码器？） - 100b-300b 规格的新 GLM 模型

嘿各位 Llama 同好，感谢大家对上一篇文章的赞美和宝贵反馈。我们有一些新内容，认为值得分享。时间宝贵，我就长话短说。 我们为量化 27B 模型的长上下文解码构建了投机预填充技术，使用 C++/CUDA 实现

第一个AI生产力元年的劳动节：谁在涨薪，谁在出局 消费日报网

深圳举行人力资源服务业与制造业供需对接活动以双向清单推动精准匹配 sz.gov.cn