AI 日报

https://www.reddit.com/r/LocalLLaMA/comments/1p0lnlo/make_your_ai_talk_like_a_caveman_and_decrease/ 在我正在进行的项目中，我通过 Codex 从 GPT 5.5-medium 获得了以下输出： 在 Homm3ImportUnitPreviewModelHook.cs 中实现了更窄的修复？需要绝对路径。需要知道当前工作目录的绝对路

在 M1 Max 64GB 上测试了 10 个图像生成模型，涵盖照片真实感、文本渲染和文化准确性（日文/亚洲内容）。 主要发现： * Qwen-Image Lightning（8 步蒸馏）在质量上优于完整模型，同时速度快 9 倍（10 分钟 vs 93 分钟） * Flux dev 是最佳的本地模型

在质量方面，35B 给了我更好的结果，而且它比 27B 快得多。只是好奇，因为我看到很多人发布关于 27B 的内容。我在 27B 上做错了什么吗？ 用例是编码和网络研究的多阶段流水线。我也使用一些 Opencode。我通常应用的所有用例

我构建了 [hfviewer.com](http://hfviewer.com)，这是一个用于可视化探索 Hugging Face 模型架构的小工具。 你可以粘贴 Hugging Face URL，获取架构的**交互式可视化**，这样可以更轻松地理解不同模型的结构并比较它们

打算在 Blackwell + M3 Ultra RDMA 集群上测试一些 MoE 速度。这里大约有不到 2TB 内存。我想和你们交流想法并做一些很酷的实验。你们想看到哪些基准测试？ 编辑：鉴于这篇帖子很有兴趣，我会在这个论坛上直播这个

查看 README 获取设置说明：[https://github.com/BigStationW/llama-cpp-phrase-ban](https://github.com/BigStationW/llama-cpp-phrase-ban)

过去几天我尝试从零实现 TurboQuant (arXiv:2504.19874)。 我想和这里的人确认一下，因为我的数字与论文中的不符。 观察结果： MSE 版本表现良好（压缩和失真如预期） PROD 版本： cl

嘿，我是 Crownelius，我制作了那个流行的 opus distill 数据集。 今天向你介绍 SHARD，一个 40M 参数的畸形 LLM。 现在我正在开发一系列微型 LLM，目标是运行一个用于物联网任务的连贯模型。我研究了原子模型，在此过程中我遇到了一个

我想分享一个我构建的开源应用程序，用于在我的设置上本地运行 LLM。 # 我的设置 **硬件** * FEVM FAEX1 (128GB) * RTX Pro 5000 Blackwell (48GB)，通过 OCuLink 连接 * Aoostar AG02 * 2x2TB 内部 m.2 驱动器，使用 `mdadm` 做 raid-0。 **软件**：Ubuntu 25.10，llama.cpp b

举报机器人真的有用吗？

我在 vllm 上使用 FP8 safetensors 运行 Qwen-3.6 27B，用于长周期代理编码工具工作负载，具有高上下文窗口和并发子代理。在两张不用于其他用途的 3090 上，期望速度和可靠性之间的良好平衡似乎是合理的。我想提出一个