AI 日报

这个模型是通用聊天机器人模型中的 GOAT。 极其聪明，闪电般快速（Apple silicon），并且说真话没有免责声明。如果它从这里开始变得更好，我绝对惊呆了。惊呆了。

**TL;DR** On 4× RTX 3090 with NVLink bonded between GPU pairs (0↔2 and 1↔3), pinning TP=2 to a NVLinked pair gave **+25% throughput** at concurrency 1 and **+53%** at concurrency 4 vs running TP=2 over PCIe. Adding the other two GPUs to make it TP=4 made things worse, not better. # Setup * **Hard

为 LLaMA.cpp 实现了多令牌预测。将 Gemma 4 助手模型量化为 GGUF 格式。在 MacBook Pro M5Max 上运行测试。启用 MTP 草稿令牌后，Gemma 26B 速度提升 40%。提示词：编写一个使用递归查找第 n 个斐波那契数的 Python 程序。输出：LLaMA.cpp：97 个令牌

嫁接 MTP 张量的[脚本](https://gist.github.com/buzz/1c439684d5e3f36492ae9f64ef7e3f67)需要完整的 GGUF 模型文件。我觉得这有点太大了，所以我让本地 Gemma 写了点东西来只提取所需的部分。结果有两个伪装的 GGUF，重量仅为 900MB（35A3B）

这里配备了 2.3TB 内存，400+ vCore。剩下的就是通过驱动将 Blackwell 连接到 RDMA，就完成了。用 Blackwell 做预填充，RDMA 到 studio mesh 做解码。我想这会是第一个异构集群。不过，我确实需要 Tinygrad 驱动器的帮助来...

我们最近注意到一个现象：令人惊讶的是，日常 AI 工作流程中很大一部分似乎不再需要全天候使用前沿规模的云模型。对于很多实际任务：代码解释、结构化编辑、摘要、重度检索工作流、样板生成...

我想分享过去一个月左右的一个有趣项目，我尝试构建了一个嵌入 AI 智能体的 Shell。这个嵌入的智能体知道 Shell 中发生的一切，因此我在终端工作时不必一直将错误信息复制粘贴到另一个编程智能体中。现在我可以

我不确定是否还有太多人关心 ARC-AGI-2 竞赛，但仍然...我认为有些人可能会觉得这很有趣。 他们今年最后一次运行这个竞赛。大家目前都在使用去年获胜的开源代码堆砌排行榜。这就是为什么如果你拿一粒豌豆

以防你还没听说，Google 刚刚为 Gemma 4 发布了多令牌预测起草器，这是一种推测解码方法，将主模型与轻量级起草器配对。它可以提前预测多个令牌，然后并行验证它们，将推理速度提高 2-3 倍。 有没有人

华硕 2025 年出货 1500 万块主板。2026 年预计仅出货 1000 万块。CPU 价格也在上涨。

这对我们本地大语言模型爱好者来说可能又是一个选择。我对价格非常好奇。

Hugging Face 上有个新的『模型』叫 `Open-OSS/privacy-filter`，实际上是一个定制的信息窃取病毒。它是 OpenAI 隐私过滤器的伪造版本，使用基于 Python 的投放程序（`loader.py`），从互联网下载恶意的 PowerShell 命令，然后启动...

During my burn tests for my llm's, managed to snag 4ghz boost and 3.72ghz sustained (obviously not stable, very far from it) but heard from a birdy that last week's drivers for these cards fully unlock new vulkan paths and allowed unlocked clocks. This is a god bin yes but more users are reporting l

[https://huggingface.co/XiaomiMiMo/MiMo-V2.5](https://huggingface.co/XiaomiMiMo/MiMo-V2.5) # Model Summary * **Architecture**: Sparse MoE (Mixture of Experts), 310B total / 15B activated parameters * **Context Length**: Up to 1M tokens * **Modalities**: Text, Image, Video, Audio * **Vision Encoder

Pit 获得 1600 万美元融资用于 AI 运营平台 StartupHub.ai

2024 年的初夏，小米 SU7 的爆单与偶发的几起事故，将这家初出茅庐的造车新势力拉入了冰火两重天的舆论场。在新技术的冲击面前，有人感叹诺基亚式的倾覆就在眼前，但真正的局内人眼里，却浮现出另一番光景。 当一些狂热的粉丝在社交网络上对着传统车企疯狂输出时，雷军却在牌桌底下，做着最务实、甚至是最传统的算计。 这个算计的核心，叫胡峥楠。 2026 年 4 月，胡峥楠成为小米汽车 CTO，'互联网打法' 的小米有了不一样的意味。 1. 杭州湾的暗夜与 '无情系统' 时间拨回 2021 年夏天。距离上海市区 150 公里外的吉利汽车杭州湾研发基地，气氛压抑得犹如暴雨将至。 极少来此的吉利集团董事长李书福，特意挑了一个日子，出现在了研发基地。外界只道是例行视察，但据内部人士透露，李书福此行只有一个目的：稳定军心。 在这前后，

随着 AI 推理成为其核心工作负载，它们的主要产出已转变为以 Token 形式制造的智能

01 Anthropic豪掷2千亿美元锁定谷歌云 在硅谷，2千亿美元能买到什么？换算成现金，它能买下整整两个英特尔；换算成算力，人类历史上最昂贵的一份'芯片租赁合同'即将诞生。 2026年5月5日，据The Information报道，AI初创公司Anthropic已承诺在未来五年内向Google Cloud支付约2千亿美元，用于获取5吉瓦的TPU算力和云服务。 交易的结构分两层。第一层是Anthropic向Google Cloud购买5吉瓦的下一代TPU算力。这些芯片由Google与Broadcom联合开发，与NVIDIA GPU形成直接竞争。第二层是Alphabet的投资：Google计划向Anthropic追加投资至少100亿美元，如果Anthropic达到特定业绩目标，

5 月 6 日，国际市场调研机构沙利文（Frost & Sullivan）发布《中国高校科研机构AI4S市场追踪报告，2025年》。报告显示，阿里云以26%的市场份额领跑中国高校科研机构AI4S云市场，稳居第一。 AI4S，即AI for Science，人工智能驱动的科学研究，被称作实验、理论、计算、数据范式之后的'第五范式'。报告显示，中国高校科研AI4S 云市场正处于快速成长期，预计2030年将达107亿元。 沙利文指出，与通用企业级AI市场相比，中国高校科研机构 AI4S 的需求正在从单一算力资源，升级为AI 全栈能力建设，更强调科研任务适配性、复杂算力与工具链协同能力，以及跨学科场景下的持续服务能力。阿里云已在'算力—平台—模型—应用—生态'全链路形成完整技术栈，成为唯一取得全栈

要闻提示 1.三星宣布停止在中国大陆市场销售所有家电产品，手机业务不受影响 2.估值近450亿美元？DeepSeek获国家大基金领投磋商 3.中国航天员中心招募志愿者：最高拿7万元，还能玩手机 4.月之暗面将完成20亿美元融资，投后估值超200亿美元 5.丢失7年的手机突然发定位和照片，机主成功找回！魅族客服回应 6.突发！陈天桥旗下 MiroMind AI 暂停中国服务 7.OpenAI联合创始人法庭作证：2017年马斯克因控制权被拒'险些动手' 8.马斯克：xAI将更名为SpaceXAI，不再作为独立公司存在 今日头条 三星宣布停止在中国大陆市场销售所有家电产品，手机业务不受影响 5月6日消息，三星电子在官网发布公告称，为应对急剧变化的市场环境，经慎重研究，三星

5 月 7 日，无问芯穹宣布此前已再获超 7 亿元融资，持续稳居中国 AI 原生基础设施公司融资规模之首。联合领投方为杭州高新金投集团和惠远资本，跟投方包括国兴资本、秦淮数据、广发乾和、力合清瞳、中保投资、AEF NextGen、腾瑞资本、卡莱特、中信建投资本和宽德智能学习实验室 (Will)，老股东君联资本、上海国投孚腾和元智未来追加投资。 据悉，本轮融资已于数月前完成，资金将重点投向三大方向：一是夯实无问芯穹多元异构技术的领先地位，扩大 Token （词元）经济时代，极致优化的可用算力规模；二是持续强化软硬协同的技术优势，加快从'电能到 Token'的生产效率跃升；三是构建具备自主进化能力的 AI 基础设施，依托企业级智能体服务平台，面向不同行业场景提供解决方案，提升从'Token 到

llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved: [https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved](https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved) llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Pre

'下了飞机直奔洗头店，缅式洗头体验，洗出了全国人气。'被称为'东南亚风情平替'的云南芒市，在'五一'假期，迎来四面八方的游客，当地特色体验'缅式洗头'成为不少游客的打卡项目。 从边境小城的民族风情体验，到县域目的地的亲子DIY、洗浴休闲和本地美食，小城服务消费正在释放新的增长活力。5月6日，美团发布'五一'假期休闲玩乐消费趋势。美团数据显示，假期期间，中低线城市休闲玩乐订单环比增长近70%，异地用户环比增速达205%，跨城消费持续活跃。 体验经济蓬勃发展，边境小城、烟火县城成为全国消费者探寻深度体验的目的地。广西南宁、新疆库车、吉林延边、内蒙古乌兰察布、广东澄海、广西崇左、广东惠州、河北邯郸、山西大同、云南德宏跻身休闲玩乐消费TOP10热门小城。 美团AI管家'小团'不仅可以做攻略，更能挖掘

看到很多帖子说 TPS 提升惊人，但我没看到有人测量基准测试或自定义测试/评估套件。 如果认为没有变化，我不认为这是理所当然的。专业工程的标准做法是始终运行验证套件

我的本地 AI 工作站终于搭建完成。第二块也是最后一块 GPU 到了，现在桌面电脑已配备完整的双 GPU 配置。 桌面电脑 / 主机计算节点 - Ryzen 7 5800X - 2 × Radeon Pro 9700 AI，每块显存 32GB - 桌面总显存 64GB - 128GB DDR4 - 2TB SSD + 1TB SSD + 2

40 多条 8GB 的 SO-DIMM DDR5 内存，除了卖掉以外，有什么办法可以在本地 AI 里派上用场？

我们都知道上下文衰退现象（长上下文会降低模型准确率）。 很多次我看到有人说'先用 32K 上下文试试，必要时再增加'。 问题：到底是上下文窗口的大小对 LLM 准确率有影响，还是真正重要的是实际使用的上下文长度？

我想处理一些受版权保护的内容。我知道 HF 上有未审查的模型，但不确定它们是否靠谱，所以有两个问题 1. HF 上的未审查模型与等效的量化原模型（来自 unsloth/bartowski 等）一样好吗 2. 有没有 '标准' 的即插即用脚

我一直关注 akitaonrails 编码基准，它测试的是固定的 rails + Rubyllm + docker 任务，而非厂商报告的评估结果。2026 年 4 月的更新显示 K2.6 得分 87，位列 A 档（80 分以上），领先于 Qwen 3.6 plus（71 分）、Deepseek v4 flash（78 分）以及降至 C 档的 GLM 5.1。 至于

双卡配置的性能如何？用 llama.cpp 之类的工具搭建起来会很难吗？ 我问这个是因为双卡配置会便宜不少。 我对一些新模型很满意，能以更高量化级别运行 Qwen 3.6 27B 就更好了。 提前致谢！

我一直在用 Pi harness 使用 Qwen 3.6，目前体验非常棒。 我注意到 Qwen 在写 Typescript 时很擅长添加行内注释（还没试过其他语言）。例如 [https://github.com/chrisetheridge/pi-extension-lmstudio/blob/main/src/extension/index.ts#L3

不确定其他人是否更新过，但我尝试了 LLAMA CPP 的 MPT 版本。效果相当不错。我只有一块性能一般的 AMD 64GB 统一内存集成 GPU。速度很快。可以说与 9b Qwen 3.5 Q4KM 的回复速度相当。这真酷。

当我看到这张卡频率一直显示 3300mhz 时，我一度摸不着头脑。决定在对它进行极限超频和改造散热之前，先让它跑个 Geekbench 测试。我知道它是体质极佳的芯片，但没想到在公版散热器下就能匹敌甚至超越 7900xtx。最终还拿到了整个世界纪录

BOSS直聘创始人赵鹏年薪4183万！但求职者为何却找不到工作？ TMT观察网

科锐国际：AI浪潮下，医药产业人才流动与组织能力的双重变革 cb.com.cn

智能进化驱动增长跃迁 科锐国际 2025 年实现营收 145.40 亿元 新浪财经

科锐国际2025年营收145.40亿元 东方财富

科锐国际：2025 年净利润同比增长 52.68% 拟 10 派 2.3 元 金融界

投资于人、智创未来，构建创新人才评价体系 shobserver.com

壹评级发布移为通信、南山铝业等五家公司首次评级报告 东方财富

报告：AI智能体相关人才需求同比激增455% 新浪财经

Adecco Group 扩大与 Salesforce 的合作以规模化代理式 AI Staffing Industry Analysts