AI 日报

两个模型都是开放权重，都在本地 CPU 工作站上运行，都能检测文本中的 PII。快速总结一下我的发现。 GLiNER large-v2.1 有约 3 亿参数，零样本，在推理时将实体类型作为纯文本字符串传递。 Openai/privacy-filter 总共 15 亿参数，但每次前向传播只有 5000 万活跃参数

继 Kimi K2.6 带来的令人印象深刻的震动之后，我现在获得了小米 MiMo-V2.5-Pro 的一些结果。 作为背景，这是基于我创建的一个基准测试，让模型在《血染钟楼》的自主游戏中相互竞争——这是一个高度复杂的社会推理游戏。如果你不熟悉

[https://huggingface.co/z-lab/gemma-4-31B-it-DFlash](https://huggingface.co/z-lab/gemma-4-31B-it-DFlash) 我想我们得等到这个 PR 合并后才能测试它。 [https://github.com/ggml-org/llama.cpp/pull/22105](https://github.com/ggml-org/llama.cpp/pull/22105)

昨天，我看到 Qwen 3.6 27B 的 SVG 能力的精彩演示 [在 sub 上](https://www.reddit.com/r/LocalLLaMA/comments/1szp96f/qwen3627bq6_k_images/)。 为了最大化模型在 SVG 生成方面的能力，我在 Claude 的帮助下组装了一个闭环测试框架

Two Hands Corporation Expands Artificial Intelligence Initiative to Include Research Focus on AI and Quantum Computing  TMX Newsfile

我目前运行着双 RTX 5060 ti 16gb（两者都很容易出售或在家里的其他电脑中重复使用），并在二手市场上寻找更多相同的显卡，或者 RTX 3090。我不禁注意到 7900xtx 有时会出现一些相当'划算'的价格（RTX 3090 价格的 50-60%）

## 在 RTX 2080 SUPER 8GB 上让 Qwen3.5-35B-A3B 运行 DFlash 推测解码 我成功在显存非常有限的设置上让 llama.cpp 中的 **DFlash 推测解码**正常工作。 这是使用 DFlash PR 测试的： https://github.com/ggml-org/llama.cpp/pull

大家好！我想分享我的新博客，关于运行 AI 评估的成本。我们深入探讨了为什么现在对前沿系统的基准测试每次运行成本通常数万美元，为什么智能体评估尤其不可预测，以及这种验证权力的集中对更广泛的研究意味着什么

真实故事， 我看到 AI 在实际工作中运作后产生了兴趣，想在本地运行模型。我从一台 96GB 的 M3 Ultra 开始，很快就发现这不够满足我的需求，于是不断升级硬件（包括 256GB/512GB 的翻版 Mac Studios，今天刚收到了 RTX Pro 6000）

有人知道吗？我在 vast 上甚至找不到服务器 gpu <b200，而且这是我第一次在 mithril 上看到，上周多个时间点 h100/h200/b200 都持续超过每小时 1000 美元！我不明白为什么你不在那时迁移到 runpod，即使是

构建已完成。16 台 DGX Spark 已部署在网络上，全部达到线速。 设置过程耗时但说实话比我预期的更顺利。每台 Spark 开箱即运行 Nvidia 定制的 Ubuntu，大部分组件已预装并准备就绪。对于设置，我需要将它们上架，通电，创建相同的 u

这篇文章是给那些喷子看的，到目前为止它超出了我的所有预期。一台惊人的机器。我会用更多模型进行更新。这些都还很小，但太棒了。

[https://huggingface.co/datasets/angrygiraffe/claude-opus-4.6-4.7-reasoning-8.7k](https://huggingface.co/datasets/angrygiraffe/claude-opus-4.6-4.7-reasoning-8.7k) 一个从 Claude 4.6/4.7 创建的合成微调数据集。共 8,706 个示例，全部包含推理过程。我没有审查数据但

[https://github.com/ggml-org/llama.cpp/blob/master/docs/backend/snapdragon/README.md](https://github.com/ggml-org/llama.cpp/blob/master/docs/backend/snapdragon/README.md) 我有一台搭载 Snapdragon 8 Gen 3 的 Oneplus 12。我按照上面的 README 在 Ubuntu 上交叉编译 llama.cpp，然后复制到

- 可以确认在 5090 上运行正常，分配 80%（32GB 中）获得约 50k 上下文。 - 大小为 18.8GB | 基准测试 | 基线（全精度） | NVFP4 | | --- | --- | --- | | GPQA Diamond | 80.30% | 79.90% | | AIME 2025 | 88.95% | 90.00% | | MMLU Pro | 85.00% | 84.80% | | LiveCodeBench (pass@1) |

所以我正在税务会计中使用这个模型。有一台很烂的 Ryzen 9 7940HS（8C/16T），60 GB RAM，Radeon 780M iGPU，1 TB Kingston NVMe，Win 11 Pro。 它很慢但长话短说很准确。它从 PDF 税务表和其他 Excel 表格创建 Excel 文件。这很有趣，因为 Claude 也做同样的事情

大家好。我一直在阅读这个子版块很久，试图弄清楚这个 harness 到底是什么。 人们在这里最常用的词是『Pi Harness』，但我不确定它到底是什么。我想很多刚接触本地大模型的人都有这个问题。 对于那些使用这

Gemma 在本地大模型游戏开发比赛中击败了 Qwen！ 设备：MacBook Pro M5 Max，64GB RAM Qwen 3.6 27B：32 tokens/秒 · 18分04秒 · 33,946 tokens。 Gemma 4 31B：27 tokens/秒 · 3分51秒 · 6,209 tokens。 那么更重要的是什么：每秒生成多少 tokens，还是最终答案的质量？ Qwen 制作了一个

我投入了相当多的时间，这并不容易，但最终我可以绕过 Vulkan，同时使用 Cuda+ROCm 运行像 Minimax 2.7 Q4 这样的模型。 load_tensors：已将 63/63 层卸载到 GPU load_tensors：CUDA0 模型缓冲区大小 = 83650.42 MiB load_tensors：CUDA_Host 模型缓冲区

[32 MI50 32GB 搭建](https://preview.redd.it/8186petvjeyg1.jpg?width=600&format=pjpg&auto=webp&s=ad67f085d0a1df0a207f4750ed688958378cf178) **moonshotai/Kimi-K2.6 int4 @ 9.7 tok/s**（输出 136 tok）和 **263 tok/s**（输入 14564 tok），运行于 **vllm-gfx906-mobydick** **Github 链接

我一直在处理 Qwen3.6 27B 的长上下文失败问题，偶然发现了 [hipfire](https://github.com/Kaden-Schutt/hipfire)。花了一个晚上将其容器化，这样它就可以在不触碰任何东西的情况下与现有的 llamacpp 堆栈一起运行。 在 7900 XTX 上运行 Qwen3.6 27B MQ4。TriAttention 侧边容器和

这个模型目前似乎完全无法使用。我不建议下载或使用它，除非你打算帮助排查问题。这不是转换过程的问题，而是模型本身的问题。 我将 Mistral medium 3.5 128B 转换为 MLX 4bit 格式。用于投机解码的 Eagle 模型是

这是我们之前关于在单张 RTX 3090（~125K 上下文，更高 TPS）上运行 Qwen3.6-27B 的帖子[后续](https://www.reddit.com/r/LocalLLaMA/comments/1stjx29/an_overnight_stack_for_qwen3627b_85_tps_125k/)。 我们在上下文长度和工具代理工作负载的稳定性方面进一步推进

我想看看我能将多少编码代理工作流迁移到本地，而不是永远为托管工具付费。 还有另一个推动因素：Anthropic 自己的 [4月23日事故回顾](https://www.anthropic.com/engineering/april-23-postmortem) 确认了 3月/4月期间产品层的回归。随着

有没有被低估或被忽视的模型？ 顺便说一句，MiniMax-M2.7 更改了许可证（从 MIT 改为非商业用途），所以没有出现在图中。 ^(PS：我花了30分钟收集这些模型并生成这张图)

两名政府官员因 AI 政策丑闻被停职 The Witness | Your compass in the community

不知道日期是否已经公布，但这是刚刚在AMD AI开发日上说的。价格尚未公布，但根据演讲前面的电源接口，我认为它是联想制造的。 编辑：他们桌上有一台机器，我刚和工程师确认过，它只是一个128GB的395，没有

所以... mistralai 在 Mistral 3.5 Medium 的模型卡中报告了一些有希望的基准测试分数，但没有我通常最关心的那个，即 TerminalBench 2.0。所以...由于我非常好奇新的 Mistral 如何处理代理相关的事情，我决定进行基准测试

你们认为这是什么模型？ 我用中国问题测试了它，它拒绝回答。所以绝对是一个中国模型。 拥有 100 万上下文

Qwen 3.6 27B 和 Qwen 3.6 35B 是否基本上让大多数旧的 ~30B 模型变得无关紧要？ 它们似乎击败了像 Qwen coder 30B、GPT OSS 20B、Gemma 模型这样的竞品，尤其是在编码和代理工作流方面。 在这个阶段，我真的找不到保留旧模型的理由。 还有人

我开始对是否可以将程序'编译'到 Transformer 权重中而不是训练它们产生了兴趣。我已经在这个项目上工作了几个月，但最终决定停下来写下来，所以这是一篇比较长的文章，但也许你们中的一些人会感兴趣。 基本上

https://preview.redd.it/47r9qee44cyg1.png?width=1450&format=png&auto=webp&s=0d6f9687115be6ff96d0a194d95232ac0413a7e9 DeepSeek 与北京大学和清华大学合作，发布了论文『Thinking with Visual Primitives』及其开源仓库，

如果把近几年计算机视觉的发展放在一个更长的时间尺度上去看，会发现整个领域其实一直在沿着一条非常明确但也非常受限的路径前进： 研究者不断把模型做得更大，把训练数据堆得更多，把单项benchmark指标推得更高，于是无论是分割、重建还是生成，模型在标准任务上的表现都在持续逼近'看起来已经足够强'的状态。 但如果把视角拉回到CVPR 2026前后这一批最新工作，会发现一个更值得警惕的变化正在发生：研究的重心，正在悄悄从'把答案做对'，转向'在不完美条件下依然能够持续理解世界'。 也就是说，这一轮进展不再只是精度层面的线性推进，而更像是对视觉系统基本工作方式的一次系统性松动。 问题在于，这种'强'，往往建立在一个并不真实的假设之上——默认输入信息是充分的、任务定义是清晰的、交互过程是单轮的、

大家好！ 我最近用俄语写了一篇文章，分享了我在困难任务上比较 Qwen-3.6-27B 与较低层级云模型的经验 —— 我想分享这篇帖子的翻译，因为我发现结果既有趣又令人惊讶。这可能违反规则 3，因为这是对 LLM 的评估

在过去两年的大模型工业化进程中，安全审计始终遵循着一套'猫鼠游戏'的默认设定：开发者微调模型以增强能力，而安全专家则通过红队测试或白盒探测来寻找潜在的'后门'或'偏见'。这套逻辑的前提是：模型是一个被动的受访者，它的行为必须由外部观测者通过穷举输入或数学解构来'审判'。 然而，当OpenAI、Anthropic、Meta等公司全面开放微调API后，微调带来的不可检测行为成为了最严峻的安全挑战之一。 过去我们审计模型，始终沿着一条低效的路径：通过外部输入去'探测'模型。 黑盒测试就像在干草堆里找针，覆盖率极低； 白盒分析试图解码数千亿参数的神经元，计算成本高得离谱且准确率有限； 直接询问则完全失效，因为经过对抗训练的模型会系统性撒谎。 2024

我觉得我要疯了。我看到这里的人在 3090 上用 Qwen 3.6 27B 达到 30-100+ tok/s（100+ 是使用投机解码）。我试图复现这个结果，但我的性能数据远没有达到那个水平。 我尝试了 llama.cpp 配合 Unsloth 的 Q4XL 和 Q4_K_M GGUF。在那上面我得到了 li

'如果说谁是下一个DeepSeek，我认为是盛大。' 一位接近代季峰的资深业者向雷峰网笃定地预测，不过这是半年前。DeepSeek的成功，被业界总结为三个条件：不以短期商业化为目的、拥有一群极致纯粹的人、以及深不见底的钱袋子。 在大厂受困于KPI压力、明星创业公司挣扎于融资周期的背景下，手握千亿现金、对资本投入近乎'无感'盛大创始人陈天桥，恰恰满足了全部条件。 更何况，他找到了计算机视觉领域的泰斗级人物代季峰。 2025年8月，陈天桥创立的MiroMind正式亮相，他与代季峰强强联手的团队阵容，瞬间成为全球AGI赛道的焦点。短短数月，团队便推出了全栈开源深度研究系统MiroMind ODR，在公认的高难度基准测试GAIA验证集中，超越了同期的O

4月29日，美团官方公众号披露了面向实体商家的AI工具矩阵最新进展。美团'AI小管家'不断迭代升级，核心功能已服务超180万实体商家，具备选址分析、经营数据洞察、智能客服应答、门店视觉设计等能力，并支持方言识别及无障碍语音交互。 目前，美团'AI小管家'已开展一系列服务商家的实践——选址开店方面，'袋鼠参谋'累计生成32万份选址报告，选址准确率达87%；经营服务方面，'智能掌柜'每周服务近10万商家主动提问，累计解决660万个经营问题；口碑管理方面，大众点评AI全年拦截异常评价近405万条；服务零售'AI数字员工'已覆盖200余种行业，提供客服、店长、运营、排班四岗位全天候在线服务。 美团表示，将依据不同类型商家的经营痛点提供服务：面向中小商家开放核心功能，主要解决人手不够和信息不足问题；面

Qwen 团队发布了 **Qwen-Scope** —— 一套针对 Qwen 3.5 系列（从 2B 到 35B MoE）的稀疏自编码器（SAEs）。他们映射了所有层残差流的内部特征。 **这到底是什么？** 可以把它看作模型内部概念的字典。与其

'现在，和Skill协作成了我们的日常工作，但公司里也没见谁'被Skill替代'而被裁呀。'一家跨境电商的运营赵磊向雷峰网吐槽道，语气里有点无奈，又藏着点庆幸。 在他看来，前段时间网上热议的'蒸馏同事'、'Skill替代打工人'更像是AI浪潮冲过来时，引发的下意识恐慌，但大家慌过之后发现：Skill不仅没让我变得清闲、无事可干，反而让我天天加班…… '只是靴子没有落地罢了。'程序员刘雨有着不同的看法，'把工作技能Skill化对不同岗位的冲击是不一样的，自然大家感受到的危机程度也不同。要说现在最悬的，可能就是我们程序员和运营。' 那么，事实的真相究竟是什么？喧嚣过后，冷静下来，我们有必要探究一下：'蒸馏打工人'是一件新鲜事吗？'Skill化'在无差别扫射所有人吗？面对层出不穷的AI工具和'AI

美东时间4月22日，特斯拉2026年第一季度财报电话会议。 这本该是一场展示肌肉的庆功宴，结果却开成了'认错大会'。 当分析师把话筒怼到嘴边，追问那个被问了无数遍的问题——'无监督FSD到底什么时候能给普通车主用'时，那个曾经放话'两年内实现L5'的男人，这次居然怂了。 马斯克的原话是：'我只是在猜测，但可能是在第四季度。'（原文：'I'm just guessing here, but probably in the fourth quarter.'） 注意那个词——'猜测'。 这不是那个自信爆棚的'硅谷钢铁侠'，这是一个被逼到墙角、不得不吐出实情的商人。 更炸裂的还在后面，他补了一刀，直接给全球400万HW3车主判了'死刑'：'HW3确实没有能力实现无监督全自

4月20日，SpaceX尘封已久的S-1 IPO招股书正式对外披露。 这家瞄准1.75万亿美元超高估值，计划募资750亿美元冲击史上最大IPO的公司，眼下格外引人注目。要知道，现在美股市场整体难称得上景气，SpaceX自己还在持续大额亏损，却敢逆势冲纳斯达克，这份底气，难免让人好奇背后到底藏着什么。 这份招股书，不只是SpaceX24年经营的全景答卷，更是马斯克太空野心、业务博弈与资本玩法的完整说明书。接下来，我们短平快拆解文件里暗藏的几大核心真相，一文看懂这场史上最大太空IPO。 01、星链和猎鹰9号是赚钱发动机，AI、星舰持续烧钱 招股书首次公开2025全年未经审计财报，从财报来看，其业务盈利分化堪称极端，'天上赚钱、地上烧钱'的冰火两极格局一目

4月22日清晨，SpaceX的一��公告直接把硅谷的程序员们整不会了。 公告显示：SpaceX获得了一项期权，今年晚些时候将以600亿美元收购AI编程工具Cursor的母公司Anysphere；或者，作为替代支付100亿美元用于双方的AI合作。 消息一出，全球科技圈和社区直接炸锅。 要知道，就在两个月前，马斯克刚把SpaceX和xAI攒到一起，合并估值干到了1.25万亿美元。现在IPO窗口就在眼前，他又搞出这么个'600亿天价期权'+'100亿分手费'的霸气条款。 这哪里是做生意，分明就是在给华尔街写剧本。 下面咱们把这层窗户纸捅破，看看马斯克葫芦里到底卖的什么药。 01、600亿买'铲子'：战略卡位，还是IPO注水？ 不管什么星辰大海太空蓝图了，咱们先算笔账。 要知道，在2025年1月，C

01、裁员背后的残酷逻辑：AI效率革命与资本算计 'AI带来的效率提升十分明显，原本需三天完成的任务如今半天即可完成；新人进组后，原本前三个月难以开展工作，现在一周就能上手。'前Meta技术总监Gen对雷峰网时如此描述。 但效率提升的背后，是扎克伯格冷酷的资本算计。2026年，Meta预计资本支出将在1150亿至1350亿美元之间，几乎是2025年720亿美元的两倍，主要用于AI基础设施建设。这笔巨资投入需要削减人力成本来平衡。 更深层的原因在于，Meta正面临多重危机： 广告业务下滑：Insider Intelligence数据显示，Meta和谷歌在美国广告收入份额从2021年的50.5%降至2022年的49.5%，预计2024年将进一步降至43.9%。 TikTok强势竞争：TikTok

2026年的硅谷，理想主义正在资本的炙烤下发出焦糊味。 不久前，OpenAI功臣、Sora项目灵魂人物、DiT架构发明人比尔・皮布尔斯（Bill Peebles）正式官宣离职。 这绝非一起简单的核心人才流失——在商业世界里，这好比登月计划临近点火，总工程师却愤然离场。皮布尔斯的出走，撕开了OpenAI'科技圣殿'的华丽外衣，暴露出其内部资本意志与科研理想的激烈对冲。 下面，本文将深度拆解这场撼动AI视频赛道格局的离职事件，还原其背后的商业逻辑。 01、IPO '逼疯' OpenAI，Sora 被活活 '断粮' 皮布尔斯离职的首要核心原因，是 OpenAI 冲刺千亿估值 IPO，引发公司战略彻底商业化变质。 在皮布尔斯这样的顶尖科学家眼中，Sora 从来不是一款普通的视频生成工具，而是探索

'一位新人将接任我心中这份世上最好的工作。' 2026 年 4 月 21 日，北京凌晨。 苹果官宣：蒂姆・库克将于 9 月 1 日卸任 CEO，转任执行董事长，硬件工程高级副总裁约翰・特努斯接棒。 消息一出，苹果盘后股价一度下跌超过 1.5%。 01 乔布斯的遗嘱，'紧箍咒'与'免死牌' 15 年前，帕洛阿尔托的阳光透过落地窗，洒在乔布斯消瘦的脸上。他把库克请到家里，平静地说：'我将向董事会推荐你接任 CEO。永远不要问 ' 乔布斯会怎么做 '，你只需去做正确的事。' 这句嘱托，成了库克 15 年 CEO 生涯的 '紧箍咒'，也成了他的 '免死金牌'。 他确实没问过，也做了很多 正确的事—— 把 iPhone 从奢侈品变成全球标配，让 Apple Watch 成为智能穿戴的代名词，用 A

设置： temperature=0.6, top_p=0.95, top_k=20, min_p=0.0, presence_penalty=0.0, repetition_penalty=1.0 提示词： - 创作鹈鹕骑自行车的 SVG 图像 - 创作水豚穿和服喝抹茶的 SVG 图像 - 创作火烈鸟编织彩色 s

4月27日至30日，全球科技核心腹地硅谷迎来一场关于全球未来10年科技发展浪潮的前沿讨论——DREAME NEXT追觅硅谷发布会于美国旧金山艺术宫举行，自动驾驶之父，Google X创始人Sebastian Thrun、 苹果联合创始人Steve Wozniak、微软前全球AI战略负责人William Fong、美国科技未来学家Robert Scoble、Sundial创始人，Meta前产品设计副总裁Julie Zhuo、前Blockbuster CEO James W. Keyes等巨头也莅临现场，与追觅一起，展望人类科技的下一个十年。本次发布会集结智能汽车、智能家电、个人终端、精致个护等品类矩阵，集中发布核心技术突破与生态创新成果。 作为重点亮相产品之一，追觅AI智能戒指于美国时间29

随着AI智能体迈向规模化生产，安全治理正成为企业数字化转型的核心命题。近日，IDC全新发布的《2026中国智能体威胁检测技术评估》报告中，阿里云凭借资产管理、态势感知、数据合规与技术创新等综合优势，从20余家参评厂商中脱颖而出，成为总分最高、满分项最多、综合实力最强的厂商。同时，阿里云Agent安全中心产品斩获4项满分，并在漏洞检测、运行时检测、MCP安全检测三大维度表现优异，印证了其在AI安全领域的技术领导地位。 （图：数据来源：IDC《中国智能体威胁检测技术评估，2026》 此次评估聚焦智能体在企业环境中引发的数据泄露、违规操作及业务中断等风险，重点考察厂商对智能体全生命周期的威胁检测与治理能力。阿里云能在七大维度取得优异成绩，核心在于摒弃传统单点防御思路，构建了基于'Agent原生安

[https://openai.com/index/where-the-goblins-came-from/](https://openai.com/index/where-the-goblins-came-from/) OpenAI 实际上发布了一些好东西。

在拉斯维加斯Google Cloud Next大会，谷歌高级副总裁Amin Vahdat掏出的不是一枚芯片，而是两枚：TPU 8t与TPU 8i。 这是谷歌TPU家族史上第一次明确'分家'：一枚专攻训练，一枚专注推理。 '随着AI智能体的兴起，我们认为社区将受益于分别针对训练和服务需求进行优化的芯片。'Amin Vahdat在官方博客中写道。 谷歌率先释放了一个明确信号，过去那个只要抱紧英伟达大腿、靠'万能芯片'的草莽时代翻篇，正式进入了像流水线车间一样'精细化分工'的时代。 而这场'分家'的核心焦点，正是那枚为'奔跑'而生的TPU 8i，以及它背后那个即将喷涌的'Agentic AI'时代。 TPU为什么要分家 为什么谷歌非要把芯片一分为二？答案很简单：效率。 训练和推理看似都是AI

AI 生产力元年的第一个劳动节，职场正经历‘K 型裂变’ 中华网

《2026 人力资源管理趋势报告》发布 新质产业技术人才很吃香 中国吉林网

对话中智咨询周晶、张月强：央国企 AI 转型，最难的不是技术是‘人’ 新浪财经

乘风聚力、出海远航！市南·HR 俱乐部企业出海专题活动成功举办 凤凰网