AI 日报

在 LLaMA.cpp 上用 TurboQuant 实现了 QWEN 的多令牌预测。 \+40% 性能提升！90% 接受率。 在配备 64GB RAM 的 MacBook Pro M5 Max 上本地运行。 输出： LLaMA.cpp + TurboQuant: 21 tokens/s LLaMA.cpp + TurboQuant + MTP: 34 tokens/s 用 MTP 和 Turbo 打补丁了 LLaMA.cpp

我知道这个模型不是开源权重，发布时也会通过 API，但我发帖只是为了说，一旦发布的那一刻，你知道我会和其他很多人一样，从 API 创建海量的蒸馏数据。 因为至少对我来说

RIT Launches New Major in Artificial Intelligence  Rochester Institute of Technology

终于感觉可行了。我在 llama.cpp 上有一个自定义构建（氛围编码）UI，允许在同一聊天中切换模型。所以我想让 Gemma4 31B Q4、Gemma4 26B Q5、Qwen3.6 27B Q5、Qwen3.6 35B Q4 一起玩 ONO。 必须关闭 Qwen 的思考功能，否则它们会思考出

我刚组装了一台 4x 3090 的机器（致谢 3090-club）并成功运行了 Qwen3.6 27B，我正试图让家里的人采用本地工作流程。 Open WebUI 在最近的更新中改进了很多，但我仍然觉得对非技术人员来说有点粗糙。它感觉更像是一个开发工具而非

相同的 SFT 配方（SlimOrca 50K，LoRA r=16，1 epoch）。从零训练了三个模型，参数规模分别为 1B、2B 和 3B。SFT 前后的 IFEval 对比： |模型|基础|SFT 后|变化| |:-|:-|:-|:-| |1B|20.50|14.75|**-5.75**| |2B|21.94|17.03|**-4.91**| |3B|23.14|25.18|**+2.04**| 好吧，SFT 本应教

我在两张 5060TI 16GB（总共 32GB 显存，我还有 32GB DRAM 但我不喜欢卸载）上运行了 Qwen 3.6 35b A3B，我在 LM Studio 上使用 Q4 并获得完整上下文，我得到 90t/s，有什么技巧可以进一步优化以升级到 Q6 或 Q8 吗？ 谢谢！ 另外如果你推荐一些散热方案，因为我

我震惊了。前几天看到有人发了一个关于 club-3090 的帖子，在让 sonnet 修复了一些问题后，特别是 sse-session 丢包 bug 和 tool-calling bug，可以肯定地说，像我这样的'预算'配置很快也将有一条仅本地 AI 的道路。 参考

我在一台 200 美元的二手机器（i7-6700 / GTX 1080 / 32GB RAM）上成功运行了 **Qwen 3.6 35B-A3B** 和 **Gemma 4 26B-A4B**，使用 llama.cpp（TurboQuant/RotorQuant KV 缓存量化的支持使得 8GB 显存内可以运行 128k 上下文）。 **结果（Q4_K_M 模型，128k 上下文）：** |模型|tok/s|关键标志|

​ 我为处理比我 9070xt 更大的上下文而构建的一些小玩意。 8700k，双 P100，16gb DDR4，32gb Optane，三星 SATA SSD。没什么特别的。 其他人最近有组装新机器吗？效果如何？

**TL;DR** 标题中的结果是针对 1k 和 15k token 的 2 个提示词的单次推理。 因此没有 MTP（因为对大提示词来说更慢），没有 DFlash（也能用但对大提示词更慢），没有使用量化（需要全精度），这对于一张 2018 年的显卡来说结果相当不错。（基准测试已完成）

Anthropic 的首个开源权重模型，Natural Language Autoencoders，只是热门开源权重模型的微调版本。它们不修改架构和建模代码，因此用 llama.cpp 进行推理基本上很简单。 我打包了

Notable Researchers Join $4 Billion Effort to Build Self-Improving A.I.  The New York Times

截图推文： [https://xcancel.com/ErnieforDevs/status/2049516018557706650#m](https://xcancel.com/ErnieforDevs/status/2049516018557706650#m) [https://xcancel.com/Baidu_Inc/status/2049682555809788282#m](https://xcancel.com/Baidu_Inc/status/2049682555809788282#m) **百度 Create 2026**：

最富有表现力的语音模型。 Github：[https://github.com/resemble-ai/DramaBox](https://github.com/resemble-ai/DramaBox) HF 模型：[https://huggingface.co/ResembleAI/Dramabox](https://huggingface.co/ResembleAI/Dramabox) HF Space：[https://huggingface.co/spaces/ResembleAI/Dramabox](https://hugg

>**SenseNova-U1：用 NEO-unify 架构统一多模态理解和生成** 🚀 **SenseNova U1** 是新的原生多模态模型系列，在单一架构内统一了多模态理解、推理和生成。它标志着基础范式的

'Yes, AI chef!': A recipe for insuring physical artificial intelligence  Reuters

这是上一篇帖子的后续：https://www.reddit.com/r/LocalLLaMA/comments/1t5ageq/ MTP 拉取请求和 llama.cpp 主分支有许多改进，例如图像支持和各种错误修复。我最近在本地机器上进行了新构建，但保持指南更新

大家好， 我对我的项目做了很多更新，想在这里分享一下。 TextGen（前身为 text-generation-webui，也称为我的用户名 oobabooga 或 ooba）自 2022 年 12 月以来一直在开发，早于 LLaMa 和 llama.cpp 的存在。 在过去的两个月里，该项目

This $13 Nvidia-Backed Artificial Intelligence (AI) Stock Just Partnered with Anduril. Here's What Investors Need to Know.  The Motley Fool

我们推出了 **Ovis2.6-80B-A3B**，这是 Ovis 系列多模态大语言模型（MLLM）的最新进展。在 Ovis2.5 的坚实基础之上，Ovis2.6 将 LLM 主干升级为 **专家混合** 架构，以更小的规模提供卓越的多模态性能

雷峰网讯 2026年5月13日，香港, 聚焦AI纳米递送创新的科技生物公司剂泰科技（7666.HK）今日在港交所成功挂牌上市，成为全球AI药物递送第一股，也是港股AI大分子生物制药第一股。以制药界Space X为目标，剂泰科技创业6年，成为国内AI制药行业中完成IPO里程碑用时最短的独角兽公司。 剂泰科技本次IPO由富瑞金融集团、德意志证券亚洲和中信证券（香港）担任联席保荐人，全球发行201,229,000股H股，募集资金规模超21亿港元，创下2026年迄今港股医疗健康IPO募资之最。公司在香港公开发售录得超6,900倍超额认购，锁定认购资金逾7,300亿港元，为2026年迄今港股医疗健康IPO香港公开发售认购金额之最；国际配售方面，获得超过280个机构投资人下单，录得可分配额度82倍的

5月13日，联发科技在天玑开发者大会MDDC 2026上发布了天玑AI开发套件3.0，并展示了将阶跃星辰ACE-Step 音乐模型通过端侧可视化部署到天玑9500平台上，大幅度提升了模型及算法的移植效率。基于此，手机、汽车等终端领域品牌方，可以通过天玑AI开发套件，在天玑平台上快速为消费者打造极致的音乐生成产品体验。 据介绍，大模型端侧部署长期面临模型体积大、功耗高、移植周期长等工程挑战。联发科技携手阶跃，通过天玑AI开发套件 3.0，实现了ACE-Step音乐模型在端侧的可视化部署。相较于传统 SDK，模型移植速度提升 50%，算法端侧移植效率提升 10 倍；相同质量下模型压缩率提升 58%；借助NPU 高能效特性，功耗降低 42%，有效降低设备运行时的发热与电量消耗。 ACE-St

5月13日，在Create 2026百度AI开发者大会上，度小满发布了面向AI Skill开发者的支付解决方案度小满ClawPay。该产品将计费、下单、支付唤起等能力封装为标准化技术服务，帮助开发者零代码完成支付模块嵌入，打通从技术开发到商业变现的最后一公里。 过去两年，AI应用生态经历爆发式增长。以OpenClaw为代表的开放平台涌现了大量Skill，但开发者想为自己的Skill 收费时，却发现一个难题：如何找到合适的支付通道？ 当前，接入支付通道，Skill开发者需要解决两个问题：一个是需要自行编写下单逻辑、搭建计费引擎、对接支付接口，这对于以AI算法为核心能力的团队而言，是一项与主业无关的沉重工程负担。另一方面，微信支付、支付宝等主流方式各有独立技术规范和合规要求，开发者若自

5月13日，阿里巴巴集团发布最新季度业绩。截至2026年3月31日止季度，阿里云收入同比增长38%至416.26亿元，剔除阿里巴巴并表业务后的外部商业化收入增速进一步加速至40%，创下近年新高。其中，AI相关产品收入达89.71亿元，连续第11个季度实现三位数同比增长，占外部收入比重首次突破30%。截至2026年3月，百炼平台的客户数量同比增长了8倍，反映出企业级市场对AI需求的加速释放。 季度内，阿里在芯片、模型、云和应用方面均有突破。芯片层面，平头哥GPU芯片已实现规模化量产，截至26年2月，已经累计规模化交付47万片。在阿里云的实际业务场景，60%以上的平头哥芯片服务于外部商业化客户，已完成规模化外部客户AI任务适配，支持了400多家企业客户的AI任务，涵盖包括互联网、金融服务、自动

4D基座世界模型的 Scaling Law 呈线性可预测提升。     作者丨齐铖湧     编辑丨马晓宁                                                                                                        据AI科技评论独家获悉，魔芯科技近日正式完成新一轮近亿元融资。本轮由富瀚微股份、联融志道（联想控股旗下基金）、浙创投联合投资，老股东跟投。叠加一个月前华为哈勃领投的Pre-A+轮，魔芯科技在近两个月内已连续拿到两轮近亿元融资。 魔芯科技的投资方目前包括，华为哈勃（算力底座）、富瀚微（核心视觉芯片）、联想控股（智能终端+产业支持）、浙创投（国资产业资本），是一个产业链

2026年5月13日，全球智能康复与机器人技术峰会（GReAT 2026）在上海张江机器人谷举行。本次大会以无界关怀：突破康复边界，走向真实应用为主题，汇聚了近百位来自全球临床康复与机器人领域的顶尖专家、行业领袖与合作伙伴，围绕机器人技术、人工智能与物联护理系统等前沿方向展开深入交流，探索康复向全周期、持续性服务转型的路径，推动前沿机器人技术走向真实应用场景。 大会期间，傅利叶分别与新加坡国立医疗集团（NHG Health）和日本顶尖研究机构名古屋大学签署战略合作协议，进一步深化全球具身康养创新合作，加速康复与机器人技术的临床转化。 其中，傅利叶与NHG Health自2021年首次建立战略合作以来，已开展多项合作。2025年9月，双方联合新加坡AI健康初创公司injewelme在SH

对于一家还没发产品的中国AI初创公司而言，这一估值，几乎没有先例。但相比林俊旸之前同台竞速的硅谷同行，不算贵。

2026年5月13日，阿里健康在杭正式发布医学AI氢离子，同时宣布氢离子与英国BMJ集团（BMJ Group）达成期刊内容独家合作。这项合作标志着阿里健康与国际顶级期刊开启合作的起点。氢离子透露，目前正与全球多家顶刊进行合作沟通。 发布会上，阿里健康表示，氢离子试图在顶级医学证据、循证医学、AI能力三个维度做好一款更可靠的医学AI助手，直连国内外顶刊的最高证据源，帮助中国医生解决医学问题。 现场嘉宾见证氢离子发布 国际顶刊首次牵手中国AI  氢离子支持顶刊全文阅读 在氢离子和BMJ集团的独家内容合作中，BMJ集团旗下70本医学期刊过往十年里发表的内容和多媒体资源 将独家授权提供给氢离子，氢离子成为BMJ集团在中国独家合作的医学AI平台。此后，中国医生可以通过氢离子直

中国市场依然是全球品牌寻求确定性增长的必争之地。数据显示，今年618前，来自全球29个国家和地区的超过600个海外新品牌，在天猫国际开出首店。 美国、韩国、日本、法国、澳大利亚是入驻新品牌数量最多的五个国家。区别于早期跨国品牌大单品、广覆盖的模式，这批海外新品牌呈现出一种新的商业逻辑：告别泛需求，瞄准具体痛点，通过细分赛道精准卡位建立壁垒。   数据显示，宠物和服饰是618前海外新品牌入驻势头最猛的两个品类，数量双双翻倍；母婴、美妆等相对成熟的进口品类，新品牌数量则保持稳健双位数增长。 进口宠物品类的爆发，增量集中在小宠健康赛道。去年618，天猫国际小宠品类成交增长超100%。拥有180年历史的美国品牌BROWN'S宝莱思，主营鸟类、鼠类、兔子等小宠健康主粮，今年一季度正式布

要闻提示 1.特朗普访华在即，随行商界大咖名单公布：马斯克、库克在列，黄仁勋虽迟但到 2.390万元起，宇树发布载人变形机甲！具备大批量生产能力 3.SK海力士中国员工奖金不到韩国人的5%，且无法做管理层 4.5000陪我一晚？沪上阿姨官号竟骚扰消费者，涉事门店：被盗号 5.拓竹发布纯净 PLA 耗材，主打极简配方和成分公开 6.腾讯收购喜马拉雅股权案获批！设五大限制性条件：不得涨价、不得独家 7.Anthropic洽谈融资300亿美元，估值超9000亿美元 8.苹果研发重心转向智能眼镜，新款Vision Pro至少要等2年 今日头条 特朗普访华在即，随行商界大咖名单公布：马斯克、库克在列，黄仁勋虽迟但到 5月13日消息，美国总统特朗普拟于5月13日至15日对中国进行国

要闻提示 1.微信状态可看访客记录冲上热搜，腾讯客服回应 2.快手计划分���可灵AI，估值超1300亿、明年IPO上市 3.宗馥莉被曝罢免销售负责人，直管营销，非生产业务将外包，内部人士称或裁员30% 4.贾跃亭重掌大权！出任FF全球CEO 5.沃尔沃汽车大中华区换帅：原总裁兼CEO袁小林卸任，段建军接任 6.原腾讯AI Lab副主任、首席科学家俞栋已加入Capital One担任副总裁 7.SpaceXAI 组建进行时，马斯克已提交商标注册申请 8.特朗普T1手机交付遥遥无期，近60万用户订金难追回 今日头条 微信状态可看访客记录冲上热搜，腾讯客服回应 5月11日晚间，#微信状态 访客记录# 话题冲上微博热搜，引发大量网友讨论。有网友发帖询问：微信状态为什

[Let's Data Science] DeepMind 为 Gemini 驱动 Googlebook Magic Pointer - Let's Data Science

无需手机、电脑、Wi-Fi、连接线或云端推理。 • 卡带启动 ROM，GBC 自身运行模型。 • 模型是 Andrej Karpathy 的 TinyStories-260K，使用定点数学转换为 INT8 权重，因此可以在没有浮点运算的情况下运行。 • 使用 GBDK-2020 作为 MBC5 Game

Adecco 集团第一季度有机营收增长 5.3% Staffing Industry Analysts

Adecco 集团 2026 年第一季度业绩 Thailand Business News

【调研快报】科锐国际接待线上参与公司 2025 年年度业绩网上说明会的全体投资者调研 东方财富

智变与出海双轮驱动：科锐国际解码 2026 汽车人才「新战局」 极客公园

一分钟看懂科锐国际 2025 年度报告 东方财富

Korn Ferry 发展人才 (OU0tJdTxZ5) fathomjournal.org

科锐国际2025年营收145.40亿元 新浪新闻_手机新浪网

智联招聘发布《2026人力资源管理趋势报告》 DoNews

投资于人 智创未来——中智咨询'十五五'央国企人才战略大会在沪圆满举办 cb.com.cn

报告：AI智能体相关人才需求同比激增455% 新浪财经