行业动态 · NEWS

行业动态 · 第 7 页

与「数据安全 · 云端可用性 · 本地化 AI」密切相关的重大公开事件,以及机悟的合规解读——只陈述事实,不预设任何厂商的法律定性。

最新更新 2026-11-02 · 共 127 条 · 第 7 / 13 页 · 持续更新

全部动态 · 第 7 页
2026-10-23

消费硬件上的本地大模型实测:最快 130 tok/s、最慢 25 tok/s

三台消费级机器、9 个模型配置、四个维度的横向对照(自有设备自测):GLM-4.7-Flash 20 GB 在 128K 上下文 130.0 tok/s;Flash-Next 93.7 GB 撑到 256K 仍有 62.3 tok/s;今天刚跑到的 134.1 GB Q5_K_M 靠 90 GiB 常驻预算稳在 43–45 tok/s;27B Dense 短提示 68.7 但 60K 掉到 51.1。快慢主要由量化方式与常驻预算决定,不是参数量;口径互不相同,不可横向排名。

阅读全文 →
2026-10-23

94 GB 的模型塞进 24 GB 消费显卡:Qwen3.8-Flash-Next 跑满 256K 上下文,15 项真实任务全过

自有设备自测记录:i7-14700F + 单张 RX 7900 XTX 24 GB、125.6 GiB 内存,把 93.7 GB 的 Qwen3.8-Flash-Next(UD-IQ4_XS,MoE)跑到 262,144 上下文,1k→256k 解码稳定 62–76 tok/s;MMLU-Pro 200 题 56.5%–63.5%、GSM8K 40 题 97.5%–100%、MATH-500 30 题 76.7%,15 项真实工具任务 15/15;27B Dense 短提示更快但 60k 掉到 51.1 tok/s。含 MTP +82%、Mesa 26.2.5 预填 +36% 与两条诚实边界。

阅读全文 →
2026-10-22

一边是 1399 万的整包,一边是月租一两百元的席位:政务 AI 采购已经分成两条路

中国政府采购网 10-21 一天挂出两单:张家港市公安局「大模型视图分析(一期)」1399 万元(品目「服务器」,紫光汇智中标,95.53 分)、厦门市健康医疗大数据中心「人工智能医疗大模型底座与应用工程一期」1058 万元(智谱华章中标,97.50 分,11 个月上线试运行、售后≥2 年)。同日中国经济时报的报道给的是另一套账:政务智能体单席位月成本仅一两百元、省级统一谈价、市县按席位结算。整包私有化与席位订阅并行,报价单要按两条路各排一遍。

阅读全文 →
2026-10-22

内存一年涨 300%、5090 年内涨 150%:本地部署的报价单,现在只能按周签

深圳商报 10-21 华强北实地走访:DDR5 16G 从一年前 200 多元涨到 1300 元以上,32GB DDR5 报 2100–3800 元,DDR4 16G 从不足 200 元涨到 530–600 元;RTX 5090 从 1 月 1 日的 2.2 万元涨到 5.5 万元(年内 +150%),10 月 12 日起十天内涨 1.5 万元,5080 十天翻倍。同日集邦预估四季度 DRAM 合约价环比再涨约 20%,戴尔 CEO 称过去 12 个月内存涨近 500%、新增产能要等 2029–2030 年。对要攒机器跑本地模型的单位,这笔账要重算了。

阅读全文 →
2026-10-22

vLLM 与蚂蚁开源量化推理内核 Humming:国产加速卡第一次进了支持列表

10 月 21 日蚂蚁集团与 vLLM 社区开源通用量化推理内核库 Humming:设备侧支持 NVIDIA Turing 及以后架构与 CUDA 兼容设备(点名平头哥真武 810E),一套架构覆盖整型/浮点、多位宽与多种缩放方案的权重与激活组合,dense 与 MoE 都在范围内。官方口径:DeepSeek-V4.1-Flash 的 MoE 从 Marlin W4A16 切到 Humming W4A8,端到端吞吐提升约 14%–43%、首 token 延迟下降 25%–32%,并发 64 时输出吞吐 442.37→633.94 tokens/s;vLLM 0.29.0 起 CUDA 安装默认内置。

阅读全文 →
2026-10-22

Weaxor 勒索专挑数据库与 OA,同日广东公布 108 款 AI 服务登记:内网与备案,两头都要交卷

国家计算机病毒应急处理中心 10-22 通报:境内发现多起「Weaxor」勒索病毒攻击,主攻企业数据库与 OA 办公系统,文件被加密后改名(.weax、.rox、.wxx 等 7 种后缀)并留勒索信;入侵路径是弱口令或系统漏洞 + PowerShell 脚本投送。同周合规侧也在收口:广东网信公布生成式 AI 服务登记累计 108 款、API 调用已备案模型同样要登记;陕西网信三季度下架 31 款未做安全评估的 App、对 5 家主体罚款。把系统搬进内网只是起点。

阅读全文 →
2026-10-22

星火 X2.6 在国产万卡底座上完成训练升级:政法最关心的不是跑分,是卷宗能不能留在本地

10 月 22 日北京科博展开展,光明网 10-21 报道:现场首展全国首个国产万卡算力底座「飞星」平台、基于全国产算力完成训练升级的讯飞星火 X2.6,以及端侧轻量化模型与「云+端」协同方案。同场的讯飞晓法·超级法律助手覆盖卷宗解析、证据审查、诉讼策略推演与文书起草,支持敏感信息脱敏、关键结论溯源与本地化安全处理,官方称已在国内部分律所试用。对政法单位,可核查的是三件事:训练算力是否全国产、推理能否分级、交付是否真本地。

阅读全文 →
2026-10-20

DeepSeek 全面开源推理框架 DeepInfer:单集群 155 万亿 Token/天、兼容英伟达与昇腾

10 月 20 日,DeepSeek 把内部推理框架 DeepInfer 全面开源,并同步开源生产级 Token 编解码组件 deepseek-recipe。官方口径:基于 DeepInfer,DeepSeek V4.1 Flash 已实现高吞吐、低延迟的大规模推理,单集群日吞吐 155 万亿 Token、每卡每小时营收 38 美元(谷价口径)。对准备私有化的单位,这是「推理这一层」第一次拿到一个来自头部厂商、可与官方线上服务对齐的开源参考实现。

阅读全文 →
2026-10-20

千问办公推出「敏捷版」:面向大型政企私有化部署,五重租户隔离 + 国密 + 等保 2.0 三级

10 月 19 日,阿里千问办公推出面向大型政企的私有化部署版本「敏捷版」,把 AI 能力带进企业内网。官方强调它不是把云上产品直接搬进机房,而是围绕政企真实运行环境重做部署、管控、安全、集成与持续服务——五重租户隔离、全链路加密、国密算法、ISO 27001/27701 与等保 2.0 三级齐备。对正在评估「私有化 AI 办公」的单位,这是一家头部厂商给出的完整合规定义。

阅读全文 →
2026-10-20

中电信星辰开源意图理解专模 Xing4.0-29B-Intent:275 万条语料 + 权重 + 镜像,百毫秒级

10 月 20 日,中电信人工智能科技有限公司星辰通用人工智能实验室发布并开源意图理解专用模型 Xing4.0-29B-Intent,同步开放 275 万条训练语料、模型权重与推理镜像。它把「意图识别」和「参数抽取」合到一起,把用户一句话转成业务系统可直接处理的结构化信息,响应做到百毫秒级。

阅读全文 →

第 7 / 13 页 · 共 127 条 · 每页 10 条

本板块持续收录与「数据安全、私有化部署、国产化」密切相关的重大公开事件及机悟的合规解读,只陈述公开事实与来源。如需转载或引用,请与我们联系。第三方统计类数字均为方向性估算,来源与口径随文标注。

看完这则动态,再问一句:您的数据现在停在哪台机器上?

把大模型部署在您自己的内网:断网可用、结论可溯源、全程可审计。一次 40 分钟免费评估,现有设备能跑什么、缺什么、费用怎么算、怎么验——白纸黑字,先 POC,效果确认再谈采购。