全部动态 · 第 7 页
2026-10-23
三台消费级机器、9 个模型配置、四个维度的横向对照(自有设备自测):GLM-4.7-Flash 20 GB 在 128K 上下文 130.0 tok/s;Flash-Next 93.7 GB 撑到 256K 仍有 62.3 tok/s;今天刚跑到的 134.1 GB Q5_K_M 靠 90 GiB 常驻预算稳在 43–45 tok/s;27B Dense 短提示 68.7 但 60K 掉到 51.1。快慢主要由量化方式与常驻预算决定,不是参数量;口径互不相同,不可横向排名。
阅读全文 →
2026-10-23
自有设备自测记录:i7-14700F + 单张 RX 7900 XTX 24 GB、125.6 GiB 内存,把 93.7 GB 的 Qwen3.8-Flash-Next(UD-IQ4_XS,MoE)跑到 262,144 上下文,1k→256k 解码稳定 62–76 tok/s;MMLU-Pro 200 题 56.5%–63.5%、GSM8K 40 题 97.5%–100%、MATH-500 30 题 76.7%,15 项真实工具任务 15/15;27B Dense 短提示更快但 60k 掉到 51.1 tok/s。含 MTP +82%、Mesa 26.2.5 预填 +36% 与两条诚实边界。
阅读全文 →
2026-10-22
中国政府采购网 10-21 一天挂出两单:张家港市公安局「大模型视图分析(一期)」1399 万元(品目「服务器」,紫光汇智中标,95.53 分)、厦门市健康医疗大数据中心「人工智能医疗大模型底座与应用工程一期」1058 万元(智谱华章中标,97.50 分,11 个月上线试运行、售后≥2 年)。同日中国经济时报的报道给的是另一套账:政务智能体单席位月成本仅一两百元、省级统一谈价、市县按席位结算。整包私有化与席位订阅并行,报价单要按两条路各排一遍。
阅读全文 →
2026-10-22
深圳商报 10-21 华强北实地走访:DDR5 16G 从一年前 200 多元涨到 1300 元以上,32GB DDR5 报 2100–3800 元,DDR4 16G 从不足 200 元涨到 530–600 元;RTX 5090 从 1 月 1 日的 2.2 万元涨到 5.5 万元(年内 +150%),10 月 12 日起十天内涨 1.5 万元,5080 十天翻倍。同日集邦预估四季度 DRAM 合约价环比再涨约 20%,戴尔 CEO 称过去 12 个月内存涨近 500%、新增产能要等 2029–2030 年。对要攒机器跑本地模型的单位,这笔账要重算了。
阅读全文 →
2026-10-22
10 月 21 日蚂蚁集团与 vLLM 社区开源通用量化推理内核库 Humming:设备侧支持 NVIDIA Turing 及以后架构与 CUDA 兼容设备(点名平头哥真武 810E),一套架构覆盖整型/浮点、多位宽与多种缩放方案的权重与激活组合,dense 与 MoE 都在范围内。官方口径:DeepSeek-V4.1-Flash 的 MoE 从 Marlin W4A16 切到 Humming W4A8,端到端吞吐提升约 14%–43%、首 token 延迟下降 25%–32%,并发 64 时输出吞吐 442.37→633.94 tokens/s;vLLM 0.29.0 起 CUDA 安装默认内置。
阅读全文 →
2026-10-22
国家计算机病毒应急处理中心 10-22 通报:境内发现多起「Weaxor」勒索病毒攻击,主攻企业数据库与 OA 办公系统,文件被加密后改名(.weax、.rox、.wxx 等 7 种后缀)并留勒索信;入侵路径是弱口令或系统漏洞 + PowerShell 脚本投送。同周合规侧也在收口:广东网信公布生成式 AI 服务登记累计 108 款、API 调用已备案模型同样要登记;陕西网信三季度下架 31 款未做安全评估的 App、对 5 家主体罚款。把系统搬进内网只是起点。
阅读全文 →
2026-10-22
10 月 22 日北京科博展开展,光明网 10-21 报道:现场首展全国首个国产万卡算力底座「飞星」平台、基于全国产算力完成训练升级的讯飞星火 X2.6,以及端侧轻量化模型与「云+端」协同方案。同场的讯飞晓法·超级法律助手覆盖卷宗解析、证据审查、诉讼策略推演与文书起草,支持敏感信息脱敏、关键结论溯源与本地化安全处理,官方称已在国内部分律所试用。对政法单位,可核查的是三件事:训练算力是否全国产、推理能否分级、交付是否真本地。
阅读全文 →
2026-10-20
10 月 20 日,DeepSeek 把内部推理框架 DeepInfer 全面开源,并同步开源生产级 Token 编解码组件 deepseek-recipe。官方口径:基于 DeepInfer,DeepSeek V4.1 Flash 已实现高吞吐、低延迟的大规模推理,单集群日吞吐 155 万亿 Token、每卡每小时营收 38 美元(谷价口径)。对准备私有化的单位,这是「推理这一层」第一次拿到一个来自头部厂商、可与官方线上服务对齐的开源参考实现。
阅读全文 →
2026-10-20
10 月 19 日,阿里千问办公推出面向大型政企的私有化部署版本「敏捷版」,把 AI 能力带进企业内网。官方强调它不是把云上产品直接搬进机房,而是围绕政企真实运行环境重做部署、管控、安全、集成与持续服务——五重租户隔离、全链路加密、国密算法、ISO 27001/27701 与等保 2.0 三级齐备。对正在评估「私有化 AI 办公」的单位,这是一家头部厂商给出的完整合规定义。
阅读全文 →
2026-10-20
10 月 20 日,中电信人工智能科技有限公司星辰通用人工智能实验室发布并开源意图理解专用模型 Xing4.0-29B-Intent,同步开放 275 万条训练语料、模型权重与推理镜像。它把「意图识别」和「参数抽取」合到一起,把用户一句话转成业务系统可直接处理的结构化信息,响应做到百毫秒级。
阅读全文 →
第 7 / 13 页 · 共 127 条 · 每页 10 条
本板块持续收录与「数据安全、私有化部署、国产化」密切相关的重大公开事件及机悟的合规解读,只陈述公开事实与来源。如需转载或引用,请与我们联系。第三方统计类数字均为方向性估算,来源与口径随文标注。