1. Meta FAIR×华盛顿大学论文《突破Token天花板:蒸馏出更小、更强的字节模型》:字节级蒸馏(End-Of-Token方法)预测下游平均准确率上限52.4%,比传统Token蒸馏(48.4%)高出4个百分点;学习单位从Token(Llama 3词表128256个)降到字节(256种取值),概率分布更易完整保留,Scaling潜力更好 [关联信号板#4-3蒸馏战——技术侧"蒸馏是正常技术"的最新学术注脚]
①教师Llama 3-8B,学生约12.8亿参数,字节学生总参数量(12.8亿)小于Token学生(18.1亿);②Token模型赢在前期效率、字节模型Scaling潜力更好;③训练计算量外推:End-Of-Token约6.33×10²² FLOPs时追平Token蒸馏上限后继续反超。
储备选题蒸馏技术前沿的小模型路线样本:美方学界持续把"蒸馏"作为正统压缩技术研究(与美安全机构"工业规模蒸馏窃取"指控形成"学术-政治"叙事张力,为信号板#4-3补充技术事实层)——蒸馏是AI工程化的基本功,"禁蒸馏"在技术上不可执行;字节级表示另与端侧小模型部署(本日🔥2智能体手机、APXInf端侧推理)同属"轻量化"技术族,可作技术储备观察,不建议单独成文
查看选题库 → 2. 北京中关村学院7名博士生3个月从零训练7B大模型ZGCM-1并全流程开源(数据配方/权重/代码/checkpoint/日志):调度几百个Agent分工数据、实验、评测(自研ZGent平台沉淀共享上下文与可复用Skill);通用评测与Qwen3-8B相近,部分数学/搜索评测可越级对比Qwen3-235B/GLM-5.1;团队将研发流程拆成11类任务按L1-L5自主性评级——实验监控与部署达L4(人定目标后独立规划执行),模型架构与学习算法设计仍在L2 [🤖智能体主线(AI4AI/RSI工程实证)] 📌 关联信号板#35 RSI/#54智谱完全自训练
①"loss仍在降、模型却退步"的事故定位到数据分片与shuffle环节,倒逼建立ACE原子能力评测体系(18类183项、2503个探针,一轮诊断约两三分钟);②256K上下文下局部+全局注意力混合架构较全注意力吞吐提升约3.94倍、KV Cache降至约1/6;Muon+FP8+延迟缩放较标准BF16/AdamW基线效率提升约4.2倍。
储备选题智能体主线——迄今最透明的"AI4AI"工程实证,三个可提炼点:①"7人+几百Agent=大厂几百人团队"的组织杠杆数据点,验证智能体重塑研发分工(与09-16🔥3"OPC一人公司"同一趋势的科研版);②L1-L5自主性评级是"RSI现状"首个来自完整训练实践的分级结论——实验监控部署(L4)与架构算法设计(L2)的差距,为"AI训练AI"能力边界提供工程标尺(可平移到智能体测评分级方法,业务关联点到为止);③"loss下降但能力退步"案例是训练数据质量监测(数据配比漂移检测)的标准教学案例,高质量数据集治理(用户第六业务方向)的现实注脚
查看选题库 → 3. 无问芯穹联合清华、上交开源具身智能端侧推理引擎APXInf:Pi 0.5 FP8在Jetson Thor上端到端推理延迟从278ms降至26ms以内、推理频率38.46Hz(10.7倍延迟优化),支持RTX 4090/Jetson Orin/Thor;Rust极简运行时+Python接口,定位"Agentic Native"推理系统 [🤖智能体主线(具身智能端侧落地)] 📌 关联信号板#48具身智能规模化部署
①定位具身智能"从POC到规模化落地的最后一公里"——云端模型上机器人本体首要问题不是模型能力而是推理系统(秒加载/榨干算力/低延迟/不翻车);②衔接其2025年9月开源的RLinf具身RL训练框架,形成"训练-评测-端侧部署"完整开源生态;③新模型接入采用Agentic Engineering快速适配,将开放给开发者。
储备选题智能体主线——具身智能竞争从"模型层"(VLA大模型)向"端侧推理层"下移的信号:①"云端跑得好≠本体跑得动"是具身规模化的真实瓶颈清单(延迟/功耗/稳定性/接入成本),APXInf以开源方式卡位端侧推理标准入口(对照西门子VDA5050开放接口,09-17📦4——基础设施层开源是生态卡位通行打法);②"26ms/38Hz"达到实时控制要求(机器人控制通常需≥20Hz),具身模型"可用频率"从Demo级到控制级的技术门槛被打开;③注意来源为企业供槁,性能数据为企业披露口径
查看选题库 → 4. 我国成功发射卫星互联网低轨25组卫星:9月17日8时32分海南商业航天发射场长征十二号运载火箭执行,海南商发第22次发射、二号工位第9次发射 [📡卫星互联网主线] 📌 续报(详见信号板#2——国网低轨星座常态化组网+海南商发高频发射的常规增量) 📌 续报 🔍 我方相关
央视新闻报道,卫星顺利进入预定轨道,发射任务圆满成功;低轨25组与此前24组、22组等构成卫星互联网低轨星座常态化发射序列。
储备选题卫星互联网主线——单次发射不单独成文,但两个跟踪点值得记录:①海南商发22次发射(2024年11月首飞以来不足两年)标志商业发射场进入高频运营状态,"星座批量组网×发射场供给"双提速;②国网星座(卫星互联网低轨组)与千帆星座(9-16引力一号遥三)双星座并行组网,垣信行业二级节点合作(用户单位业务)的组网背景持续加密;与9-15北京6G空天地实验室(星地融合标准化)可串联为"天地一体"储备线
查看选题库 →