════ 2026.07.12 ════
今日要点
详细内容
ENTRY 001/019
[ LLM · CODING · AGENT · 推理 · 平台发布 ]
Grok 4.5:面向 coding 与 agentic work 的高吞吐旗舰模型
(Introducing Grok 4.5)
SpaceXAI 发布 Grok 4.5,面向 coding、agentic tasks 和 knowledge work,服务速度为 80 TPS,API 价格为每百万 token $2 input、$6 output。官方报告其在 SWE Marathon 达到 29.0% resolution rate,并以平均 15,954 output tokens 完成 SWE-Bench Pro 任务,约为 Opus 4.8 max 的四分之一。
Grok 4.5 的主要信号是把模型能力、生成速度和 token 效率放在同一条工程曲线上。其 RL 覆盖数十万项多步软件工程任务,agent rollout 可持续数小时;与 Cursor 联合训练也意味着训练分布更贴近真实 coding harness,而不是只优化单轮代码补全。
对开发者来说,$2/$6 的价格和 80 TPS 使它成为需要大量 tool calls 的 agent workflow 候选,但 benchmark 并非全面领先:官方数据中 DeepSWE 1.1 和 SWE-Bench Pro 仍低于 Fable 5。合理的选型重点应是固定任务集上的完成成本、步骤数和失败恢复能力,而不是只看单一榜单。
ENTRY 002/019
[ LLM · AGENT · MULTIMODAL · COMPUTERUSE · API ]
Muse Spark 1.1:1M context 的 multimodal agent API
(Introducing Muse Spark 1.1)
Meta 发布 Muse Spark 1.1,并首次通过 public preview 的 Meta Model API 向开发者开放。模型支持 1M context、multimodal input、parallel tool calling、context compaction、computer use 和 subagent delegation,价格为每百万 token $1.25 input、$4.25 output。
Muse Spark 1.1 的关键不是单纯扩大 context window,而是让模型主动管理 1M context:在长任务中压缩历史,同时保留后续决策需要的动作和信息。Computer use 训练也不局限于逐点击操作,模型会在脚本自动化与直接 UI 操作之间选择,并一次生成一批动作。
新 Meta Model API 采用 OpenAI-compatible 形态,降低现有 agent stack 的迁移成本。模型支持 planning、goal conditioning、subagent delegation 和 context compaction,说明 Meta 的目标是进入 coding harness 与长时运行 agent 的基础模型层,而不只是为 Meta AI app 提供 thinking mode。
ENTRY 003/019
[ LLM · AGENT · TOOLUSE · API · 平台发布 ]
🔄 进展更新:GPT-5.6 GA 增加 Responses API 编排能力
(Introducing the GPT-5.6 model family)
GPT-5.6 已从限量预览和发布预告进入 ChatGPT、Codex 与 OpenAI API 的 GA rollout。除 Sol、Terra、Luna 三档模型外,API 新增 Programmatic Tool Calling、显式 prompt caching、persisted reasoning、max reasoning effort、Pro mode,以及 Responses API 的 beta multi-agent orchestration。
这是 7 月 6 日和 7 月 9 日既有报道的实质更新:公开可用性之外,官方 release notes 明确了开发者可调用的运行时能力。gpt-5.6 alias 默认路由到 Sol,原始尺寸图像输入、persisted reasoning 和 caching controls 会直接影响多轮 agent 的状态保持、成本核算与视觉任务保真度。
Programmatic Tool Calling 与 multi-agent orchestration 把一部分原本由应用层 harness 实现的编排下沉到 Responses API。团队升级时应分别测量模型能力增益与平台编排增益,避免把 subagent 数量增加带来的 token 成本误判为单模型质量提升。
ENTRY 004/019
[ IMAGEGENERATION · VIDEOGENERATION · AGENT · TOOLUSE · MULTIMODAL ]
Muse Image 与 Muse Video:把 tool use 和 test-time scaling 引入媒体生成
(Introducing Muse Image and Muse Video)
Muse Image 可调用 search 与 code execution,以真实资料、绘图代码和 QR code 渲染结果辅助生成,并通过多轮 self-refinement 扩展 test-time compute。Muse Video 共用预训练基础并原生支持音频,目前处于 preview;Meta 同时引入可抵抗裁剪、压缩、缩放和截图的 Content Seal 隐形水印。
这次发布展示了一种不同于“文本 prompt 直接映射图像”的生成架构。Muse Image 可以搜索缺失的视觉参考、写代码生成精确图表,再把渲染结果作为条件;内部消融还显示,把计算用于推理与自我修订比单纯 Best-of-N 更能持续提升 Elo。
这意味着媒体模型的 inference-time scaling 开始同时消费 text reasoning tokens 与 visual generation tokens。对产品团队而言,成本控制需要从“生成几张图”升级为“允许多少轮思考、搜索、工具调用和重绘”,同时应把 Content Seal 的检测与传播边界纳入内容 provenance 设计。
ENTRY 005/019
[ AGENT · DESKTOP · CODING · WORKFLOW · 平台发布 ]
ChatGPT Work 与统一桌面应用:长任务 agent 进入文件和应用工作流
(Introducing ChatGPT Work)
ChatGPT Work 可跨 connected apps 与 files 研究、分析并产出文档、表格、演示、报告和 Sites,同时支持定时、重复、触发和状态监控任务。新的 macOS/Windows 桌面应用统一 Chat、Work 与 Codex,Codex 增加多仓库项目、PR side-panel review、inline diff editing 和更快的 Computer Use。
Work 的产品形态强调长任务中的人类可介入性:用户可以查看进度、回答问题、改变方向并批准重要动作。这比完全自治更接近企业工作流,因为审批点、任务触发器和文件权限都成为 agent runtime 的一部分。
Plugin Directory 取代 App Directory,plugin 可同时打包 skills、apps 与 app templates,并供 Work 和 Codex 使用。对集成团队来说,复用单元正从单个 connector 转向包含指令、界面和工作流模板的组合包。
ENTRY 006/019
[ VIDEOGENERATION · DIFFUSION · 实时生成 · 开源 · MULTIMODAL ]
Vidu S1:消费级 GPU 上 42 FPS 的无限流式视频生成
(Vidu S1: A Real-Time Interactive Video Generation Model)
Vidu S1 支持通过语音实时控制数字角色,并生成无限长度、无持续模糊或漂移的视频。系统基于 TurboDiffusion 与 TurboServe,在普通消费级 GPU 上可输出最高 42 FPS 的 540p 视频,并提供在线 demo 与代码仓库。
实时视频生成的门槛不是单段生成质量,而是延迟、连续性和交互控制能否同时成立。Vidu S1 将扩散加速与 serving runtime 结合,使语音指令可以在流式生成过程中即时改变角色行为,而不是重新离线生成整段视频。
42 FPS 和消费级 GPU 是可部署性的重要信号。若长时间运行的 identity consistency 与 motion stability 能在真实应用中复现,它会直接影响虚拟主播、游戏 NPC 和实时 avatar 的架构选择。
ENTRY 007/019
[ VIDEOUNDERSTANDING · VLM · BENCHMARK · 评测 · 数据集 ]
Video-Oasis:55% 视频 benchmark 样本无需视觉或时序即可解答
(Video-Oasis: Rethinking Evaluation of Video Understanding)
Video-Oasis 不再新增一个视频 benchmark,而是提供审计现有评测的 diagnostic suite。其分析发现 55% 样本无需视觉输入或时序上下文即可解答;移除捷径后,当前 SOTA 模型在 video-native challenges 上仅略高于随机猜测。
这项工作的价值在于拆分“语言推理得分”与“真正理解视频”的贡献。如果问题可从文本先验或单帧猜出,高榜单分数不会证明模型理解了事件顺序、动作因果或跨帧状态变化。
对评测设计者而言,Video-Oasis 提供了先审计再扩充数据集的路径:通过无视觉、无时序等对照条件识别 shortcut,再用剩余样本分析模型架构选择。这比继续堆叠相似问答题更能定位 VLM 的真实能力缺口。
ENTRY 008/019
[ AISCIENTIST · BENCHMARK · 科学发现 · 推理 · 数据集 ]
IdeaGene-Bench:用科研谱系评测 AI Scientist 的组合推理
(Ideas Have Genomes: Benchmarking Scientific Lineage Reasoning and Lineage-Grounded Idea Generation)
IdeaGene-Bench 将论文和提案表示为可追踪继承、变异、丢失、外部引入和新插入的 Idea Genome。数据覆盖 10 个科学领域,包含 1,961 条 golden lineage traces、1,085 个 Idea Genome objects 与 920 个 GenomeDiff records;最强系统在谱系推理上仅达 27.3% exact accuracy。
许多 AI Scientist 评测只判断提案是否新颖或写得像论文,却没有检查模型是否理解一个想法从哪些机制继承而来、修复了什么限制。IdeaGene-Bench 把科研创新拆成可验证的结构变化,能区分“生成听起来合理的提案”和“理解研究谱系后提出合理后继”。
结构化谱系 context 并未普遍提高所有系统,反而改变模型排名,说明瓶颈在组合与对齐而不是单纯检索更多论文。这对科研 agent 的 memory schema、citation graph 和 hypothesis generation 都有直接启发。
ENTRY 009/019
[ AGENT · BENCHMARK · DOCKER · TOOLUSE · 评测 ]
UniClawBench:在 live Docker 中闭环评测 proactive agents
(UniClawBench: A Universal Benchmark for Proactive Agents on Real-World Tasks)
UniClawBench 提供 400 个双语真实任务,覆盖 Skill Usage、Exploration、Long-Context Reasoning、Multimodal Understanding 和 Cross-Platform Coordination。任务在 live Docker containers 中运行,以 executor、隐藏 supervisor 和 user agent 构成闭环、多轮且不泄露评分标准的评测。
静态答案或预录轨迹无法反映 proactive agent 在环境变化、用户追问和跨工具协调下的表现。UniClawBench 用细粒度 checkpoint 检查逐步完成状态,并用隐藏 supervisor 避免 agent 直接针对 grader 优化答案。
它还在多个 agent frameworks 下测试同一批基础模型,从而区分模型能力与 harness 设计。对工程团队来说,这种二维评测比只报告某个完整产品的总分更有诊断价值。
ENTRY 010/019
[ AGENT · MEMORY · LONGHORIZON · CONTEXTMANAGEMENT · RL ]
Proactive Memory Agent:主动干预长任务中的行为状态衰减
(Remember When It Matters: Proactive Memory Agent for Long-Horizon Agents)
论文把任务要求、环境事实、旧诊断和未完成子目标失去决策影响的现象定义为 behavioral state decay。一个独立 memory agent 持续更新结构化 memory bank,并选择何时注入提醒;在 Terminal-Bench 2.0 和 τ²-Bench 上分别带来最高 +8.3 pp 与 +6.8 pp pass@1 增益。
该方法把 memory 从被动 retrieval 改为主动 intervention。Memory agent 并非每轮都塞入更多上下文,而是在状态即将影响决策时提醒 action agent;消融显示 selective intervention 优于始终注入、被动暴露整个 memory bank 或普通 retrieval。
这是对“更大 context window 就能解决长任务”的直接修正。即使历史仍在窗口内,信息也可能无法在正确时刻影响行为;工程上需要独立维护决策相关状态,并评估提醒策略是否造成噪声或错误锚定。
ENTRY 011/019
[ LLM · LONGCONTEXT · ROPE · 推理 · KERNEL ]
Jet-Long:动态 Bifocal RoPE 的 tuning-free 长上下文扩展
(Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE)
Jet-Long 组合保留原始 RoPE 的 local window 与按当前长度动态缩放的 long-range window,不需重新训练即可扩展 context。其单一 CuTe kernel 在 H100 上的 long-context prefill 最高达到 FA2 的 1.39 倍吞吐,单 batch generation overhead 不超过 4%,并在 Qwen3 系列上评测到 128K。
固定 RoPE scaling factor 通常在短上下文保真度和长上下文外推之间二选一。Jet-Long 按输入长度动态调整 long-range factor,并通过 inclusion-exclusion merge 与在线 correction rotation 保留短输入的基础模型行为。
它把算法与 kernel 实现同时交付:不仅报告 RULER、HELMET-RAG 和 perplexity,也说明 prefill 与 generation 的运行时成本。对 open-weight 模型部署者,这种无需训练、overhead 可量化的方法比只延长配置中的 context 参数更可信。
ENTRY 012/019
[ AISCIENTIST · AGENT · 科学发现 · 可审计 · 评测 ]
FirstResearch:为科研 agent 的问题形成生成可审计证书
(FirstResearch: Auditable Question Formation for LLM Scientific Discovery Agents)
FirstResearch 要求科研 agent 在执行实验前生成 question-formation certificate,记录基本定义、假设、机制模型、矛盾、可证伪假说、最小决定性测试和失败后的更新规则。在 10 个 LLM-agent research topics 上,它优于受控的 AI co-scientist、Agent Laboratory 和 AI Scientist-v2 风格 prompt baselines。
科研自动化常把重点放在搜索、写作和实验执行,却跳过“问题是否形成得足够清楚”。Certificate 将问题选择变成执行前可检查的 artifact,使人类可以在昂贵实验或长程 agent rollout 之前发现假设含混、测试不可证伪或失败条件缺失。
这种设计也适合更广泛的 high-stakes agent:先输出结构化决策依据,再允许进入行动阶段。它提供的不是新的知识检索器,而是一层面向推理过程的治理与验证接口。
ENTRY 013/019
[ ARCAGI · AGENT · REASONING · HARNESS · 评测 ]
低成本 ARC harness:生成能力而非排序成为主要瓶颈
(Cost-Effective Agent Harnesses for Abstract Reasoning and Generalization on ARC-AGI-1)
研究在无 ARC-specific fine-tuning 的 DeepSeek V3.2 non-thinking 模型上构建 Reflective Orchestrator,以失败后的自主 transformation exploration 扩展候选。无偏 pass@k 分析显示,按训练样例准确率排序已捕获约 95% candidate ceiling,主要瓶颈是候选生成而非 selection。
这项结果对 test-time scaling 的资源分配很具体:当 selector 已能找到大多数可用候选时,继续增强 judge 或排名器的收益有限,预算应转向扩大 transformation hypothesis 的覆盖面。Reflective Orchestrator 的作用正是让系统在旧假设失败后探索新的变换族。
它也说明 benchmark 成绩不能只归因于基础模型。相同 open-weight 模型配合不同探索与验证 harness,可能形成完全不同的成本—准确率曲线,评测报告应公开 scaffold 与 token budget。
ENTRY 014/019
[ VLA · 机器人 · 轻量模型 · MANIPULATION · EMBODIEDAI ]
FabriVLA:1B 级 VLM 在 50 个操作任务上达到 90% 平均成功率
(FabriVLA: A Lightweight Vision-Language-Action Model for Precise Multi-Task Manipulation)
FabriVLA 探索以 1B 级 VLM 构建紧凑 VLA,而非依赖数十亿参数以上的机器人 backbone。在 Meta-World MT50 的 50 个 manipulation tasks 上,模型报告 90.0% tier-average success rate。
机器人策略部署受延迟、显存与设备功耗约束,基础模型继续增大并非唯一方向。FabriVLA 的结果表明,在多任务操作上,紧凑视觉语言表示与合适的 action learning 设计可能比单纯扩展 backbone 更重要。
需要后续关注的是 sim-to-real 与长时任务表现;MT50 的高成功率证明多任务控制潜力,但不能直接代表真实传感噪声、接触动力学和安全约束下的稳定性。
ENTRY 015/019
[ SERVING · ASCEND · MOE · MULTIMODAL · 工程实践 ]
Ascend 大模型部署实录:正确性优先时需要 12 个源码补丁
(On the Limitations of Non-GPU AI Accelerators for Large-Model Inference)
研究在 16-device Huawei Ascend 910 系统上用 CANN 与 vLLM-Ascend 部署 W8A8 MoE judge 和 multimodal medical VLM workload。为了可靠运行,团队需要为 vendor plugin 打 12 个源码补丁、关闭若干高吞吐特性,并增加设备故障保护。
论文把迁离 CUDA 的隐性成本拆为八类:operator/feature 覆盖不足、parallelism 脆弱、低层 kernel 数值错误、graph compilation 不成熟、高级特性不稳定、scalability、observability 和生态碎片化。相比只报告峰值吞吐,这些故障类型更能帮助架构师估算迁移风险。
重要教训是不能把“模型能启动”视为部署完成。量化 MoE 与 multimodal pipeline 必须同时验证数值正确性、并发行为和设备恢复;必要时关闭优化特性所损失的吞吐,也应计入总体拥有成本。
ENTRY 016/019
[ LLM · INFERENCE · HARDWARE · NVFP4 · PARALLELISM ]
面向硬件共同设计 LLM:从维度、NVFP4 到并行策略
(AI Model Co-Design: Hardware-Friendly LLM Design)
NVIDIA 总结面向 GB300/Blackwell 的模型设计规则:linear dimensions 至少对齐 128、优先 256/512,固定参数量下倾向较宽而非过深的模型,并让昂贵算子可用 NVFP4 部署。文章还把 Expert Parallelism、Chunked Pipeline Parallelism 与 Helix Parallelism映射到不同 context 和 latency/throughput 目标。
这篇文章强调模型架构会决定部署 Pareto frontier,而不是等 checkpoint 完成后再由 kernel 团队补救。过小或未对齐的 GEMM dimensions 会降低 Tensor Core 利用率;NVFP4 通过 16-value micro-block 的 FP8 scale 和 tensor-level FP32 scale 控制量化误差。
并行策略也需按 workload 分解:长 context throughput 可能主要受 attention 限制,MoE serving 可通过 wide EP 提升全局 concurrency,disaggregated prefill 则适合用 CPP 降低 first-token latency。对模型团队而言,这是一份可在预训练前使用的 deployment checklist。
ENTRY 017/019
[ AGENT · HARNESSENGINEERING · LANGCHAIN · EVAL · OPENWEIGHT ]
用 harness profile 修复 agent 工具行为:Nemotron 3 Ultra 案例
(Create a LangChain Deep Agents Harness Profile for NVIDIA Nemotron 3 Ultra to Improve Performance)
NVIDIA 展示不 fine-tune 模型、只修改 LangChain Deep Agents harness profile 的优化流程。针对 read_file 未继续分页的问题,加入 middleware 后相关测试从 0/3 提升到 3/3,完整 benchmark 从平均 94/127 提升至 96/127。
案例的价值是把模糊的“prompt tuning”变成可回归验证的工程循环:建立 baseline、分析 trajectory、提出最小 profile 变更、重复运行失败用例,再跑完整 suite 防止 regression。修复通过 tool result 明确提示文件可能继续,而不是把测试答案硬编码进 prompt。
文章还给出可自动化的 proposer loop:限制 agent 只能写 profile 文件,保存 snapshot,失败后 rollback,并要求同一修复连续通过多次。这种 verifier-driven harness engineering 适合处理工具 schema、分页、截断和中间件行为不匹配的问题。
ENTRY 018/019
[ 训练 · TENSORPARALLELISM · RESILIENCE · MEGATRON · GPU ]
Nonuniform Tensor Parallelism:GPU 暂时缺失时维持训练 Goodput
(Enhancing Goodput in Large-Scale LLM Training with Nonuniform Tensor Parallelism)
Nonuniform Tensor Parallelism 在部分设备不可用时动态调整 tensor parallel degree,并把 gradient resharding 与 backward computation 重叠,避免整个大规模训练作业停顿。该实验性能力已进入 NVIDIA Megatron Core developer branch,后续研究将扩展到 Nonuniform Expert Parallelism。
传统 TP group 对设备数量和拓扑要求严格,单个 GPU 暂时失效可能触发 checkpoint restart、移除 data replica 或等待 hot spare。NTP 尝试让不同并行组在降级状态下继续执行,使衡量目标从瞬时 throughput 转向真正推动收敛的 Goodput。
它适合长时间、数千 GPU 的训练作业,但目前仍是前瞻性机制。采用前需要评估 resharding、数值一致性、功耗调节和恢复到正常拓扑的复杂度,不能把实验分支能力当作成熟容错方案。
ENTRY 019/019
[ AGENT · SECURITY · GOVERNANCE · SANDBOX · 开源 ]
Microsoft Agent Governance Toolkit:覆盖 OWASP Agentic Top 10 的执行治理层
(AI Agent Governance Toolkit)
Microsoft 的开源 toolkit 将 policy enforcement、zero-trust identity、execution sandboxing 与 reliability engineering 组合为 autonomous agent 的治理层,并声明覆盖 OWASP Agentic Top 10。项目进入 GitHub Python daily trending,约有 4.8K stars。
Agent 安全不能只靠 system prompt,因为真正的风险发生在 identity、tool authorization、执行环境和故障恢复边界。该 toolkit 把这些控制点放在 runtime 层,适合用来审视长时 agent 是否遵循最小权限、策略检查和隔离执行。
GitHub 热度只作为排序信号,主条目价值来自其明确的工程机制。团队评估时仍应检查策略覆盖是否映射自身 threat model,以及 sandbox、credential propagation 和 audit trail 是否能与现有基础设施集成。
其他值得关注