有效利用 GPU 内存对于高吞吐量 LLM 推理至关重要。之前的系统提前为 KV 缓存保留内存，导致内部碎片导致容量浪费。受基于操作系统的虚拟内存系统的启发，vLLM 提出了 PagedAttention 来实现 KV 缓存的动态内存分配 ...

多模式大语言模型（MLLM）在多模式推理方面取得了显着进步。但是，在推理的后期阶段，他们通常会过分依赖文本信息，从而忽略了视觉输入的关键整合。当前方法通常通过明确注入视觉信息来指导推理过程来解决此问题 ...

我们介绍了RSTAR2-AGENT，这是一种14B数学推理模型，该模型训练了经纪性增强学习，以实现前沿级的性能。除了目前的长床外，该模型还展示了高级认知行为，例如在使用Python编码工具之前仔细思考，并反思代码执行反馈以自主探索，验证和完善复杂问题解决中的中间步骤。通过三个关键的创新来启用此功能，从而使代理RL有效地进行了规模：（i）具有可靠的Python代码环境的有效RL基础架构，可支持高通量 ...

AI代理已经越来越擅长复杂的任务，例如编码，推理和多模式理解。但是，建立通才系统需要超越各个代理人进行集体推理 - 一种范式，其中具有多样化，任务专用代理的多代理系统通过结构化的沟通和协作相互补充。如今，协调通常以不精确的临时自然语言来处理，这限制了复杂的相互作用并阻碍与域特异性药物的互操作性 ...

大型语言模型（LLMS）在自动化代码生成和软件工程任务方面表现出了希望，但是由于上下文限制和知识差距，它们经常在复杂的多文件项目中挣扎。我们提出了一个新颖的上下文工程工作流程，该工作流程结合了多个AI组件：意图翻译器（GPT-5），以阐明用户需求，一种引起动力的语义文献检索，用于注入域知识，基于笔记本的文档综合，用于上下文理解，以及用于代码和验证的Claude多代代码系统。我们的集成方法利用了意图 ...

可以在开放世界设置中执行一系列不同任务的通才机器人不仅能够理解完成目标所需的步骤，还可以处理任务执行期间的复杂说明，提示甚至反馈。复杂的说明（例如 ...

我们介绍了Internvl 3.5，这是一个新的开源多模型系列，可在Intervl系列中显着提高多功能性，推理能力和推理效率。一个关键的创新是Cascade增强学习（Cascade RL）框架，它通过两个阶段的过程增强了推理：离线RL稳定收敛和在线RL以进行精制对齐 ...

分类对象的单程3D重建在很大程度上依赖于准确地感知每个对象的姿势。尽管基于梯度的优化在NERF框架中更新了初始姿势，但本文强调了单眼对象重建中的规模深度歧义会导致失败，而当初始姿势中度偏离了真实姿势时。因此，现有方法通常取决于第三方3D对象提供初始对象姿势，从而增加复杂性和泛化问题 ...