我们提出了对桶式近似$ K $算法的评估。恰好计算最高的$ k $具有有限的并行性，因为$ k $最大的值必须沿向量汇总，因此不太适合在高度并行的机器学习加速器上计算。通过放松顶部$ K $的要求，可以通过独立计算许多较小的上$ K $操作来大大增加可用的并行性 ...

视觉语言模型（VLMS）经常患有视觉幻觉，说出实际上不在图像中的事情和语言快捷方式，它们跳过视觉部分，只是依靠文本先验。这些问题之所以出现，是因为VLMS的大多数训练后培训方法都依赖于简单可验证的答案匹配并仅监督最终输出，而中间视觉推理没有明确的指导。结果，VLM会收到稀疏的视觉信号，并经常学会优先考虑基于语言的推理而不是视觉感知 ...

我们提出GLM-4.1V思维，这是一种旨在推进通用多种模束推理的视觉模型（VLM）。 In this report, we share our key findings in the development of the reasoning-centric training framework. ...

小英尺打印的关键字发现（SF-KWS）在当今智能语音激活设备，智能手机和物联网（IoT）应用程序的景观中广受欢迎。这种激增归因于深度学习的进步，从而可以从连续的单词流中识别预定义的单词或关键字。在现实情况下，在具有低功率和有限内存的边缘设备上实现SF-KWS模型，有效的微型机器学习（Tinyml）框架至关重要 ...

随着专家型混合物（MOE）模型的广泛采用，对对内存约束设备有效推断的需求不断增长。虽然将专家参数卸载到CPU内存并按需加载激活的专家已成为潜在解决方案，但激活的专家的大型专家跨越了有限的PCIE带宽，从而阻碍了潜伏期敏感的场景的有效性。为了减轻这种情况，我们提出了Floe，这是一种在内存约束的GPU上的即时MOE推理系统 ...

我们表明，现有的UPSMPLING运算符可以通过索引函数的概念统一。该概念的灵感来自于对深图像垫的解码过程中的观察，其中指导的未解决的不足可以比其他UPSPAIMPLING OPTIONER（例如双线性插值）更好地恢复边界细节。通过将索引视为功能图的函数，我们介绍了学习索引的概念，并提出了一个新颖的索引引导的编码器框架框架，其中索引从数据中自适应地自我学习，并用于指导汇总和上下采样操作员，而无需进 ...

知识图（kgs）与大语言模型（LLMS）的集成为改善检索增强生成（RAG）系统的检索阶段提供了重要潜力。在这项研究中，我们提出了KG-CQR，这是一个新型的上下文查询检索框架（CQR），该框架通过使用以语料库为中心的kg丰富复杂输入查询的上下文表示来增强检索阶段。与主要解决语料库级上下文损失的现有方法不同，KG-CQR专注于通过结构化关系表示，提取和完成相关的KG子图以生成语义上丰富的查询环境 . ...

3D高斯碎片（3DGS）通过利用一组3D高斯原始原始人进行渲染，从而从多视图图像中重建了复杂的数字3D资产。它的明确和离散表示促进了复杂数字世界的无缝组成，比以前的神经隐式方法具有显着优势。但是，当应用于大规模作品（例如人群级场景）时，它可以包含众多3D高斯人，对实时渲染提出了重大挑战 ...