语言提供了一个自然界面来指定和评估视觉任务的性能。为了实现这种可能性，视觉语言模型（VLM）必须成功整合视觉和语言信息。我们的工作将VLM与直接读取其视觉编码器进行比较，以了解它们在这些模式中整合的能力 ...

历史上，图像分割模型的性能受到收集大规模注释数据的高成本的限制。该段的任何模型（SAM）通过敏捷的，语义 - 敏捷的，分割范式来减轻此原始问题，但仍然需要手动视觉范围或复杂的域依赖性及时生成规则来处理新图像。为了减轻这一新负担，我们的工作只需提供一小部分参考图像，就会调查对象细分的任务 ...

知识蒸馏（KD）被称为通过将知识转移到较小模型来压缩大语言模型（LLM）的有前途解决方案。在此过程中，白盒KD方法通常最大程度地减少了两个模型的输出分布之间的距离，以便可以传输更多知识。但是，在当前的白色框KD框架中，输出分布来自两个模型的相应输出空间，使用其自己的预测头 ...

知识蒸馏（KD）是通过将知识转移到较小模型来压缩大语言模型（LLM）的有前途解决方案。在此过程中，白盒KD方法通常最大程度地减少教师模型的输出分布与学生模型之间的距离以传输更多信息。但是，我们揭示了当前的白盒KD框架表现出两个局限性：a）来自不同输出空间的桥接概率分布将限制教师模型和学生模型之间的相似性； b）该框架不能应用于具有不同词汇的LLM ...

视频和音频是人类自然会在一起感知的紧密相关的方式。尽管最近的进步使文本的音频或视频能够产生，但同时产生这两种模式通常仍然依赖于级联的过程或多模式对比编码器。但是，由于推断和调节过程中固有的信息损失，这些方法通常会导致次优结果 ...

大量的多输入多输出（MIMO）系统在提供前所未有的高数据速率方面有望。为了实现其全部潜力，收发器需要完整的通道状态信息（CSI）来执行发送/接收预编码/组合。但是，由于不可避免的处理和反馈延迟，这一要求在实际系统中具有挑战性，这通常会在很大程度上降低性能，尤其是在高移动性场景中 ...

最近的视觉MAMBA（VIM）模型显示出几乎线性的复杂性，使其在处理视觉数据方面具有很高的吸引力。但是，培训方法及其潜力仍未得到充分探索。在本文中，我们调查了VIM的策略，并提出了随机层的随机洗牌（SLW），这是一种新型的正则化方法，可以有效地改善VIM训练 ...

由于语言模型在解决数学问题时会经常犯错，因此在推理过程中对错误的自动识别对于其可扩展的监督变得越来越重要。在本文中，我们介绍了过程基础，以衡量识别数学推理中错误步骤的能力。它由3,400例测试案例组成，主要涉及竞争和奥林匹克运动级数学问题 ...