LLMS在大量的非结构化文档集合中启用了令人兴奋的新类数据处理应用程序。几个新的编程框架使开发人员可以通过语义运算符构成这些应用程序来构建这些应用程序:具有自然语言规格的AI驱动数据转换集。其中包括LLM驱动的地图,过滤器,加入等 ...
当前语言模型(LMS)的关键缺失能力正在实现现实环境。基础语言理解的大多数现有工作都使用LMS直接生成可以在环境中执行的计划以实现所需的效果。因此,它赋予了LMS上的语法,忠诚和可控性的负担 ...
现有的3D网格生成模型通常会遭受数据偏差的困扰并产生低质量的结果,而全球强化学习(RL)方法依赖于难以捕获本地结构细节的对象级别的奖励。为了应对这些挑战,我们提出了\ textbf {mesh-rft},这是一种新颖的细粒钢筋微调框架,它采用蒙版直接偏好优化(M-DPO),通过质量了解的面孔掩盖来启用局部改进。为了促进有效的质量评估,我们引入了一个客观的拓扑意识评分系统,以通过两个指标(BER)和 ...
模型大小的规模不断提高和绩效的持续改进预示着大型模型时代的到来。在本报告中,我们通过研究培训目标和培训方法来探讨大型模型培训的运作方式。具体而言,培训目标描述了如何利用网络尺度数据来开发基于自我监管的学习以及基于分布式培训的培训方法的极具功能和令人难以置信的大型模型,描述了如何使大型模型培训成为现实 ...
风格引导的纹理生成旨在生成一种与参考图像的样式和输入网格的几何形状和和谐相处的纹理,给定参考样式图像和带有文本描述的3D网格。尽管基于扩散的3D纹理生成方法(例如蒸馏采样)在风格化的游戏和电影中都有许多有希望的应用,但它需要解决两个挑战:1)完全将3D型号的参考图像完全切换样式和内容,以及2)2)将生成的纹理与颜色色调,参考图像和给定的文本提示以及给定的文本提示。为此,我们介绍了Styletex, ...
当语言模型(LMS)在推理之前通过外部知识基础利用与查询有关的非参数知识时,检索的增强至关重要。检索到的信息与查询一起作为环境合并到LMS中,从而提高了对事实问题的回答的可靠性。先前的检索增强研究通常会遵循检索员生成器范式 ...
大型语言模型(LLM)经常产生错误,包括事实不准确、偏见和推理失败,统称为“幻觉”。最近的研究表明, LLM 的内部状态编码了有关其输出真实性的信息,并且该信息可用于检测错误。在这项工作中,我们表明 LLM 的内部表示编码的有关真实性的信息比以前认识到的要多得多 ...
建模高频信息是科学机器学习的关键挑战。例如,由于涡流和涡流引起的旋转流体运动,雷诺数字3500及以上的Navier-Stokes方程的完全湍流模拟可能会产生高频信号。忠实地使用神经网络对此类信号进行建模取决于准确地重建中等至高频 ...