完全波形反转(FWI)从偏微分方程(PDES)控制的地震波形数据中重建高分辨率地下速度图。传统的机器学习方法将FWI作为图像到图像翻译任务,将地震数据映射到速度图中,通过编码器解码器体系结构。在本文中,我们从新的角度重新访问FWI:同时生成两种方式 ...
尽管在短短几年内,生成性AI取得了重大进展,但其未来的进步仍受到建立模块化和健壮系统的挑战的限制。这种能力一直是过去技术革命的基石,它依赖于组合组件来创建越来越复杂且可靠的系统。汽车,飞机,计算机和软件由组件组成,例如发动机,车轮,CPU和库 - 可以组装,调试和更换 ...
当前的大型语言模型(LLMS)基准通常基于开放式或封闭式质量检查评估,避免了人工劳动的要求。封闭式测量值评估了反应的事实,但缺乏表现力。开放式捕获模型产生话语响应的能力,但很难评估正确性 ...
通过神经网络参数为参数的隐式定义,连续,可区分的信号表示已成为强大的范式,为常规表示提供了许多可能的好处。但是,这种隐式神经表示的当前网络体系结构无法用细节进行详细的建模信号,并且无法代表信号的空间和时间导数,尽管事实上这些信号对于许多将隐性定义为偏微分方程的解决方案定义的物理信号至关重要。我们建议利用定期激活功能来用于隐式神经表示,并证明这些称为正弦表示网络或警报器的网络非常适合表示复杂的自然信 ...
交通事故检测和预期是一个固执的道路安全问题,并且艰苦的努力已被专门努力。随着视频数据的快速增长,基于视觉的交通事故检测和预期(称为Vision-Tad和Vision-TAA)成为安全驾驶和监视安全的最后一英里问题。但是,交通事故的长尾,不平衡,高度动态,复杂和不确定的特性构成了视觉-TAD和Vision-TAA的分布外(OOD)功能 ...
预计第六代及以后的交流系统的出现将通过引入无与伦比的智能,效率和连通性从根本上改变数字体验。一项有希望实现这种革命性愿景的有前途的技术是无线大型AI模型(WLAM),其特征在于其在数据处理,推理和决策方面的出色功能。鉴于这些非凡的能力,本文对WLAM进行了全面的调查,阐明了其基本原则,各种应用,关键挑战和未来的研究机会 ...
给定的非结构化文本,大语言模型(LLM)擅长回答简单的(单跳)问题。但是,随着问题的复杂性的增加,LLMS的性能降低了。我们认为这是由于与理解复杂问题有关的间接费用,然后是对原始文本中的非结构化信息进行过滤和汇总 ...
稀疏的注意力提供了一种有希望的策略,可以扩展 Transformer LLM中的长期文化功能,但其可行性,其效率 - 准确性权衡以及系统的扩展研究仍未得到探索。为了解决这一差距,我们在不同的模型量表,序列长度和稀疏水平上进行了仔细比较,在多种长期任务的集合中,包括依靠自然语言,同时保持可控且易于评估。根据我们的实验,我们报告了一系列关键发现:1)Isoflops分析表明,对于很长的序列,较大且高度 ...