图像异常检测(IAD)是工业制造业(IM)的新兴计算机视觉任务。最近,已经报道了许多高级算法,但是它们的性能在各种IM设置中都大大偏离。我们意识到,缺乏统一的IM基准阻碍了IAD方法在现实世界应用中的开发和使用 ...
尖峰神经网络(SNN)具有低功率优势,但在图像分割任务中的表现较差。原因是,通过复杂的架构设计将神经网络直接转换为尖峰版本会导致性能降解和非连接。为了应对这一挑战,我们首先确定体系结构设计中的模块,这些模块会导致尖峰射击的严重减少,进行针对性的改进,并提出Spike2Former Architecture ...
本文讨论了人工智能(AI)在法律界的不断发展的作用,重点是简化诸如文档审查,研究和合同起草等任务的潜力。但是,挑战持续存在,特别是在AI模型中发生“幻觉”的发生,它们产生了不准确或误导性信息,破坏了它们在法律环境中的可靠性。为了解决这个问题,本文提出了一个新颖的框架,将专家系统与基于知识的体系结构相结合,以提高AI驱动的法律服务的精确和上下文相关性 ...
当输入标记的数量超过其预训练长度时,大型语言模型(LLM)处理和生成连贯文本的能力会明显减弱。考虑到微调具有较长序列的大型模型的昂贵开销,我们提出了双块注意力(DCA),它使 Llama2 70B 能够支持超过 100k 个标记的上下文窗口,而无需持续训练。通过将长序列的注意力计算分解为基于块的模块,DCA 能够有效地捕获同一块内(块内)和不同块(块间)之间标记的相对位置信息,并与闪光注意 ...
尖峰神经网络(SNNS)提供了一种节能的深度学习选择,因为它们具有独特的基于尖峰的事件驱动(即尖峰驱动)范式 ...
这项研究介绍了一种在法律背景下自动化整合过程的方法,这是法律专业人员传统上执行的耗时任务。我们提出了一种生成方法,该方法处理立法文本以自动应用修正案。我们的方法采用光量化的生成模型,并用Lora微调,以生成准确可靠的修订文本 ...
在跨图像,文本和语音的理解和产生方面,综合学习的最新进展已经取得了进步,尽管主要是在专有模型中。有限的综合数据集以及与实时情感语音产生相关的固有挑战阻碍了开源的进步。为了解决这些问题,我们提出了OpenOmni,这是一种两阶段的训练方法,结合了综合一致性和语音生成,以开发一种最先进的综合大型语言模型 ...
这篇概述文章强调了数学在人工智能(AI)中的关键作用,强调数学提供了更好地理解和增强AI系统的工具。相反,AI提出了新的问题,并在各个领域的交集中推动了新数学的发展。本文着重于分析和概率工具在建模神经网络体系结构并更好地理解其优化的应用上 ...