已经证明，深度神经网络正面临着一种称为后门攻击的新威胁，对手可以通过中毒培训数据集将后门注入神经网络模型。当输入包含一些特殊模式称为后门触发器时，带有后门的模型将执行恶意任务，例如对手指定的错误分类。在文本分类系统中，模型中插入的后门会导致垃圾邮件或恶意语音逃脱检测 ...

鉴于视觉 Transformer 的力量，新的学习范式，预训练然后提示，使其更加有效地解决下游的视觉识别任务。在本文中，我们从后门攻击的角度确定了对这种范式的新型安全威胁。具体来说，在这项工作中，一个称为开关 Token 的额外提示 Token 可以打开后门模式 ...

随着深度神经网络（DNN）的增长，它们对计算资源的要求变得巨大，这使外包培训变得更加流行。但是，在第三方平台上的培训可能会引入潜在的风险，即恶意培训师将返回后dnns，该培训通常在干净的样品上行为，但每当触发器在测试时间出现触发器时，输出目标是错误的分类。如果不知道触发因素，就很难将良性DNN与后门区分开 ...

通用触发器（Unitrigger）是一种最近提供的强大对抗性文本攻击方法。利用基于学习的机制，unitrigger生成了固定短语，当将其添加到任何良性输入中时，可以将文本神经网络（NN）模型的预测准确性降低到目标类中接近零。为了防止这种可能造成重大伤害的攻击，我们在本文中借用了网络安全社区的“蜜罐”概念，并提出了基于蜜罐的防御框架Darcy，这是针对Unitrigger的防御框架 ...

数十年来，已经研究了基于其先前值以及当前和过去值（外源）序列的当前和过去值的非线性自回旋外源性（NARX）模型，该模型已经研究了数十年。尽管已经开发了各种NARX模型，但其中很少有人能够适当地捕获长期的时间依赖性，并选择相关的驾驶系列以做出预测。在本文中，我们提出了一个基于双阶段的重复神经网络（DA-RNN）来解决这两个问题 ...

随着大型语言模型（LLM）的出现，搜索增强生成（RAG）技术的潜力引起了广泛的研究关注。人们引入了许多新颖的算法和模型来增强RAG系统的各个方面。然而，由于缺乏标准化的实施框架，加上同样复杂的 RAG 流程，使研究人员能够在一致的环境中进行比较并评估这些方法充满了挑战和运行... ...

尽管大多数对话代理都基于自由文本或结构化知识，但许多知识语料库包括混合来源。本文通过我们开发的一种称为SUQL（结构化和非结构化的查询语言）的语言，介绍了第一个支持大型知识语料库中混合数据访问的通用性的对话代理。具体而言，SUQL使用自由文本的原始剂（摘要和答案）扩展了SQL，因此信息检索可以与结构化数据一起以正式，简洁，精确和可解释的符号任意组成 ...

数据管理社区的一个长期目标是开发一般的自动化系统，以摄取半结构化文档和输出可查询表，而无需人力或特定于域的自定义。考虑到各种潜在文档的多样性，最先进的系统可以简化假设并使用特定领域的培训。在这项工作中，我们询问是否可以使用大语言模型（LLM）保持一般性 ...