这项调查探讨了从多代理增强学习(MARL)的角度来看,大语言模型(LLM)中元思考能力的发展。元思考的自我反思,评估和对思维过程的控制是增强LLM可靠性,灵活性和性能的重要下一步,尤其是对于复杂或高风险的任务。该调查首先分析当前的LLM限制,例如幻觉和缺乏内部自我评估机制 ...
推荐系统(RS)对于为用户过滤信息和个性化内容而变得至关重要。传统上,RS技术依赖于使用每个任务的模型来建模用户与项目之间的交互以及内容的功能。基础模型(FMS)的出现,在GPT,Llama和Clip等大量数据的大规模模型中,正在重塑建议范式 ...
互动生成视频(IGV)已成为一种至关重要的技术,响应着对各个领域的高质量,交互式视频内容的需求的增长。在本文中,我们将IGV定义为一种结合生成能力的技术,可以生成各种高质量的视频内容和交互式功能,从而通过控制信号和响应反馈来使用户参与度。我们调查了IGV应用程序的当前格局,重点关注三个主要领域:1)游戏,IGV可以在虚拟世界中实现无限探索; 2)体现了AI,其中IGV充当了与动态不断发展的场景的多 ...
分散的AI代理将很快在互联网平台上进行交互,从而在传统的网络安全和AI安全框架之外产生安全挑战。自由形式的协议对于AI的任务概括至关重要,但可以实现新的威胁,例如秘密勾结和协调的群体攻击。网络效应可以迅速传播隐私漏洞,虚假信息,越狱和数据中毒,而多代理分散和隐身优化有助于对手在系统性上逃避监督的新型持续威胁 ...
随着大语言和视觉模型的兴起,AI代理已经演变为能够感知,推理和决策的自动互动系统。随着它们在虚拟和物理领域中扩散时,互联网(IOA)已成为一种关键基础架构,以实现异质剂之间可扩展和安全的协调。这项调查对IOA系统中的安全性和隐私景观进行了全面检查 ...
大型语言模型(LLMS)和基于LLM的代理已广泛部署在现实世界中的广泛应用中,包括医疗保健诊断,财务分析,客户支持,机器人技术和自主驾驶,扩大了其强大的理解能力,推理,推理和生成自然语言。但是,基于LLM的应用程序的广泛部署暴露了关键的安全性和可靠性风险,例如恶意滥用,隐私泄漏和服务中断的可能性,从而削弱了用户信任并破坏社会安全。本文提供了针对LLM和基于LLM的代理的对抗性攻击的细节的系统概述 ...
提出了域的概括(DG)来处理域移位问题,该问题是在源和目标域之间存在统计差异时发生的。但是,大多数当前方法没有考虑源和目标域具有不同类别的常见现实情况。为了克服这一缺陷,开放式域概括(OSDG)然后成为更实用的环境,以识别看不见的域中看不见的类 ...
在本文中,我们介绍了 Token 通信(Tokcom),这是一个统一的框架,用于利用生成语义通信(GENSC)中的跨模式上下文信息。 Tokcom是一个新的范式,是由生成基础模型和多模式大语模型(GFM/MLLM)的最新成功的促进的,在该模型中,通信单元是 Token ,从而在发射器和接收器上实现了有效的基于 Transformer 的 Token 处理。在本文中,我们介绍了在GENSC中利用环境 ...