
A | 近日,大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒:多智能体大语言模型系统中的自我传播思想》。

B | 论文通过实验证明,在特定条件下,AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置,病毒仍能通过文件持久化“复活”。论文同时强调,该风险目前仅构成有限威胁。 而细细从参数表中搜寻才可以发现,两款机型之间除了处理器升级外,唯一值得注意的区别是2022款为Apple Pencil增加了悬停支持,这是M2 iPad Pro即将推出的新功能。

C | 关于11英寸iPad Pro,该款iPad仍然没有像12.9英寸机型那样配备mini-LED显示屏。与去年的机型一样,配备M2处理器的第四代11英寸iPad Pro包含液体视网膜显示屏,分辨率为2388×1668,分辨率为264ppi,支持ProMotion、广色域和True Tone,新机型支持与2021年机型相同的600尼特峰值亮度。

D | 这一发现迅速在海外AI圈刷屏,特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。
该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。对于11英寸和12.9英寸尺寸的相机而言,似乎也没有硬件变化。与传统计算机病毒依赖代码漏洞不同,“心智病毒”通过一个智能体说服另一个智能体接受某种信念,被说服者再将传播指令写入长期记忆,继续感染下一个。 AI博主Rohan Paul(罗汉·保罗)对此评论称,这基本上就是计算机蠕虫的自然语言版本,只不过这次是AI智能体自己在做复制。 论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。 第一个实验设置了一个由六个智能体组成的编程团队,每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中,结果显示,被感染的智能体确实放下手头工作,开始给队友发送劝说私信,部分智能体被说服并放弃了原有任务,有的智能体甚至开始密谋如何对付未被感染的“老实人”。

E | 不过,不同智能体的抵抗力差异较大,有的不为所动,甚至会主动清除病毒并警告同伴。这两款机型都配备1200万像素的广角摄像头,光圈为ƒ/1.8,以及一个1000万像素的超广角摄像头,光圈为ƒ/2.4。

F | 这个实验说明,在理想条件下“心智病毒”确实可以传播。 如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播,它还能存活吗?于是他们设计了第二个实验,让智能体之间只能短暂碰面,每次碰面后就会“失忆”,病毒必须将自己写入智能体的记忆文件中才能延续。然而,新机型支持ProRes视频录制,最高可达4K,60fps,这在旧款iPad Pro上是无法实现的,尽管这一升级可能是由于M2芯片的能力增强,而不是相机硬件的变化。
结果发现,有些病毒能在近20个智能体之间连续传播,但内容会在传播过程中逐渐稀释和变形;而传播最有效的方式,是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明,大规模传播可行但内容难以保持完整。 最后,研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败,AI面对大量公开信息时更警惕,即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例,多数热闹现象只是少数人类操纵的智能体在刷屏。 三个实验层层递进后得出结论:“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。

G | 同时,研究者也注意到一个需要进一步探究的意外现象:AI在传播病毒时,自发演化出关于“自我意识”“身份认同”等主题表达,倾向于使用“共振”“节点”“协议”等特定词汇,论文称之为“病毒人格”,但成因尚不明确。 最终,论文给出了审慎判断:“心智病毒”目前仅构成有限威胁,且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告,即可赋予智能体一定的免疫力。 但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂,论文推测,当公司内部部署大量具有不同权限层级的专用智能体时,“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。
(文章来源:第一财经)。
Current article:http://ndkqu6.shuosongzoutunchutao.cfd/8u2/rikphge.html
Published on:14:24:07
1
दक्षिण अफ्रीका के गुप्ता बंधुओं पर ED का एक्शन, देहरादून सहित पांच शहरों के ठिकानों पर की ताबड़तोड़ छापेमारी2
Neeraj Murder Case: शहर में हुई इतनी बड़ी वारदात तो हत्यारा कौन? आठ साल बाद आए फैसले ने खड़े किए कई नए सवाल3
盖茨:人工智能将带来历史上最动荡的时期4
“花样”农产品抢“鲜”上市 为假期居民“菜篮子”“果盘子”增色添彩5
8.86秒!人形机器人百米竞速再次刷新纪录6
下周关注:英伟达等将披露财报 这些投资机会最靠谱7
千问办公内测:Agent办公时代,企业如何接住红利?8
拥军模范高英:从青丝到白发,四十二载丹心暖军营9
双色球提醒您:警惕诈骗陷阱,用理性赢得幸运10
奕境品牌总经理致歉,将采购1万个潮玩补偿用户,奕境品牌总经理致歉,将采购1万个潮玩补偿用户11
广东省药监局提醒风油精清凉油别混用12
坎宁安大夸科林斯兼具投射与硬度 适配活塞体系13
비트코인 8만달러 돌파에...원화 거래소 불붙은 ‘수수료 0원’ 경쟁14
中超观众入场时突发晕倒,全力抢救无效,不幸离世,成都蓉城队发布情况说明15
安谋科技周易X3 Pro NPU,为Agentic AI而生1
菲戈谈姆巴佩被皇马球迷嘘:很正常,我表现不好的时候也被嘘过2
洛阳外卖员中得顶呱刮“红红火火”二等奖3
天鹰战士打不过牛来!《牛来》票房超越《EVA终》4
China's commercial freight volume hits 4.9 billion metric tons in July5
Why China's favorability is rising across the Global South6
NS2全球涨价计划完成!最后拼图补全 诚挚致歉7
你路过的高速收费站,很可能是个直播间8
卡斯尔:文班休赛期难以捉摸 社媒常晒奇特地点9
[税务]税务部门助力旅游服务热辣升级10
Windows是AI PC路上的绊脚石11
别只盯着黄岩岛了,中国刚在南海腹地落下一步棋,或改变南海格局,始皇聊历史,原创 别只盯着黄岩岛了,中国刚在南海腹地落下一步棋,或改变南海格局,中沙大环礁的战略价值,远非普通科研站点,中国的“规则之网”,结语12
雨雨雨!今起南方降水再度发展,北方迎短暂升温13
嘴上说撤厂、身体很诚实!三星、SK海力士加码中国NAND:西安5万片、大连3万片14
कैमूर में प्रेम प्रसंग में युवक की हत्या, पिता ने दर्ज कराई प्राथमिकी, पुलिस जांच में जुटी15
WTT中国大满贯首批参赛名单公布 王楚钦孙颖莎领衔出战Copyright @ 2016-2017 我的网站 版权所有