追梦赤子心

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

A |     　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。    

刚过去的这个周末，中国职业足坛表现出迎接顶级联赛后续赛事的极大热情：多支球队“在自家主场”与媒体、球迷见面，和关心自己的“家人”共度难得的“同框”时光，甚至目前在积分榜垫底但始终心有不甘的河北队还在廊坊主场举行公开训练课，邀请约200名铁杆儿球迷前来观摩，主教练金钟夫表示球队目前处在困难时期，年轻队员会获得更多机会。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。

B | “给年轻球员更多机会”，是保级球队最现实的选择，也几乎是唯一的选择：无力支付外援薪酬，只能靠提拔梯队球员咬牙坚持。

C | 按照中国足协、中足联筹备组周末加班确定的中超联赛最新赛程，第11轮联赛将于8月5日重启，河北队要在海口观澜湖基地迎战成都蓉城——中国足协给出的信息显示，中超联赛18支球队有11支可以从第11轮比赛开始回归主场，上海两支球队选择异地主场(大连金州体育场)，其余5支球队暂赴中立主场海口赛区比赛(北京国安、天津津门虎、河北队、沧州雄狮、深圳队)，成都蓉城前10轮比赛2胜6平2负积12分，是河北队接下来3场比赛中积分最低的球队，至今仅有1胜的河北队太渴望在这样的对手身上拿到分数。论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。保级队除河北队、沧州雄狮两支河北球队外，其余3家均得到可以主场作战的批复：广州队主场在花都体育场，广州城队主场在越秀山体育场，赢得赞誉的大连人亦回到了属于自己的大连普湾体育场——8月6日，大连人在普湾体育场迎战今不如昔的上海海港，少帅谢晖的主场首秀已经吊起球迷胃口。

D |

依照官方赛程，本周中超联赛重启后不会再有“间歇期”，最后1轮第34轮定于12月17日举行(最后3轮比赛均统一时间开球)，12月17日是2022卡塔尔世界杯三四名决赛日期，虽然有4轮比赛时间与世界杯重合，但这已经是中超联赛最合适、最主动的赛程安排。逐步恢复的主客场制度将在极大程度上帮助“职业联赛”回到球迷的正常生活轨迹当中，尽管中超联赛各主场还没有等到“全面开放球迷入场”的消息，不过中超联赛的真正麻烦还在于各俱乐部能否按照相应时间节点解决欠薪问题——这是职业联赛的致命危机。中国足协在今年联赛开赛前下发的《俱乐部欠薪解决方案及罚则》明确表示，7月31日是欠薪俱乐部解决不低于总额30%欠薪的截止日，俱乐部要在7月31日前提交有相关人员签字的欠薪偿还表，一旦无法兑现，欠薪俱乐部将被扣除3个联赛积分且被禁止在二次转会窗口注册新球员(8月1日至8月31日)，对保级队而言，这样的处罚意味着球队提前预定降级名额。据记者了解，包括广州城在内的“欠薪大户”都在7月31日前确定了清偿30%欠薪方案，被欠薪人员已在相关文件上签字，广州城巴西外援吉列尔梅亦将于本周入境开始隔离，以期早日上场作战。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。中足联筹备组将在今、明两天内完成第1个时间节点的清偿材料审核，接下来的两个时间节点一是10月31日(解决70%欠薪，否则扣除6个联赛积分)二是12月31日(解决全部欠薪，否则被罚降级或被取消准入资格)，中国足协、中足联筹备组多次“依规办事”的强硬态度表明，只有完全解决欠薪的俱乐部才有资格留在中超。和“保级”相比，“搞钱”更难，各家俱乐部商务开发部门的压力早就不亚于一周至少双赛的一线队，不过以当前国内足球经济环境状况分析，中超职业队的“香饽饽”属性急剧消失，有地方行政部门甚至以“甩包袱”的想法避免“触雷”，这是中超俱乐部“开源”困难的主要原因。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。

E | 业内盼望已久的“结构性调整”尚未等来可以进行尝试的时机，“兑现最大商务价值”在未来10年都将成为联赛主办方与参与者的最大努力方向。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。至于真正建立起成熟的足球产业体系，至少要到部分职业俱乐部可以实现盈利、国字号球队能频繁打进洲际比赛的决赛阶段才有望实现。中青报·中青网记者 郭剑 来源：中国青年报 【编辑:叶攀】

F | 　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。

G | 　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。

H | 　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明，大规模传播可行但内容难以保持完整。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。

I | 结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。

J | 对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。

K | 　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。

L | 　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。

M | 　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。（文章来源：第一财经）。

Current article:http://amf.wenwancaomohenenqiongpangshun.bond/t9l9/d3ak75.html

Published on:07:46:55