AI末世论是纯粹的骗局

中国老乡和美国老乡讨论AI的一大反差是，美国老乡非常喜欢务虚。

自诩圣人的Dario成天宣传AI末世论邪教，他预测人类要被AI毁灭、白领要失去工作的具体日期，已经更新了若干版本。

2023年，这人说AI有「10%—25%的文明级灾难风险」。2025年，这人又说未来5年内AI可能消灭一半入门级白领岗位。今年9月，这人又警告半年到1年内，AI集群可能具备控制整个互联网的能力。

我相信随着Anthropic上市情况越来越危急，小可爱Dario还能给出更吓人的人类文明毁灭预期。

我认为，AI末世论是一场纯粹的骗局，纯是大模型公司为了自抬身价，将自己从一家商业公司神圣化、妄图裹挟国家叙事的小伎俩。

因为Anthropic在鼓吹AI末世论之余，并没有作出任何显著行动来应对AI末世论。

它主要是鼓吹大模型行业一起放缓研发进展，自己也不愿意带头，显然也不可能有人跟进。然后是呼吁制裁中国的开源大模型，主要手段是封号和呼唤美利坚铁拳搞英伟达禁运。

从事实上来讲，AI末世论的主要落地方式就是封号和鼓吹禁运。

这说明什么？

说明中国开源模型才是救世主，中国模型开源相当于弥赛亚降临。打破了Anthropic梦想中的绝对垄断，从而让Dario成为AI圣人，以个人意志决定全世界AI安全的野心完全落空。

然而，广大中国AI从业者，没有受过这种典型的西方意识形态训练，分辨不出来Dario是在用宏大叙事鼓吹自己成圣。

这块还得是意识形态专家来破甲。

特朗普就一针见血地指出，Dario正在假装自己是个「完美的小天使」。AI不需要停止研发，也不需要额外的安全护栏，只需要一个聪明的总统。

更幽默的是，在总统卡卡锐评之后，Dario自己在白宫记者会上，宛如一个被霸凌的中学生一样，毕恭毕敬地承认总统卡卡说得对，说自己也认为美国能赢，美国还能安全地赢，「We can win safely.」

总统卡卡一指点，Dario脑筋马上就转过了弯。这是否说明特朗普比他更懂AI。

只能说，在搞意识形态上，特朗普确实比Dario高级一些。

我不是说不应该重视AI安全，而是不能让自恋的小天使Dario来主导AI安全叙事。

其实，AI末世论是一种西方文明长久以来的传统，本质上是认为自己文明发展到巅峰后的顾影自怜。

19世纪末，维多利亚时代晚期，英国老乡就成天幻想文明毁灭后，后来的新文明会如何追忆大英帝国的辉煌，诞生了一堆科幻文学。

你当然可以认为这是英国老乡想象力非常丰富，但我觉得这不就是自嬷，文明一点的说法是杞人忧天、顾影自怜。