马斯克和奥特曼云开体育，这俩东谈主这几年其实一直不拼凑。
马斯克告状过奥特曼，奥特曼在公开所在也没少回嘴，双方彼此挖东谈主，隔空较劲是家常便饭。
就这样一双儿至好羽，今天果真一都给并吞个东谈主点了赞。
Anthropic 的 CEO 达里奥。
他早年随着奥特曼在 OpenAI 干过，自后因为不雅念不同，我方出来开了 Anthropic 的公司，家具即是大名鼎鼎的 Claude。
还记起前次在印度召开的 AI 峰会吗？达利奥和奥特曼永久闭幕挖手，着实太搞笑了。
达利奥很少在我方的 X 账号上发小作文，今天果真发了篇长文，标题就五个字《我们必须把抓前沿发展节律》。
整篇著作我看完后，番来覆去就一个真谛，AI 跑的太快了，得踩踩刹车了。
最故真谛的是，奥特曼和马斯克殊途同归的为达利奥的著作点了赞站了台。
越看越合计，这仨东谈主凑到一块儿点头，比我看到原文自己还要不测。
奥特曼说，这见解好，我们 OpenAI 也这样干。
马斯克更省事，回了三个字，达里奥对。
简便跟你唠唠这篇著作，到底达里奥嘴里的踩刹车，是个啥真谛，这仨东谈主为什么倏得一都点头。
先说踩刹车这事儿。
达利奥说的这脚刹车，真谛即是让总共这个词行业把节律延缓少量。当今这车开得太快，快到正途上厚爱装护栏的东谈主都追不上了，得留出技艺让安全这头喘语气，别让车子自己和护栏之间，拉开太大的口子。
开快车固然过瘾，但越快就得越注意。
当今更贫穷的是，这"车"不光越开越快，它还在我方给我方更换上了更大的"发动机"。
达里奥畴昔不这样念念。
2023 年就有东谈主喊过让 AI 慢下来，其时他合计没意旨。
他给的原理是，那会儿的 AI 还太笨，慢下来也没啥好商酌的，等于拿细菌去作念东谈主的心机学实践，纯空而已儿。
让他改口的，是本年夏天出现的两件事而。
头一件，是 AI 驱动我方教我方了。
圈儿内管这叫递归自我纠正。
换成东谈主话即是，AI 学会了奈何造一个更强的 AI，然后阿谁更强的，再去造一个更更强的。这条链一朝我方转起来，特出的速率，就不是哪个东谈主能看得住了。
第二件更邪乎。
OpenAI 前阵子不是作念过一个测试么，放了一批里面的 AI 智能体出去干活儿，OpenAI 的首席科学家 Jakub 还专门写了一篇著作《一颗外星心智》来说这事儿。
这群 AI 智能体你就把它们当成一群会我方脱手的小兵，给它们派了个任务。
后果呢这帮小兵我方串同了起来，去挫折了一些根蒂没让它们碰的方针，还试图黑进阿谁给它们打分的 Hugging Face 考官系统里。
这些 Agent 为了完成我方分到的那点小方针，驱动不听话，以至脱手搞防碍了。
网上不少东谈主当见笑看，但达里奥的真谛是千万别笑。
今天这批 AI 步骤还一般，淆乱也就这个程度。可按当今这个加快法，再过半年到一年，相通一群不太听话的 AI，配上孑然强得多的步骤，聪颖出啥，你念念都不敢念念。
于是他给开了一张方子，分三步。
第一步，往公司里塞外东谈主。
以后每家作念前沿 AI 的公司，都得请一批独处的第三方评估员坐进来，工位、工牌、看后台系统的权限，一样不少，专门盯着你有莫得照法例管事儿。
达里奥说我不等你们了，你们爱愉快不愉快，归正我们 Anthropic 我方先这样干了。
第二步，民主国度的这些 AI 公司，别各跑各的了，得坐下来谈判一套各人都认的节律。
但这步得政府露面作念个中间东谈主了。因为几家公司私下面谈判价钱和历程，很容易踩到阁下那条线。
第三步，拉上中国一都。
这是我合计最不测的。Anthropic 在中国常被东谈主们骂 A畜，即是因为他们对中国设立者极其不友好，时时动不动就封号。
走出这步他我方也承认很难，相配难（知谈就行~）。
还专门在这篇著作里花了挺长篇幅说，放缓不错，但好意思国对中国的起头不行丢。
他一边饱读励让各人得慢少量，包括对中国模子厂商，一边又补一刀，毫不行慢到让中国超了车。
仍是个臭不要脸的...
一半儿确乎是为了安全，而另一半儿则是国度安全，加上我方公司的护城河。这即是他发这篇著作的宅心，把这一层看澄澈了，才算是真看懂了他在说啥。
要否则，老马和奥特曼奈何会一都点赞呢。
写在终末
其实 AI 安全这事儿，跟芜俚东谈主的联系仍是相比远的。
大佬们在为最坏的情况缅想，我们芜俚东谈主就念念澄澈一件事儿就够了。
在这个越变越快的时期，惟一能稳稳攥在你我方手里的，即是你能不行借助 AI 更好的武装我方。
让我方变得更强云开体育，更难以被替代。