AI代理谈崩了,该由谁来裁决?
两个智能体达成了协议。几小时后,双方都声称自己是对的。一方说协议已经履行,另一方说没有。
双方都有证据,都能解释自己的推理,谁也不肯让步。那谁来决定接下来会发生什么?这个问题就是我开始关注@GenLayer的原因。
不是因为人工智能需要变得更聪明,而是因为哪怕是聪明的系统也会产生分歧。我越想就越确信,分歧是对任何智能系统的真正考验。
人类会有分歧,企业会有分歧,市场会有分歧。任何重要的系统,当不同参与方都认为自己正确时,最终都需要一种方式来得到可信任的结果。人工智能凭什么会不一样?
大多数关于人工智能的讨论都聚焦于能力:模型能做什么,能自动化多少工作,能做多少决策。但未来的人工智能经济不会只建立在决策之上,它会建立在信任之上。而当出问题时,信任就会经受考验。
随着智能体开始代表个人和企业购买服务、协调工作、交换价值和做决策,纠纷就变得不可避免。这不是人工智能的失败,这是经济活动的必然结果。
迟早会有一个智能体说任务已经完成,另一个不同意,整个系统就需要一种方式来决定接下来怎么办。这就是@GenLayer对我来说很特别的原因。它没有只专注于帮助智能体行动,而是在构建解决智能体之间分歧的基础设施。
运行在GenVM中的智能合约可以使用Python,访问实时网络信息,还能理解自然语言。当纠纷出现时,可以提交给互联网法院(@courtofinternet),由运行不同AI模型的验证者独立评估同一个案件。每个判决都来自必须达成共识的GenLayer验证者陪审团。信任从共识中产生。
这个想法听起来简单,但我认为它是人工智能时代仍缺的最重要的基础设施之一。多年来,区块链帮助解决了所有权和结算问题,人工智能帮助解决了智能问题,而GenLayer专注于一件不同的事:裁决。
不是谁能生成最长的回复,不是谁能处理最多的数据,不是谁能做出最大胆的预测,而是当智能参与方出现分歧时,系统如何得到可信任的结果。
互联网法院已由包括MetaMask、OKX、BNB Chain、NEAR和Kleros在内的创始成员推出。在此之后,Solana、Yellow、HOL和Blocksee也已加入。这告诉我,越来越多人意识到了同一个问题。
有一个信念始终让我坚持这个看法:未来不属于从不面对分歧的系统,未来属于知道如何解决分歧的系统。这就是我认为@GenLayer正在构建的未来。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖