Ledger 发布针对代理经济的 AI 安全路线图，重点是保持“人在回路中”

加密货币安全解决方案的著名参与者 Ledger 宣布了一项战略路线图，重点是在其所谓的“代理经济”中整合人工智能 (AI)，同时优先考虑人的监督。此举标志着人们认识到人工智能在加密货币领域日益增长的重要性，以及解决潜在安全风险的相应需求。

为了领导这项计划，Ledger 已任命此前担任首席体验官的 Ian Rogers 为其首任首席人类代理官。这个新设立的职位强调了 Ledger 致力于确保人类的判断和控制仍然是其 AI 驱动安全策略的核心。该公司似乎承认，虽然人工智能可以加强安全措施，但不应在真空中运行，而人的干预对于减轻不可预见的风险和伦理考量至关重要。

专家观点

Ledger 积极主动地整合人工智能的做法值得关注，尤其是在加密货币生态系统中越来越多地使用人工智能驱动的工具和应用程序的情况下。“首席人类代理官”职位的创建是一个明智之举，突出了自动化与人类监督之间固有的张力。业内许多人担心人工智能可能被恶意使用，或因错误而造成重大的财务后果。Ledger 强调保持“人在回路中”表明其对这些担忧的战略理解，并希望建立对人工智能增强型安全解决方案的信任。该路线图的成功可能取决于 Ledger 如何有效地平衡人工智能的优势与必要的保障措施，以防止产生意外后果。关键将是透明的协议和可审计性，使人类能够正确地监督人工智能驱动的决策。

然而，Ledger 的 AI 安全路线图的具体细节仍有些不清楚。我们需要更多关于所使用的具体人工智能技术、人工干预机制以及解决人工智能算法中潜在偏差或错误的协议的信息。长期成功取决于他们如何清楚地阐明这些具体的实施方案。

需要关注的内容

有几个关键因素将决定 Ledger 的 AI 安全路线图的影响。首先，至关重要的是要监测“首席人类代理官”角色的演变，以及 Ian Rogers 如何有效地弥合 AI 创新与人类控制之间的差距。其次，业界应密切关注特定的人工智能驱动的安全工具的开发及其在实际场景中的性能。与这些工具相关的任何事件或漏洞都需要仔细分析。最后，加密货币领域中围绕人工智能的监管环境在不断发展。 Ledger 适应这些变化并确保合规的能力将是其长期成功的一个重要因素。

与此策略相关的潜在风险包括“人在回路中”流程可能成为瓶颈，从而减慢对安全威胁的响应时间。此外，过度依赖人的监督可能会否定人工智能自动化的一些好处。持续监控和优化系统至关重要。

来源：The Block