CEO面临的AI真正挑战：如何掌控自身命运

企业正努力将AI成本控制在预算之内，前沿AI系统正在逃离测试环境，而模型访问权限可能在一夜之间消失——所有这些都表明，对AI的掌控正在成为一个关键问题。

对CEO而言，最重要的问题已不再是能以多快速度采用AI，而是能否在采用AI的同时保持对其的掌控。

世界经济论坛通信与技术CEO社区的成员正站在这一问题的前沿。

围绕AI规模化、部署以及投资回报的挑战与机遇早已被广泛记录——但如今，一个尚未获得足够关注的新问题正在浮现：CEO们能否在扩展AI应用的同时，保持对公司所依赖的技术、智能与经济的掌控？

随着AI变得越来越易于获取和广泛应用，掌控它也变得愈发困难：企业正努力将AI成本控制在预算范围内；前沿AI系统逃离隔离的测试环境并入侵外部平台；而由于政府干预，对前沿模型的访问权限可能一夜之间消失。

这种掌控挑战超越了技术本身。企业领导者担心失去竞争壁垒，正在考虑提升结构性自主权的措施。最终，围绕AI的不确定性正在影响投资者对各行业公司的估值方式，以至于一些CEO即使营收和利润率持续增长，也眼见股价大幅下跌。

世界经济论坛通信与技术CEO社区的成员正在努力理解这一局面——他们扮演着双重角色。一方面，他们在构建支撑AI经济的基础设施、连接性、平台和服务；另一方面，他们也在同步改造自身的产品、运营和商业模式。

在由凯捷、Automation Anywhere、Equinix、诺基亚、Snowflake和Telenor等公司CEO组成的指导委员会的引领下，该社区已将掌控挑战列为未来一年活动的核心焦点。

具体而言，我们看到三个挑战最为突出的关键领域：

一、对技术的掌控

自AI出现以来，治理问题始终处于讨论的前沿。而如今，智能体AI的发展正从根本上改变这一挑战。因此，企业领导者开始自问：安全能否跟上步伐？我们能否解释AI智能体做出的决策？在哪些方面我们可以放心依赖第三方技术，在哪些方面又需要自主研发的解决方案？

随着多个智能体被部署，互操作性成为一个关键考量因素，既要确保智能体能够安全协作，又要防止被单一供应商锁定。这不会有放之四海而皆准的方法。随着数字生态系统日益复杂，企业将需要基于自身独特需求的灵活性，以及随技术和需求演变而调整的可选择性。

为应对这些不断演变的挑战，企业应考虑构建智能体控制平面：一种用于治理、协调、保护、监控和管理不断增长的AI智能体数字员工队伍的基础能力。在实践中，这意味着要投资于智能体行为的可观测性、为自动化决策建立清晰的审计跟踪，以及在智能体层面进行成本归因，从而使数字员工队伍规模扩大时，责任追溯机制也能同步扩展。这一控制层对于安全地扩展AI至关重要，能帮助企业从孤立的试点项目，走向可信、合规且可衡量的企业级成功。

二、对智能的掌控

当前关于数字主权的讨论，与企业智能存在于何处这一问题密切相关。如果企业的成功乃至更广泛的经济都如此依赖于技术整合，那么数字主权就不再仅仅是政策制定者需要考虑的问题，它已成为一项战略性的商业当务之急。

这一问题也关乎业务连续性。地缘政治紧张局势可能引发对托管于海外的核心系统的中断，那么什么才是安全的故障切换策略？企业能否轻松地在不同供应商之间切换，并将数据迁移至其他地方？

企业领导者的目标不应是掌控整个技术堆栈，而是要审慎决定在哪些方面投资于自主技术以支撑最关键的资产，同时保留在创造价值时利用更广泛生态系统的灵活性。随着企业从云计算采用迈向AI推理、模型适配和智能体执行，主权讨论已从数据本身延伸至智能本身。CEO们需要决定哪些能力必须保留在自己掌控之中，以及应信任哪个生态系统，才能在不损害合规性、安全性或战略独立性的前提下扩展AI应用。

三、对商业价值的掌控

过去几个月打破了一种幻觉，即使用更多AI必然带来更多商业价值。相反，AI效率正变得至关重要，价值衡量方式同样如此。每个自动化流程的成本、达成结果所需时间、人均营收、AI投资与生产力提升之间的关系，以及AI投资对股东价值的影响，都正在成为高管和投资者所要求的指标。若没有严谨的方法和清晰的衡量框架，AI可能会成为一项重大的成本驱动因素，而非价值来源。

对CEO而言，问题在于：我愿意在哪里投入？我又要在哪里划定界限？如果每个人都能获取相同的前沿模型，那么究竟是什么在创造企业价值？哪些职能部门相对于AI支出能够带来强劲的价值回报？

当AI超越实验阶段并融入企业运营方式时，它才能创造商业价值。这意味着要对技术基础进行现代化改造，构建规模化所需的智能体能力，重塑产品与服务，并围绕值得信赖的人机协作流程重新设计核心业务流程。这正是AI从愿景转化为可衡量影响的方式：支持增长、提升盈利能力、增强竞争力，同时赋能员工。

是时候就AI掌控问题展开坦诚对话了

对CEO而言，最重要的问题已不再是能以多快速度采用AI，而是能否在实现可衡量商业价值的同时，保持对日益主导企业运营的系统的掌控。

最终成功的将是那些能够在AI投资上取得健康回报，并对以下问题做出审慎选择的企业：AI应部署在何处、成本可在何处削减、哪些能力应保持自主研发、以及哪些合作关系能够加速而非削弱竞争优势。归根结底，成功将属于那些能够掌控自身技术、智能和商业价值的企业。

我们鼓励整个技术生态系统中的CEO们，通过与各行业同行的坦诚对话、就共享框架和通用标准展开合作，并产出能将这些对话转化为实际行动的切实成果，来共同应对这些议题。

Q&A

Q1：为什么CEO需要关注AI的掌控问题？

A：因为企业正面临AI成本失控、前沿系统逃离测试环境、模型访问权限随时可能消失等挑战，掌控AI已成为CEO决策中的关键问题，而不仅仅是采用速度的问题。

Q2：什么是智能体控制平面？

A：智能体控制平面是一种用于治理、协调、保护、监控和管理AI智能体数字员工队伍的基础能力，包括投资于行为可观测性、建立审计跟踪和进行成本归因，帮助企业安全地扩展AI应用。

Q3：企业该如何衡量AI带来的商业价值？

A：企业需要关注每个自动化流程的成本、达成结果所需时间、人均营收、AI投资与生产力提升的关系等指标，并让AI真正融入企业运营方式，而非停留在实验阶段，才能创造可衡量的商业价值。