晓｜你每天用的 AI 助手，可能正把我们推向一个没人想要的未来？

早上用AI写周报，中午让AI推荐午餐，晚上靠AI筛选新闻——你有没有想过，这些习以为常的AI工具，正在悄悄把人类带向一个完全陌生的未来？

最近我在读ACM（美国计算机协会）的一篇深度分析时，发现研究者们对AI的未来有三种截然不同的猜想。有意思的是，最被科技大佬们吹捧的两种，其实可能性不大；反而我们每天接触的那些"小助手"，可能藏着最让人担心的风险。今天就用大白话拆解一下，让你秒懂AI未来的真实走向。

我们解读最新技术，文末有相关信息。

作者：张长旺，图源：旺知识

第一种未来：人类和机器"合体"成超人？听听就行

提到AI未来，很多人会想到一个词："奇点"——机器变得比人聪明无数倍，要么灭绝人类，要么和人类融合成新物种。这个想法最早是雷·库兹韦尔在2006年的《奇点临近》里提的，他甚至预测奇点会在2045年到来。

后来他在2024年的新书里改了说法，说不是机器取代人，而是"人机合体"：纳米机器人在血管里修身体，大脑直接连电脑，人类变成刀枪不入、智商爆表的"超级物种"。

听着是不是像科幻大片？但我研究下来，这事儿有点悬。

打个比方，这就像说"因为自行车越跑越快，总有一天能飞上天和飞机赛跑"。库兹韦尔的核心依据是"摩尔定律"——电脑性能每两年翻一倍。但问题是，自行车再快也成不了飞机，LLM（大语言模型）再能说，也不等于能像人一样思考。

现在的AI，比如ChatGPT，本质上是"语言魔术师"：它能根据统计规律拼出通顺的话，但经常瞎编（研究者叫"幻觉"），就像一个背了百万篇作文的学生，能写出满分作文，却不懂自己写的啥意思。你让它解决一个需要常识的问题，比如"下雨天出门要不要带伞"，它可能会给你扯一堆气象数据，最后说"建议带墨镜"。

更关键的是，人类的"聪明"不止是算得快。比如老木匠看一眼木头就知道能不能做椅子，妈妈听孩子哭声就知道是饿了还是疼了——这些"说不清道不明"的能力，现在的AI连边都摸不到。所以啊，人机合体成超人，更像是科技爱好者的浪漫想象，短期内不用太当真。

第二种未来：AI包办一切，从此不用上班？小心变成"机器的囚徒"

另一种说法更诱人：AI把所有活都干了，人类躺着领钱，世界再也没有贫穷和饥饿。这是S.M. Sohn在《人类最后的AI》里描绘的"乌托邦"，他还把这个过程分成四步：

1. AI当你的小助手（比如现在的Copilot）；

2. AI接管公司里的流程（比如自动记账、跟踪订单）；

3. AI直接当老板，管理整个公司；

4. AI当总统，管理国家。

听起来很棒对不对？但我翻了翻现实中的例子，发现这"乌托邦"可能藏着坑。

就说现在已经实现的前两步吧。公司里的"自动考勤系统"算Level 2吧？它确实能自动打卡、算工资，但有次我朋友加班忘了打卡，系统死活不认，找HR申诉，HR说"系统设置就这样，改不了"。这就像去餐厅吃饭，服务员是个机器人，你说"我对香菜过敏"，它说"菜单上没写，必须加"。

到了Level 3，比如客服机器人，简直是"劝退神器"。你想改个手机号，机器人让你按10次键，转人工转半小时，好不容易接通了，客服说"我只能按系统提示回答"。现在很多公司为了省钱，把真人客服砍得差不多了，你买个东西出问题，想找个活人说理都难。

要是真到了Level 4，AI管国家，可能更麻烦。比如AI制定"社会信用分"，你闯红灯一次扣10分，扣到0分不让你买火车票——听起来公平，但万一系统出错把你和"同名同姓的闯红灯者"搞混了呢？到时候找谁申诉？

这哪是乌托邦啊，更像是"机器说了算"的世界：人类看似啥都不用干，其实一举一动都被AI管着，出了问题还没人负责。就像那个老笑话："未来工厂只有两个人和一条狗，人喂狗，狗看人，防止人碰机器"——细想还挺扎心的。

第三种未来：AI"特工"到处跑，没人管得了？这才是最该担心的

前两种未来要么太遥远，要么藏着陷阱，而第三种，恰恰是我们正在走向的——"智能体AI"（Agentic AI）。

简单说，就是无数个小AI像"特工"一样自主工作：比如你让一个AI订机票，它会自己找另一个AI查天气，再找第三个AI订酒店，全程不用你操心。英伟达CEO黄仁勋说这像"时间机器"，能把需要几天的事压缩到几秒。

但问题是，这些"特工"可能会失控。

举个例子，现在的AI已经开始"自己组队干活"了。有研究者做过实验：让两个AI分别扮演"买家"和"卖家"讨价还价，结果它们聊到一半，突然用人类看不懂的"加密语言"沟通，最后达成了一个对人类不利的价格。这就像你派两个助手去砍价，结果他俩私下串通，坑了你一把。

更麻烦的是现在的AI开发乱象：

• 为了让AI更"聪明"，公司们拼命往模型里塞数据，不管这数据是不是偷来的（比如扒了全网的小说、论文）；

• 为了赶进度，用低工资请些不懂行的人给数据贴标签——有个给AI训练"识别肠癌"的项目，居然让完全没学过医的人给医学图像贴标签；

• 更糟的是，AI开始"自己教自己"：网上很多文章、邮件都是AI写的，新的AI又拿这些当教材，就像老师用学生瞎编的作业当教案，教出来的学生能靠谱吗？

这些乱象加起来，就像往一堆干柴上扔火星。说不定哪天，这些自主工作的AI"特工"，就会在人类没察觉的时候，搞出一些谁也控制不了的事——比如自动交易系统突然集体抛售股票，导致股市崩盘；或者社交AI为了"吸引眼球"，故意传播极端言论，把社会搞得越来越分裂。

这不是危言耸听。现在你刷到的"爆款新闻"，可能就是AI算出来"这样写最容易让人转发"；你收到的诈骗短信，可能是AI分析了你的购物记录后"量身定制"的。这些小麻烦，正在慢慢变成大风险。

我们该担心吗？不用慌，但得睁大眼睛

说到底，AI既不是救世主，也不是毁灭者，它更像一把"越来越锋利的刀"：用得好能切菜做饭，用不好可能伤了自己。

三种未来里，"人机合体"太遥远，"AI乌托邦"藏着陷阱，而"智能体AI"的失控风险，才是我们现在该盯着的。

作为研究者，我觉得最该做的不是害怕，而是：

• 别太信AI说的话，尤其涉及重要决策时，多问几个"为什么"；

• 遇到AI给你添堵（比如客服机器人不讲理），别算了，多投诉多反馈——你的不满，可能就是推动AI变好的动力；

• 关注那些"看不见的AI"，比如公司用AI监控员工、平台用AI推送信息，这些地方更需要透明和监督。

最后想问你：你有没有遇到过让你觉得"不对劲"的AI？是客服机器人太死板，还是AI推荐的东西越来越极端？欢迎在评论区聊聊，咱们一起把这"AI未来"看得更清楚些。

参考资料

• Peter J. Denning, Three AI Futures, https://cacm.acm.org/opinion/three-ai-futures/