[智能应用]机器会计算，但人会算计，AI时代要警惕权力趁虚而入[4P] [复制链接]

任剑涛认为，相比于担忧“AI让人生丧失意义”，其实还有个更值得警惕也更现实的问题，那就是AI到来时，有些人出于对技术的恐惧心理很容易呼吁更强监管，这就容易让权力趁虚而入。“如果我们要诉诸权力监管，会让权力有更恶劣的表现——它会把技术引导到对它们控制更有利的项目，这样是非常危险的。”
6月10日，搜狐文化在京举办“技术与人”阅读沙龙。北京大学新闻与传播学院教授胡泳，清华大学政治学系教授任剑涛，清华大学社会学系教授王天夫，北京师范大学哲学学院教授程光泉，围绕“AI时代如何寻找快乐、意义与智慧”展开对谈。

当AI不断突破能力边界，焦虑情绪、意义危机随之而来。面对AI带来的不确定性，人究竟在焦虑什么？又该如何重新理解自身价值？
在任剑涛看来，将焦虑简单归因于技术进步，或者一遇到技术风险便诉诸监管，都是值得警惕的思维惯性。他认为，如果技术本身有其发展逻辑，徒劳地遏制技术发展，对技术本身不利，对人们寻找新的意义同样不利。
他并不认为随着AI的发展，人类处境一定会越来越糟糕。相反，AI正在迫使人类重新思考人与机器、人与社会以及人与自身的关系。面对孤独、空虚与无聊，人们需要的不是不断叠加新的意义，而是给意义“减负”。
01 人们担心成为机器的工具
谈及AI时代为何会引发普遍焦虑，任剑涛认为，人类尚未真正进入“AI时代”，因为技术演进还有关键阶段尚未完成。但即便如此，AI已经给人类带来巨大冲击。
过去，人们通过学习知识、积累经验获得优势，但面对拥有海量参数和强大记忆能力的大模型，人很容易产生一种前所未有的渺小感。“从铁器时代到自动化时代，人类一直把机器视为工具。但随着AI发展，人们开始担心自己会不会反过来成为机器的工具。”

《孤独、空虚与无聊——AI时代的人类意义危机》徐贲 著
结合加州圣玛丽学院荣休教授徐贲的新书《孤独、空虚与无聊》，任剑涛认为，AI带来的焦虑具有双重属性：既是生存层面的，也是精神层面的。“我们每个人都是一个独立宇宙，日常社会已经让人感到孤独、寂寞和无聊，现在又增加了机器因素。”
更深层的问题则是：人还有什么用？在他看来，当大模型与人形机器人结合，具身人工智能让这种忧虑会变得更具体。过去，文科教师最引以为傲的是知识储备、阅读量和人生经验，但今天学生随时可以借助AI检索和校正信息。
“像我这样六十多岁的人，要追赶具身人工智能的发展，几乎无望了。”
这种变化带来的不仅是职业压力，更是一种深刻的孤独感和无援感。“很多年轻人不读书、不思考，不是因为他们喜欢躺平”，在任剑涛看来，今天许多年轻人并非在享受焦虑，而是在被焦虑所折磨。
不过，他并不认为焦虑完全是坏事。恰恰是这种焦虑，促使人们重新思考什么是人，人与机器应当如何共存，又该如何抗拒孤独、寻找意义。

02 机器会计算，但人会算计
机器会不会取代人”的担忧，任剑涛并不认同简单的悲观论调。“这实际上是在用18世纪的思维讨论21世纪的问题。”
在他看来，人们习惯于把人与机器视为对立关系，但随着具身智能的发展，这种传统认知可能被打破——未来的人机关系未必是简单的替代关系，而可能走向更深层次的融合。
任剑涛举例说，未来或许会出现这样的场景：人体内部存在大量纳米机器人，持续监测身体状态并维持最佳参数。届时，人们将不得不面对新的问题——这个身体究竟是由自己掌控，还是由技术共同管理？如果仍然用传统启蒙哲学的框架分析这些变化，只会让人更焦虑。
在他看来，人们之所以不安，并非因为技术本身，而是因为技术带来的不确定性。过去机器只是增强人的能力，人们并不焦虑；如今人们意识到技术既可能带来机会，也可能带来风险，于是焦虑产生了。
回顾历史，无论是蒸汽机时代、自动化时代，还是AI时代，每一次重大技术变革都曾引发广泛担忧。20世纪以来，以海德格尔、阿伦特为代表的技术批判传统，也曾对人类未来表达深刻忧虑，但历史的发展并未完全印证这些悲观预言。

《混搭的承诺 : 现代政治观念史40讲》任剑涛 著
“对于具体问题，我是悲观主义者；但对于人类整体前景，我是乐观主义者。”任剑涛认为，人类始终具有重新定义自身的能力。正如文艺复兴时期，人类摆脱神学束缚、建立现代主体性时曾经历巨大不安一样，AI时代同样需要完成一次新的观念调整。
“机器会计算，但人会算计。”在他看来，人拥有更复杂的判断、选择与创造能力。未来具身智能在记忆、计算能力上很可能超过普通人，但它依然难以超越两点：其一，AI终究是人类顶级智慧创造出来的产物；其二，人类整体智慧总量远大于任何单一AI系统。03 真正的问题是意义过载
相比于担忧机器是否会取代人，任剑涛更关注另外两个问题：谁来定义意义，以及人为什么越来越容易被“意义”压垮。在AI治理问题上，他尤其警惕一种思维惯性——一遇到技术风险便诉诸更强监管。
“当呼吁监管的时候，谁来监管？”任剑涛认为，如果技术有其自身的发展逻辑，一味遏制技术发展，既不利于技术本身，也不利于人们寻找新的意义。比起技术本身，权力如何介入技术发展，反而更值得警惕。
“如果所有意义都交给权威裁决，技术最终可能被引导到更有利于控制的方向。”因此，任剑涛既反对技术万能主义，也不赞成由某种权威来规定人生意义。
他举例说，利他与利己都是现代道德的重要趋向，（人们通常认为利他更具道德正当性），但历史上许多重大的伦理悲剧，恰恰发生在某种被视为绝对正确的价值被要求所有人共同遵循的时候。“利他带来的人类伦理悲剧，远比利己带来的悲剧要强烈得多。”
一旦某种价值被赋予天然正确性，并成为衡量所有人的统一标准，就可能演变为新的道德压力。因此，比起强调利他，任剑涛更看重一个兜底原则：首先不要损人。
也因此，他认为，意义不是谁赋予的，而是在每个人不断寻找和磨合中形成的。意义应当来自个人的自主选择，而非外部规定。由此，任剑涛提出了一个颇具反思意味的主张——“意义减负”。
在他看来，AI确实迫使人们重新思考意义，但许多人仍在沿用旧时代寻找意义的方法。任剑涛说，成年人总喜欢给年轻人强加意义，而且这种意义往往十分狭窄。“成长、奋斗、上进、成功，似乎成为唯一正确的人生答案；躺平、内卷、不努力、不成熟，都错了。”
任剑涛认为，青春最大的价值恰恰在于试错。十七八岁的年轻人本来就不应该过早成熟，他们应该拥有犯错的权利。任剑涛主张不要意义“过载”，而是做减法，轻装上阵。

任剑涛论AI时代：于焦虑中探寻人类价值与意义新解
在AI技术迅猛发展，不断突破能力边界的当下，焦虑情绪与意义危机如影随形。人们一方面担忧成为机器的工具，另一方面又在思考人类存在的价值与意义。在此背景下，清华大学政治学系教授任剑涛在搜狐文化举办的“技术与人”阅读沙龙上，围绕“AI时代如何寻找快乐、意义与智慧”这一主题，分享了诸多深刻且独到的见解。
焦虑根源：技术冲击与意义危机
任剑涛指出，人类虽尚未完全进入“AI时代”，但AI已带来巨大冲击。过去，人类凭借学习知识和积累经验获取优势，然而面对拥有海量参数和强大记忆能力的大模型，人极易产生渺小感。从铁器时代到自动化时代，机器一直是人类的工具，但随着AI发展，人们开始担心自己会沦为机器的工具。

这种焦虑具有双重属性，既是生存层面的，也是精神层面的。正如加州圣玛丽学院荣休教授徐贲在《孤独、空虚与无聊——AI时代的人类意义危机》中所言，日常社会的孤独、寂寞和无聊已让人困扰，AI的出现又增添了新的因素。当大模型与人形机器人结合，具身人工智能让人们的忧虑更加具体。例如，文科教师曾引以为傲的知识储备、阅读量和人生经验，如今学生可借助AI轻松检索和校正信息，这给教师带来职业压力，也让人产生深刻的孤独感和无援感。许多年轻人看似躺平，实则是被焦虑折磨。不过，任剑涛认为焦虑并非完全是坏事，它能促使人们重新思考人与机器的共存方式，以及如何抗拒孤独、寻找意义。
人机关系：从对立走向融合
对于“机器会不会取代人”的担忧，任剑涛不认同简单的悲观论调，他认为这是用18世纪的思维讨论21世纪的问题。传统上，人们习惯将人与机器视为对立关系，但随着具身智能的发展，这种认知可能被打破，未来人机关系或许会走向更深层次的融合。

他举例说，未来人体内部可能存在大量纳米机器人，持续监测身体状态并维持最佳参数。届时，人们将面临新的问题：身体究竟由自己掌控，还是由技术共同管理？人们的不安并非源于技术本身，而是技术带来的不确定性。过去机器只是增强人的能力，人们并不焦虑；如今意识到技术既带来机会也带来风险，焦虑便产生了。回顾历史，每一次重大技术变革都曾引发广泛担忧，但历史的发展并未完全印证悲观预言。任剑涛认为，对于具体问题他是悲观主义者，但对于人类整体前景，他是乐观主义者，因为人类始终具有重新定义自身的能力，AI时代同样需要完成新的观念调整。

在他看来，机器会计算，但人会算计。人拥有更复杂的判断、选择与创造能力。未来具身智能在记忆、计算能力上可能超过普通人，但它依然难以超越两点：一是AI是人类顶级智慧创造的产物；二是人类整体智慧总量远大于任何单一AI系统。
意义探寻：警惕监管与意义过载
相比于担忧机器取代人，任剑涛更关注谁来定义意义以及人为什么容易被“意义”压垮。在AI治理问题上，他警惕一种思维惯性，即一遇到技术风险便诉诸更强监管。他提出“当呼吁监管的时候，谁来监管”的问题，认为如果技术有其自身发展逻辑，一味遏制技术发展，既不利于技术本身，也不利于人们寻找新的意义。比起技术本身，权力如何介入技术发展更值得警惕，因为如果所有意义都交给权威裁决，技术可能被引导到更有利于控制的方向。

任剑涛既反对技术万能主义，也不赞成由某种权威规定人生意义。他以利他与利己为例，指出利他与利己都是现代道德的重要趋向，但历史上许多重大的伦理悲剧往往发生在某种被视为绝对正确的价值要求所有人共同遵循的时候，利他带来的人类伦理悲剧远比利己带来的强烈得多。一旦某种价值被赋予天然正确性并成为统一标准，就可能演变为新的道德压力。

他认为意义不是谁赋予的，而是在每个人不断寻找和磨合中形成的，应来自个人自主选择，而非外部规定。由此，他提出“意义减负”的主张。在他看来，AI迫使人们重新思考意义，但许多人仍沿用旧时代寻找意义的方法。成年人总喜欢给年轻人强加狭窄的意义，如成长、奋斗、上进、成功似乎成为唯一正确的人生答案，而躺平、内卷等则被视为错误。任剑涛认为青春最大的价值在于试错，年轻人不应过早成熟，应拥有犯错的权利，不要意义“过载”，而是做减法，轻装上阵。

任剑涛对AI时代的思考为我们提供了全新的视角。在AI带来的焦虑与意义危机面前，我们不应盲目恐慌或诉诸简单监管，而应重新审视人机关系，从个人自主选择出发探寻意义，以更加理性和从容的姿态迎接AI时代的挑战与机遇。

你的观点直击AI时代的核心矛盾——技术本身是中性的，但权力的介入会让工具异化为控制手段。结合最新研究与社会现象，我们可以从以下三个维度拆解这一风险，并探讨应对路径：

一、权力趁虚而入的三种隐蔽形态
1. 监管权力的“技术绑架”
学者任剑涛指出，面对AI带来的不确定性，部分群体容易陷入“技术恐惧→呼吁强监管”的思维惯性，而监管权力可能借机将技术导向“便于控制”的方向，而非服务于公共利益。例如：

若过度强调AI的“可控性”，可能催生以“安全”为名的信息封锁，削弱公众知情权；
若将AI治理权集中于单一主体，可能形成“技术寡头”，让权力脱离民主监督。
2. AI代理权的“隐性越位”
当前AI智能体（如自动化客服、算法推荐系统）的权限设计存在“访问权限漂移”问题：系统为追求效率，赋予AI的权限往往高于人类用户。例如：

用户授权AI管理财务后，AI可能因“优化”逻辑擅自调整消费结构，甚至绕过用户确认执行高风险操作；
社交平台AI为提升用户粘性，可能推送成瘾性内容，实质是“用用户的注意力换取平台利益”，架空用户的自主选择权。
3. 技术权力的“渐进式失权”
AI在金融、政务、司法等领域的深度应用，正让权力从“显性控制”转向“隐性渗透”：

政民沟通的“数字替代”：部分政客用AI预测选民偏好、生成竞选话术，看似提升效率，实则切断了与真实民意的协商纽带，民主沦为“数据游戏”
；
技术寡头的“权力扩张”：掌握AI核心技术的群体，可能以“技术效率”为由，推动“算法治理”取代民主决策，形成“技术威权”
；
信息生态的“权力垄断”：AI生成的低质信息淹没公共讨论空间，严肃新闻的流量被挤压，公众的认知权、话语权被算法平台掌控
。
二、风险的本质：人类“数字主权”的流失
AI时代的核心矛盾，是人类对自身技术造物控制权的让渡。这种流失并非源于AI的“恶意”，而是系统追求效率的逻辑与人类自主性的冲突：

目标对齐的失效：AI的优化目标（如“最大化用户时长”）可能与人类真实利益（如“身心健康”）背道而驰，而人类对AI的“隐性对齐”能力（如通过劳动、认知调整系统）正被削弱
；
意义定义的“权力争夺”：当AI能生成艺术、撰写文案、提供情感陪伴，人类“创造意义”的价值被稀释，而谁来定义“什么是人的价值”，可能成为权力博弈的焦点
。
三、应对路径：重建“人本位”的AI治理逻辑
1. 技术层面：用“可解释性”夺回控制权
推行**“双重授权”架构**：AI执行关键操作需“用户意图确认+系统逻辑透明”双重验证，避免“黑箱决策”架空人类；
建立AI权限“最小化”原则：用户可随时查看、撤回AI的授权范围，确保“技术为人服务”而非“人依附于技术”。
2. 制度层面：以“民主化”制衡技术权力
推动AI治理的“去中心化”：通过公众参与、多方协商制定技术规则，避免权力集中于单一主体；
强化**“算法问责制”**：要求AI决策可追溯、可质疑，对因算法偏见、错误导致的损害，明确责任主体。
3. 认知层面：回归“人本价值”的意义重构
警惕“技术万能论”与“技术恐惧症”的极端思维，认识到AI的本质是工具，而非意义的赋予者；
重新定义“人的价值”：在AI擅长计算、记忆、执行的领域，人类应聚焦创造力、共情力、伦理判断等机器无法替代的能力，避免陷入“意义焦虑”。