薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

admin4小时前天气预报3

专题:中国发展高层论坛2026年年会

  中国发展高层论坛2026年年会于3月22日至23日在北京召开,本届论坛主题为“‘十五五’的中国:高质量发展与共创新机遇”。清华大学苏世民书院院长、教授薛澜出席并演讲。

薛澜:应对智能体治理风险,必须坚持以人为本、智能向善原则

  薛澜指出, 近期智能体发展速度极快。他解释道,如果把传统的AI大模型比作“大脑”,那么智能体则是给这个大脑加上了“手”、工具和记忆,使其能够真正自主完成复杂的任务。在应用层面,他提到国内近期活跃的“养龙虾”现象,用户通过多种方式给系统“喂”Token,将其培养成真正的个人助手。他认为,实现这一目标需要一定的前提条件,而中国目前在这方面具备许多基础优势。

  就如何应对智能体治理风险,薛澜认为, 必须始终坚持“以人为本、智能向善”的基本原则,并强调采取适合智能体特点的“敏捷治理、多元共治”模式。他提出,治理模式需在原有大语言模型治理基础上进行三点调整:首先,从“内容安全”延伸到“行为安全”,不仅要管控文本内容,更要确保智能体执行动作的边界可靠;其次,从静态边界管理转向“动态边界管理”,随着技术迭代和安全边界的扩大,治理模式必须同步升级;最后,从单纯的“风险防控”转向“可信交互”,只有建立起用户对智能体的信任,才敢授权其处理订酒店、机票等关键任务。

  在具体治理举措上,薛澜提出了三方面建议:

  第一,从技术角度,要以安全可控为底线,通过技术架构确保智能体行为可验证、可干预、可追溯。具体包括实施权限隔离与人类控制,确保关键环节由人主导;搭建部署安全智能体,进行持续监控评估;以及构建安全可信的执行环境。

  第二,从监管角度,要以权责清晰为基础,通过制度设计明确各方责任,为创新提供秩序轨道。重点在于明确用户授权,遏制平台权限滥用,并建立包容审慎的分级监管制度。

  第三,从社会角度,需采取多项应对措施:一是“能力重塑”,培养劳动者指挥Agent协作的新技能,提升人机协作能力;二是建立“就业缓冲”机制,通过转岗帮助受冲击群体寻找新就业方式;三是完善“社会保障”,健全失业与再就业支持机制,兜底暂时未就业群体;四是加强“公共教育”,提升全民对人工智能的认知与风险意识,既避免盲目跟风应用,又鼓励大众积极拥抱新技术。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

相关文章

高盛:维持九龙仓集团“沽售”评级 估值欠缺吸引力

高盛:维持九龙仓集团“沽售”评级 估值欠缺吸引力

  高盛发布研报称,维持九龙仓集团(00004)“沽售”评级,并维持基于资产净值(NAV)目标价于25港元不变,去年全年业绩胜预期,管理层对香港豪宅市场前景感乐观,但对中国内地的投资物业及物流业务则...

小米集团-W午前涨超4% 新一代SU7将于3月19日正式上市

小米集团-W午前涨超4% 新一代SU7将于3月19日正式上市

  小米集团-W(01810)午前股价上涨4.08%,现报34.68港元,成交额33.78亿港元。   小米汽车今日宣布,新一代SU7将于3月19日19:00正式上市。据悉,新一代小米SU7已于1月...

血压管理再升级 OPPO Watch X3正式发布国补价2209元起

血压管理再升级 OPPO Watch X3正式发布国补价2209元起

  新浪数码讯 3月17日晚间消息,智能手机品牌 OPPO 在运动健康成立五周年之际,正式发布全新智能手表 OPPO Watch X3。   新品“无感高血压风险评估”全新升级,从风险预警到主动干预,...

阳光保险:2025年归母净利润63.1亿元 同比增长15.7%

阳光保险:2025年归母净利润63.1亿元 同比增长15.7%

  3月16日金融一线消息,阳光保险发布2025年年报显示,2025年该集团实现总保费收入1507.2亿元,同比增长17.4%。实现保险服务收入650.7亿元,同比增长1.7%。归属于母公司股东的净利...

鸿承环保科技盘中涨超10% 预计全年纯利同比增加46.7%至48.3%

鸿承环保科技盘中涨超10% 预计全年纯利同比增加46.7%至48.3%

  鸿承环保科技(02265)发盈喜后一度涨超10%,截至发稿,股价上涨2.38%,现报1.72港元,成交额287.100万港元。   鸿承环保科技发布盈喜,预期全年纯利8800万元至8900万元人...

酒价内参3月24日价格发布,洋河梦之蓝M6+小幅上涨1元

酒价内参3月24日价格发布,洋河梦之蓝M6+小幅上涨1元

  新浪财经“酒价内参”过去24小时收集的数据显示,中国白酒市场各大单品的终端零售均价在3月24日整体小幅回落。如果主要单品各取一瓶打包售卖,今日总售价为9913元,较昨日下跌18元。市场交投延续平稳...