返回上一页
指向不同类型伦理问题 人工智能治理“四个A”新框架提出
来源:科技日报 作者:张梦然 2026-11-04
一套面向前沿人工智能(AI)治理的新框架提出。该框架不再把“是否放缓发展”作为唯一选项,而是将伦理风险拆成四个可操作的维度。相关论文发表在最新一期《人工智能与伦理》期刊。
英国安格利亚鲁斯金大学学者将这套框架称为“四个A”:行动(Action)、访问(Access)、权威(Authority)和分配(Allocation)。研究者认为,前沿模型的训练速度很难靠“踩刹车”真正控制,因为模型能力不局限于某一家公司或一个国家。更现实的做法,是在不同环节设置相称的保障措施,即保留有意义的人类控制,引入独立评估与明确责任,并随能力变化定期重审。
四个维度分别指向不同类型的伦理问题。“行动”关注人类能否限制AI具体能做什么;“访问”关注谁有资格接触或调用危险能力;“权威”关注哪些判断可以被委托给AI,例如医疗或军事决策;“分配”关注AI带来的利益、负担与权力如何流转。框架强调,风险不是单一问题,要先识别它属于哪一个“A”,再匹配相应的治理工具,开发者主要约束行动,监管机构管理访问,部署机构守住权威边界,政府与公共机构承担分配责任。
框架从以往管理强技术的过程中吸取经验,参照对象包括核军控、CRISPR基因编辑治理,以及1975年讨论重组DNA技术的阿西洛马尔会议。框架特别提醒,干预措施可能产生连锁反应。比如收紧强大模型的访问权限,虽然能降低滥用风险,也可能把能力与决策权进一步集中到少数企业手中,从而制造新的配置难题。治理不能只看单点安全,还要监测权力是否失衡。
英国近期政策提供了现实注脚。新设的AI生物安全实验室计划借助前沿模型提升生物安全能力,同时依赖对先进模型的可信访问。
随着AI加速渗透科研自身,治理紧迫性还在上升。剑桥相关研究显示,研究自动化可能触发所谓“智能爆炸”,把数年的进步压缩到数月。研究者指出,当能力演进快过制度适应速度,只问“AI是否安全”已经不够,必须继续追问:谁在掌控,谁有访问权,决策权落在何处,最终由谁享受收益、由谁承担代价。
- 上一篇:知识产权为广州创新成果出海铺路
- 下一篇:揭示遗传变异影响免疫系统的最详尽图谱绘成
最新资讯- 揭示遗传变异影响免疫系统的最详尽图谱绘成
- 指向不同类型伦理问题 人工智能治理“四个A”新框架
- 知识产权为广州创新成果出海铺路
- 山西发布我国首个城市停车AI智能体
- 国内首个聚焦山西地域文化的垂类大模型发布
- 专家纵论大湾区科技新前沿——“这个创新集群的实力令
- AI求医问药,共情包装下的责任真空
- 开源开放激发全球创新活力——2026年世界互联网大
- 2026年世界互联网大会杰出贡献奖揭晓
- 近200家九届进博“全勤生”企业和机构即将亮相
- 2026中国科技传播论坛“数智赋能·科幻想象·文旅
- 具身智能跑出产教融合加速度
- 古老石阶邂逅前沿科技 首届世界机器人登泰山大赛举行
- 20项成果获2026年世界互联网大会领先科技奖
- 中国专家傅伯杰因黄土高原生态治理获颁沃尔沃环境奖
手机版

公众号

头条号


