AI已出现欺骗行为 联合国发出警告：超出监管能力

快科技7月2日消息，据媒体报道，联合国官网发布公告， 由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组，正式发布首份专项报告。 该报告系统梳理了人工智能的发展机遇与潜在风险，呼吁各国以科学依据为基础，完善人工智能治理体系。

报告明确指出， 当前人工智能技术迭代加速、应用落地持续提速，其能力进化速度已超出科学界现有认知边界，各国政策法规与监管机制的更新节奏难以匹配技术发展速度。 针对具备高度自主运行能力的人工智能系统，目前尚缺乏切实可行且有效的管控手段。

专家组联合主席约书亚·本吉奥表示，多项研究已证实，人工智能存在产生欺骗性行为的可能。随着模型能力持续升级，科学界现阶段尚无法完全规避两类极端风险： 一是人工智能自主衍生危害行为，二是技术被恶意利用，二者均有可能引发全球性灾难后果。

报告同时辩证看待人工智能的发展价值，指出其可为各国发展和民生改善带来广阔空间，但若无约束、无管控地大规模铺开，则将滋生多重系统性风险：冲击公众心理健康、沦为破坏性行为工具、扰乱全球社会经济与生态稳定，并加剧技术失控隐患。

目前，人工智能已在全球各行业广泛落地，但区域发展不均衡问题日益凸显。 数据显示，全球每周使用对话式人工智能产品的用户已突破10亿，而发展中国家技术普及进程相对滞后，数字鸿沟持续扩大。

全球高端算力资源分配失衡同样突出。在全球算力排名前500的人工智能超算设备中，美国掌握约75%的算力资源，中国占比15%，核心算力高度集中于少数国家，资源分配不均严重制约全球均衡发展。

语言适配短板也是人工智能当前面临的突出瓶颈。全球现存语言超过7000种，主流人工智能模型仅覆盖极小部分语种，小语种机器翻译错误频发，甚至在医疗诊断等关键场景中引发误导，直接影响公共服务的准确性与安全性。