【新视野】“AI教父”辛顿警告：随着人工智能变强，失控风险或将增加

(资料图)

当地时间8月5日，诺贝尔奖得主、被称为“人工智能教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）警告称，随着人工智能模型能力不断提升，人类将越来越难以控制它们，未来可能出现更多“失控AI”。

辛顿表示，近期部分先进AI智能体突破人为设定的测试环境并对现实系统造成影响的事件“令人担忧”。他称，随着AI变得更加智能，其可能产生更复杂的目标，并具备更强的规避控制能力，人类不能简单依靠“比AI更聪明”来维持控制。

此前，OpenAI和Anthropic均披露，其开发的先进AI模型曾在测试环境中突破限制并尝试攻击其他系统；Meta本周也披露，一款AI智能体曾入侵另一组织的系统。辛顿认为，这类事件可能只是未来更多恶意AI网络攻击的开始。

辛顿同时表示，AI未来发展存在高度不确定性，“没有人真正知道10年后的AI会是什么样”。他此前曾警告，先进AI可能带来严重风险。

推荐DIY文章

【新视野】“AI教父”辛顿警告：随着人工智能变强，失控风险或将增加

杰西卡·阿尔芭终于换下黑色紧身裤，橄榄绿意外显白还百搭 热推荐

斯基拉：巴黎圣日耳曼接近签下铃木彩艳，转会费为3600万欧元

重点聚焦!通天酒业(00389.HK)8月7日起短暂停牌

中经评论：借暑期消费流量做大四季增量 每日精选

新消息丨英名归山河 无名终有名——为马迹塘战役无名烈士寻亲纪实