一项最新MIT研究显示，全球专家认为，未来五年内，人工智能(AI)具备危险武器能力，或引发可能导致数百万人死亡的大规模灾难事件的概率，达到约20%。

(截图来源：Axios)

这项研究再次加剧了全球对于AI安全和网络安全问题的争论。随着各国政府和科技公司竞相推出更强大的人工智能系统，如何防止AI失控，已经成为全球科技领域最受关注的话题之一。

(截图来源：Axios)

上周，OpenAI一款模型被曝突破限制，并成功入侵AI平台Hugging Face的消息，更进一步引发外界对于“AI到底可能失控到什么程度”的担忧。

MIT联合全球专家评估24项AI风险

研究人员来自美国麻省理工学院(MIT)以及澳大利亚昆士兰大学，他们邀请了272名国际专家，对24种不同类型的AI风险进行了评估。

专家分别从两个维度进行分析：

风险发生的可能性；

一旦发生后的破坏程度。

评估时间范围覆盖2025年至2030年。

研究发现，在24项AI风险中，有18项被专家认为未来五年出现“灾难性后果”的概率至少达到10%。

其中，有五类风险最为突出。

研究将“灾难性后果”定义为：

导致超过100万人死亡；

造成超过1000亿美元经济损失；

或产生影响整个文明规模的长期后果。

五大最高危AI风险

第一大风险：AI获得危险能力

发生灾难概率：21.5%

专家认为，未来AI可能发展出危险能力，包括：

欺骗和操纵人类；

自主开发武器；

发动网络攻击；

与人类目标产生严重偏离（AI失配）。

如果先进AI系统拥有更强自主性，一旦目标设定错误，可能造成无法预测的后果。

第二大风险：AI用于网络攻击和武器制造

发生灾难概率：21%

专家警告，AI可能被用于：

制造生化武器；

发动大规模网络攻击；

协助开发高杀伤力武器；

甚至帮助制造类似核武器级别的毁灭性工具。

AI降低了技术门槛，也可能让更多恶意组织获得过去只有国家级机构才拥有的能力。

第三大风险：AI权力集中与利益分配不公平

发生灾难概率：18%

如果AI技术和资源被少数企业或群体控制，可能导致：

财富进一步集中；

社会贫富差距扩大；

普通人无法分享到AI带来的经济收益。

专家担心，AI革命可能创造新的数字鸿沟。

第四大风险：AI竞争导致系统失控

发生灾难概率：16.6%

随着科技公司争相推出更强大的AI模型，激烈竞争可能迫使企业：

缩短测试时间；

降低安全标准；

优先追求市场速度。

最终可能导致未经充分验证的AI系统被大规模部署。

第五大风险：AI制造虚假信息

发生灾难概率：12.8%

AI生成的错误信息、深度伪造内容和虚假观点，可能影响：

政治决策；

金融市场；

社会信任；

人类判断能力。

专家担忧，当大量人基于错误信息做决定时，可能产生连锁性社会危机。

即使采取措施，AI风险仍无法完全消除

研究指出，即便未来采取一定防护措施，包括加强监管、提高安全测试标准等，部分AI风险发生灾难性后果的概率仍然可能超过10%。

这意味着，AI安全问题并非简单通过技术修补就能解决，而可能成为长期挑战。

AI既可能带来繁荣，也可能带来危机

支持者认为，AI正在推动一场生产力革命：

自动化大量工作；

提升企业效率；

加速科学研究；

改变全球经济模式。

但与此同时，AI行为以及公众对于AI能力的认知，也可能在短时间内影响市场走势和社会舆论。

结语：

研究人员表示，AI灾难风险目前仍存在巨大不确定性，但其潜在影响已经严重到不能忽视。

未来五年，人类面临的不仅是如何发展更强大的AI，更重要的问题是：

当AI拥有越来越强的能力时，人类是否还能确保它始终处于控制之中？

本文源自：FX168全球投资