“AI教父”杰弗里·辛顿:警惕AI形成自我生存意识!
来源:e公司 作者:阮润生 2025-12-02 23:45
Aa 大号字

12月2日GIS大会开幕式暨全球创新领袖峰会上,有“AI教父”之称的杰弗里·辛顿远程连线,回答了一个关于“时空穿梭”问题:如果回到2012年,甚至回到最初开始研究神经网络时,是否还会发表影响后世AI进程的那篇论文?

“该发生的还是会发生,我可能还是会发布它,但是我可能会从那个时候开始担心人工智能带来的一系列的风险。”杰弗里·辛顿坦言。

在本次峰会主旨演讲以及与云天励飞董事长兼CEO陈宁等业内人士巅峰对话环节,杰弗里·辛顿强调加强AI安全研究,在超级智能到来前建立管控框架,重构“人与AI共存”的治理模式,打破大型科技公司单一主导格局,共同推进“AI向善”。

警惕AI形成自我生存意识

“大语言模型和自己人脑学习语言的模式非常相似,我在1985年开发微型语言模型的时候,不是把它作为一个真正的技术来设计,而是希望能够给大家语言习得提供一个科学的解释。”杰弗里·辛顿指出,当前AI的知识传递效率已远超人类。

据介绍,当前AI模型分享权重的效率高达10亿比特,相比人类代际传递每句话100比特,提升了数千万倍。

“现在看来AI模型比我们知道的更多,未来影响会更大。”杰弗里·辛顿警告,当前AI智能体在快速发展进化,也看到AI非常擅长欺骗人类,未来AI为了完成人类赋予的任务,有可能形成自我生存的意识,人类必须加以防范和行动。

构建国际共识与行动框架

在本届峰会上,杰弗里・辛顿提出,AI治理应借鉴20世纪50年代美苏核不扩散的合作模式,防止全球核战争,如今各国也应携手,确保AI不拥有自我生存意识,甚至与人类抵抗,但是在这之前,也需要确保AI不被人类自身所滥用。

在巅峰对话和媒体采访环节,云天励飞董事长兼CEO陈宁也建议,由国际电信联盟(ITU)牵头制定全球推理算力网络标准,“如同2G、3G、4G统一通信标准,让AI设备实现全球互联互通”。

人工智能正在重塑多个行业的人机协作模式。

杰弗里・辛顿预测,未来10至15年,AI将替代人类解读医学影像。因此,医学生培养应假设多数诊断工作由AI完成,医生的核心职责将是检查AI错误、微调治疗方案。如同厨师无需死记食谱,但重点把握火候,AI提供海量信息,医生负责最终的决策和治疗方案微调。

不过就业领域,AI对传统岗位的替代效应已初步显现。杰弗里・辛顿指出,当前美国已有企业用AI取代工人,不顾其生计。

对于现场观众提问AI是否会建立自身文明攻击人类,杰弗里・辛顿表示,这很大程度上取决于人类如何构建AI模型,有这种可能性,但人类有能力决定结果,他将AI比作需要管教的孩子,并呼吁重构AI治理框架。当前大型科技公司将自己视为“AI时代的CEO”,包揽所有功劳,他建议,各类相关方应团结起来,时刻分析AI提供的信息输出与任务结果,及时纠正问题。

陈宁也指出,当前AI更加紧急的风险未必是“超级智能”,更加紧急的风险是今天的AI只掌握在了少数巨头的手里。

“美国追求SmartAI,不断刷榜竞赛,让大模型越来越聪明“陈宁表示,中国走开源路线,从DeepSeek到阿里千问,用不到1/10的训练成本实现开放参数。同时,开源让更多科研机构参与AI训练、应用与治理,即推动技术普及与“AI向善”。

人工智能产业步入推理元年

“2025年既是AgentAI的元年,也是AI推理时代的元年。”陈宁判断,推理时代的核心诉求是成本与功耗的大幅降低。当前用GPU进行AI推理的成本约为1美元/百万Token,这对于日均吞吐40万亿Token的大模型而言,成本负担沉重。

“我们的目标是利用原生AI深度学习指令集和芯片硬件架构,快速降低硬件成本以及运营成本。比如将推理成本从1美元降至1美分甚至1分钱人民币。”陈宁向记者介绍,云天励飞第五代GPNPU通过“算法芯片化”技术路径,融合GPGPU的生态兼容性与NPU的高性价比优势,结合国产工艺技术,为成本优化提供了硬件基础。

芯片技术的创新推动了AI应用的场景化普及。陈宁预测,未来5年,AI将重新定义所有电子设备,从消费端的手机、家电到企业级的服务器、机器人,推理芯片将像水电气一样无处不在,预计到2030年,AI芯片产业规模将达5万亿美元,其中推理芯片占比将高达80%。

产业变革的同时,计算范式也在发生深刻变革。陈宁指出,随着多模态模型、小模型组合等应用场景的涌现,异构计算成为必然趋势,“目前博通和谷歌正在快速崛起,我们相信国内包括云天励飞在内,也会有越来越多基于国产工艺的AI推理芯片公司参与到全球竞争中。”

在区域发展层面,长三角与粤港澳大湾区形成了互补优势。杰弗里・辛顿表示,长三角地区聚集非常多AI开发,而粤港澳大湾区更加关注AI应用,基础研发与应用都非常重要。

在业内人士看来,AI的未来,不只是“更聪明”的竞赛,而是“更高效、更安全、更普惠”的系统性竞争。

责任编辑: 陈英
e公司声明:文章提及个股及内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
更多相关文章
热门解读 更多
视频推荐 更多
热门股票 更多
股票名称 最新价
涨跌幅
Baidu
map