AI教父:人类正创造比自己更强大的怪物!

2024-10-12 19:24:56来源:快科技编辑:时寒峰

扫一扫

分享文章到微信

扫一扫

关注鹿财经网微信公众号

  原标题:AI教父:人类正创造比自己更强大的怪物!

  有“AI教父”之称的约书亚·本吉奥(Yoshua Bengio)最新警告称,我们正在创造比人类更强大的怪物(人工智能)。

AI教父:人类正创造比自己更强大的怪物!

  他在接受采访时表示:“智慧赋予力量,无论谁控制了这种力量——无论是人类水平还是高于人类水平,都将变得非常非常强大。”

  “总的来说,技术会被那些想要更多权力的人所利用,例如他们想要经济主导地位、军事主导地位、政治主导地位。因此,在我们创造可能以危险方式集中权力的技术之前,我们需要非常小心。”

  对于普通投资者而言,这位学术大佬的知名度或许不及黄仁勋、山姆·阿尔特曼,但他在多层神经网络技术上贡献卓著,奠定了其“AI教父”的地位。

  60岁的本吉奥是一位加拿大计算机科学家,他致力于神经网络和深度学习算法的研究。他的开创性工作为我们今天使用的人工智能模型开辟了道路,例如OpenAI的ChatGPT和Anthropic的Claude。

  2018 年,本吉奥与两位同事——前谷歌副总裁杰弗里·辛顿(2024 年诺贝尔物理学奖得主)和 Meta首席人工智能科学家杨立昆(Yann LeCun)共同获得了图灵奖(有计算界诺贝尔奖之称)。2022 年,本吉奥成为全球被引用次数最多的计算机科学家。《时代》杂志将他评选为全球100 位最具影响力人物之一。

  可以说,如果没有本吉奥,人工智能可能就不存在了。

  尽管帮助发明了这项技术,但本吉奥现在已经成为人工智能领域的一个谨慎人物。与此同时,投资者们却对AI领域表现出了极大的热情,并将相关公司的股价推至高位。例如,人工智能芯片宠儿英伟达的股价今年迄今上涨了约180%,而标普500指数的涨幅仅为22%。

  以下为本吉奥在最新采访中的一些观点:

  我们为什么要关注人类水平的人工智能?

  如果它落入坏人之手,不管这意味着什么,那将是非常危险的。这些工具可以很快帮助恐怖分子,也可以帮助那些希望摧毁我们民主的国家机构。还有一个问题,许多科学家一直在指出,那就是我们现在训练它们的方式——我们并不清楚如何才能避免这些系统变得自主(思考和行动),有自己的保护目标,我们可能会失去对这些系统的控制。所以我们可能会创造出比我们更强大的怪物。

  OpenAI、Meta、谷歌、亚马逊,哪个AI巨头做得对?

  在道德方面,我认为表现最好的公司是Anthropic(其主要投资者包括亚马逊和谷歌)。但我认为他们都有偏见,因为在经济结构中,他们的生存取决于成为领先的公司,最好是第一个实现AGI(通用式人工智能)。这意味着一场竞赛,一场公司之间的军备竞赛,公共安全很可能是失败的目标。

  Anthropic 发出了很多信号,表明他们非常关心如何避免灾难性后果。他们是第一个提出安全政策的公司, 如果人工智能最终拥有可能造成危险的能力,他们就会停止这种努力。他们也是唯一支持SB 1047 的公司,与马斯克的态度一样。

  “SB 1047法案”,全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。不过,这一AI监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决了。

  对英伟达等人工智能股票的大幅上涨有何看法?

  b我认为非常确定的是长期的发展轨迹。因此,如果你长期投资,这是一个相当安全的赌注。除非我们无法保护公众……(那么)后果可能是一切都会崩溃,对吧?要么是因为社会普遍反对人工智能,要么是因为真正灾难性的事情发生了,我们的经济结构崩溃了。

  无论哪种情况,都对投资者不利。所以我认为,如果投资者够聪明的话,他们会明白,我们需要谨慎行事,避免可能损害我们整体未来的那种错误和灾难。

  对人工智能芯片竞赛的看法?

  我认为芯片显然正在成为这个谜题的重要组成部分,当然,它也是一个瓶颈。很可能对大量计算的需求不会随着各种事件的发生而消失,我可以预见未来几年的科学进步,因此拥有高端人工智能芯片的能力将具有战略价值——供应链中的所有步骤都将至关重要。现在很少有公司能够做到这一点,所以我希望看到更多的投资,希望有一点多样化。

     投稿邮箱:lukejiwang@163.com   详情访问鹿财经网:http://www.lucaijing.com.cn

相关推荐
鸿蒙版微信正式上架 公测名额秒抢光 鸿蒙版微信正式上架 公测名额秒抢光

原标题:鸿蒙版微信正式上架 公测名额秒抢光 10月12日消息,微信今天正式上架

科技说2024-10-12

人类首次商用太空行走成功:SpaceX龙飞船返回地 人类首次商用太空行走成功:SpaceX龙飞船返回地

原标题:人类首次商用太空行走成功:SpaceX龙飞船返回地球 SpaceX宣布,9月15日

科技说2024-09-16

终于放开了!苹果正式允许iPadOS侧载 终于放开了!苹果正式允许iPadOS侧载

原标题:终于放开了!苹果正式允许iPadOS侧载 9月15日消息,此前欧盟将苹果i

科技说2024-09-15

SpaceX开启人类首次商业太空行走:美国亿万富翁 SpaceX开启人类首次商业太空行走:美国亿万富翁

原标题:SpaceX开启人类首次商业太空行走:美国亿万富翁成功出舱 9月12日消息

科技说2024-09-12

小米SU7车外唤醒防御功能正式上线!车外语音唤 小米SU7车外唤醒防御功能正式上线!车外语音唤

原标题:小米SU7车外唤醒防御功能正式上线!车外语音唤醒行为抑制率达99% 9月

科技说2024-09-01

卢伟冰:目前AI手机只是有AI功能 小米澎湃OS2.0才 卢伟冰:目前AI手机只是有AI功能 小米澎湃OS2.0才

原标题:卢伟冰:目前AI手机只是有AI功能 小米澎湃OS2.0才是真正的AI手机 8月

科技说2024-08-23

不是必须!公安部:没有网号、网证也可正常上 不是必须!公安部:没有网号、网证也可正常上

原标题:不是必须!公安部:没有网号、网证也可正常上网 8月23日消息,上个

科技说2024-08-23

要有敬畏之心!卢伟冰:小米汽车正在研究进入 要有敬畏之心!卢伟冰:小米汽车正在研究进入

原标题:要有敬畏之心!卢伟冰:小米汽车正在研究进入欧洲市场 8月18日消息

科技说2024-08-18

马斯克:未来人类记忆可上传至云端并下载至机 马斯克:未来人类记忆可上传至云端并下载至机

原标题:马斯克:未来人类记忆可上传至云端并下载至机器人 8月18日消息,日

科技说2024-08-18

马斯克旗下科技公司又有大动作 第二位人类患者 马斯克旗下科技公司又有大动作 第二位人类患者

原标题:马斯克旗下科技公司又有大动作 第二位人类患者成功植入脑机接口 日

科技说2024-08-04