IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

2024-12-12 13:55:27来源:快科技编辑:时寒峰

扫一扫

分享文章到微信

扫一扫

关注鹿财经网微信公众号

  原标题:IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

  12月12日消息,据报道,IBM在光学技术方面获得新进展,有望提升数据中心训练和运行生成式AI模型的效率。

  IBM推出了新一代光电共封装(CPO)工艺。该技术利用光学连接,实现了数据中心内部的光速数据传输,完美补充了现有的短距离光缆系统。

  研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。最大限度地减少GPU停机时间,同时大幅加快AI工作速度。

  具体而言,这一新技术带来了三大方面的显著优势:

IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

  首先,它极大地降低了规模化应用生成式AI的成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。

  其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。

  这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。

  最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。

     投稿邮箱:lukejiwang@163.com   详情访问鹿财经网:http://www.lucaijing.com.cn

相关推荐
国产化整机结构!国内首款依托鸿蒙系统的焦炉 国产化整机结构!国内首款依托鸿蒙系统的焦炉

原标题:国产化整机结构!国内首款依托鸿蒙系统的焦炉巡检机器人发布 12月

科技说2024-12-10

国内最大规模超导量子计算机!天衍-504正式发布 国内最大规模超导量子计算机!天衍-504正式发布

原标题:国内最大规模超导量子计算机!天衍-504正式发布 12月7日消息,据国盾

科技说2024-12-07

小米MIX 5明年三季度发布:真全面屏回归 小米MIX 5明年三季度发布:真全面屏回归

原标题:小米MIX 5明年三季度发布:真全面屏回归 12月2日,博主智慧皮卡丘透露

科技说2024-12-02

苹果M5芯片蓄势待发:首批采用台积电全新封装技 苹果M5芯片蓄势待发:首批采用台积电全新封装技

原标题:苹果M5芯片蓄势待发:首批采用台积电全新封装技术 11月30日消息,据

科技说2024-11-30

阿里低调发布:夸克原生鸿蒙新版本悄然上线 阿里低调发布:夸克原生鸿蒙新版本悄然上线

原标题:阿里低调发布:夸克原生鸿蒙新版本悄然上线 11月28日消息,今天,夸

科技说2024-11-28

刘海屏回归!曝iPhone SE 4明年3月发布:尺寸和i 刘海屏回归!曝iPhone SE 4明年3月发布:尺寸和i

原标题:刘海屏回归!曝iPhone SE 4明年3月发布:尺寸和iPhone 16接近 11月28日消息

科技说2024-11-28

联想发布“百应”智能体:企业可不限次数线上 联想发布“百应”智能体:企业可不限次数线上

原标题:联想发布百应智能体:企业可不限次数线上IT问诊 11月28日消息,在W

科技说2024-11-28

微信鸿蒙原生版发布1.0.2.16内测:终于支持文件转 微信鸿蒙原生版发布1.0.2.16内测:终于支持文件转

原标题:微信鸿蒙原生版发布1.0.2.16内测:终于支持文件转发、小程序搜索 11月

科技说2024-11-25

深蓝汽车发布锁单承诺:因为我们错过补贴 将全 深蓝汽车发布锁单承诺:因为我们错过补贴 将全

原标题:深蓝汽车发布锁单承诺:因为我们错过补贴 将全额补偿 11月22日消息,

科技说2024-11-22

捷途汽车发布喜报:11个月卖出超50万辆 提前完成 捷途汽车发布喜报:11个月卖出超50万辆 提前完成

原标题:捷途汽车发布喜报:11个月卖出超50万辆 提前完成今年销量目标 11月

科技说2024-11-14