摩尔定律失效后,AI如何保持快速发展?

简介: 重新设计芯片的想法看起来可能会让人工智能走的更远!

更多深度文章,请关注云计算频道:
https://yq.aliyun.com/cloud
  本月初,谷歌CEO Sundar Pichai在跟开发者分享从他的机器学习实验室得到的结果时,他表现的非常兴奋。因为他们实验室的研究人员,已经找到了自动化生成机器学习软件的方法。并且他们也发现,这个方法很容易就能部署到新的情景和行业内。

  不过,该项目在AI研究领域内名声大噪的另外一个原因就是,它成功的证明了在机器学习领域竞争,计算资源(计算能力)才是取胜的关键。
screenshot

  一篇来自谷歌的论文研究表明,在这个项目中,他们同时使用了800多个功能强大并且非常昂贵的图形处理器(GPU)。GPU的使用,对近期机器学习能力的提高起到了至关重要的作用。他们告诉《麻省理工科技评论》,这个项目已经持续使用这些芯片两周。仅仅这一个研究项目就消耗了大量的资源,即使像谷歌这样有钱的公司,也难以承受如此大的开销。

  对于无法访问大型GPU集群的研究人员来说,做这样的实验就意味着要有大量的研究经费。如果从亚马逊的云计算服务中心租用800个GPU,一周就需要大约12万美金的开销。

  比起运行深度学习的软件,训练深度学习软件所消耗的资源更加庞大。计算能力对于现在的机器学习来说,算是一个瓶颈。斯坦福大学的副教授Reza Zadeh如是说,同时Reza Zadeh还是Matroid的创始人兼首席执行官,Matroid是一家利用软件帮助企业来识别视频中人和车的公司。
screenshot

  人工智能的发展需要在计算能力不断的有所突破,但是不幸的是计算行业赖以生存了50年的两大定律却正在渐渐的走向灭亡,一个是“摩尔定律”,它曾预测每两年,相同面积的芯片上的晶体管数量将会翻倍;另外一个是Dennard缩放比例定律,它指出当晶体管变小时,它们的功耗如何按比例缩小。

  今天,这两个昔日辉煌的定律都不在适用了。英特尔已经减缓了引入更小,更密集的晶体管的步伐。(详见:Moore's Law is dead.Now What?)在20世纪中期,随着晶体管的不断变小,晶体管的使用效率就很难得到提升,所以能耗成为了最头疼的问题。

  押注人工智能的一个好消息是,图形芯片目前已经成功的进入到人们的视野中。最近,全球领先图形芯片英伟达的首席执行官黄仁勋向公众展示了一个图表,该图表显示,英伟达芯片的性能在以指数级加速,相比之下通用处理器CPU的性能提升已经减缓。

  致力于将新技术商业化的微软NEXT的工程师Doug Burger表示,传统软件和机器学习软件之间也有类似的差距(暗指CPU和GPU之间的差距)。他说:“目前,通用软件的性能已经到了一个停滞期,但是人工智能却还在迅猛的发展。”

  Doug Burger还认为,这种趋势还会继续下去。工程师们会让GPU变得越来越强大,因为GPU可以更专业的处理图形或者机器学习中所需要的数学问题。

  同样的理念还出现在Doug Burger在微软领导的一个项目中,它通过使用被称作是FPGAs的可重构芯片为人工智能软件提供了更加强大的计算能力。它同样激励着一些初创公司和巨头,比如说谷歌——创造一种特殊的芯片去驱动机器学习。(详见:google reveals a powerful NEW Ai Chip and Supercomputer)。

  从长远角度来看,要使人工智能更加强大,计算机芯片必须更加彻底的改变。开发特定的芯片是一个主要的方向,现实情况已经证明,这些芯片确实能够使计算机效率更高,并且不会损害机器学习软件输出结果的准确性。(详见:Why a Chip That’s Bad at Math Can Help Computers Tackle Harder Problems)。

  芯片的设计直接复制生物结构也可能会成为未来的一个新的方向,IBM和其他公司已经构建出使用尖峰电流进行计算的芯片原型,其计算过程类似于人类神经元的激发过程。(详见:Thinking in Silicon

  Burger说“一些简单的动物,能够用很少的能量实现的功能就超过了今天我们机器人,不得不承认的是,在这些行为中一定存在很多提高性能和效率机制等待着被我们发现。”

  毕竟人工智能这条路才真正的开始,我们可以从人类的神经网络中获取算法模型。或许我们也可以从人类的神经网络中获取更多的启发。在人工智能这条道路上,我们还需要花费很长的时间。

作者介绍:
Tom Simonite 麻省理工技术评论在旧金山总编辑。曾经在剑桥大学伦敦帝国学院和新科学家杂志工作过五年。
本文由北邮@爱可可-爱生活推荐,阿里云云栖社区翻译。
文章原标题《How AI Can Keep Accelerating After Moore’s Law》
作者:Tom Simonite,译者:袁虎,审阅:我是主题曲哥哥
文章为简译,更为详细的内容,请查看原文

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
摩尔定律失效后,AI如何保持快速发展?
重新设计芯片的想法看起来可能会让人工智能走的更远!
2485 0
AI职场突围战:夸克应用+生成式人工智能认证,驱动“打工人”核心竞争力!
在AI浪潮推动下,生成式人工智能(GAI)成为职场必备工具。文中对比了夸克、豆包、DeepSeek和元宝四大AI应用,夸克以“超级入口”定位脱颖而出。同时,GAI认证为职场人士提供系统学习平台,与夸克结合助力职业发展。文章还探讨了职场人士如何通过加强学习、关注技术趋势及培养合规意识,在AI时代把握机遇。
多模态AI核心技术:CLIP与SigLIP技术原理与应用进展
近年来,多模态表示学习在人工智能领域取得显著进展,CLIP和SigLIP成为里程碑式模型。CLIP由OpenAI提出,通过对比学习对齐图像与文本嵌入空间,具备强大零样本学习能力;SigLIP由Google开发,采用sigmoid损失函数优化训练效率与可扩展性。两者推动了多模态大型语言模型(MLLMs)的发展,如LLaVA、BLIP-2和Flamingo等,实现了视觉问答、图像描述生成等复杂任务。这些模型不仅拓展了理论边界,还为医疗、教育等领域释放技术潜力,标志着多模态智能系统的重要进步。
40 13
多模态AI核心技术:CLIP与SigLIP技术原理与应用进展
从零开始即刻拥有 DeepSeek-R1 满血版并使用 Dify 部署 AI 应用
本文介绍了如何使用阿里云提供的DeepSeek-R1大模型解决方案,通过Chatbox和Dify平台调用百炼API,实现稳定且高效的模型应用。首先,文章详细描述了如何通过Chatbox配置API并开始对话,适合普通用户快速上手。接着,深入探讨了使用Dify部署AI应用的过程,包括选购云服务器、安装Dify、配置对接DeepSeek-R1模型及创建工作流,展示了更复杂场景下的应用潜力。最后,对比了Chatbox与Dify的输出效果,证明Dify能提供更详尽、精准的回复。总结指出,阿里云的解决方案不仅操作简便,还为专业用户提供了强大的功能支持,极大提升了用户体验和应用效率。
1175 19
从零开始即刻拥有 DeepSeek-R1 满血版并使用 Dify 部署 AI 应用
帮你整理好了,AI 网关的 8 个常见应用场景
通过 SLS 还可以汇总 Actiontrail 事件、云产品可观测日志、LLM 网关明细日志、详细对话明细日志、Prompt Trace 和推理实时调用明细等数据汇总,从而建设完整统一的可观测方案。
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
本文探讨了私有知识库问答系统的难点及解决方案,重点分析了企业知识管理中的痛点,如信息孤岛、知识传承依赖个人经验等问题。同时,介绍了IntFinQ这款知识管理工具的核心特点和实践体验,包括智能问答、深度概括与多维数据分析等功能。文章还详细描述了IntFinQ的本地化部署过程,展示了其从文档解析到知识应用的完整技术闭环,特别是自研TextIn ParseX引擎和ACGE模型的优势。最后总结了该工具对企业和开发者的价值,强调其在提升知识管理效率方面的潜力。
AI程序员:通义灵码 2.0应用VScode前端开发深度体验
AI程序员:通义灵码 2.0应用VScode前端开发深度体验,在软件开发领域,人工智能技术的融入正深刻改变着程序员的工作方式。通义灵码 2.0 作为一款先进的 AI 编程助手,与广受欢迎的代码编辑器 Visual Studio Code(VScode)相结合,为前端开发带来了全新的可能性。本文将详细分享通义灵码 2.0 在 VScode 前端开发环境中的深度使用体验。
159 2
36.7K star!拖拽构建AI流程,这个开源LLM应用框架绝了!
`Flowise` 是一款革命性的低代码LLM应用构建工具,开发者通过可视化拖拽界面,就能快速搭建基于大语言模型的智能工作流。该项目在GitHub上线不到1年就斩获**36.7K星标**,被开发者誉为"AI时代的乐高积木"。
牛逼,这款开源聊天应用竟能一键召唤多个AI助手,跨平台通话神器!
`JiwuChat`是一款基于Tauri2和Nuxt3构建的轻量化多平台即时通讯工具,仅约8MB体积却集成了**AI群聊机器人**、**WebRTC音视频通话**、**屏幕共享**等前沿功能。一套代码适配Windows/macOS/Linux/Android/iOS/Web六大平台,堪称开发者学习跨端开发的绝佳样板!
一键轻松打造你的专属AI应用!
函数计算提供免运维、Serverless GPU,具备极致弹性与按量付费优势,助您一键部署AI大模型,加速业务创新。

热门文章

最新文章