Karpathy更新深度学习开源框架排名:TensorFlow第一,PyTorch第二

简介: 上周Keras作者François Chollet才晒了使用谷歌搜索Index得到的开源深度学习框架排名,前天好久没出山的大神Andrej Karpathy抛出更新,使用更精确的数据,得到过去6年、4300篇ArXiv机器学习论文里提到深度学习框架:PyTorch涨势惊人。

上周,Keras作者、谷歌研究科学家François Chollet晒出一张图,他使用Google Search Index,展示了过去三个月,ArXiv上提到的深度学习框架排行,新智元也做了报道

d823a3123edf0e98b15aefb82e32763ea319789b

TensorFlow排名第一,Keras排名第二,之后依次是Caffe、PyTorch、Theano,MXNet、Chainer,以及CNTK。

不少人评论,咦,PyTorch这么靠后?CNTK更是不科学……

昨天,手握ArXiv Sanity大数据、现在主管特斯拉人工智能部门的Andrej Karpathy,给出了更加精确的结果。

过去一个月,各个框架在论文中被提到(单次计算)的比例分别是:TensorFlow 14.3%,PyTorch 4.7%,Keras 4.0%,Caffe 3.8%,Theano 2.3%,Torch 1.5%,MXNet、Chainer和CNTK均小于1%

7e52ad64a2fc5fde1276a60a61e7b155e0e9c9ba

上图中,绿色是Theano,紫红色是TensorFlow(上升最高的那条),蓝色是Keras,棕黄色是Caffe,紫色是Torch,紫红色是PyTorch,浅绿是MXNet,蓝色是Chainer,红色是CNTK。

没错,上面的数据确实是过去一个月,Karpathy也在后面给出了更正说明。

b7c19a848522dd8b76060cbcfa3f17aa159034d9

Karpathy表示,综合过去6年发表在ArXiv的4300篇机器学习论文(数据来源:cs.[CV|CL|LG|AI|NE]/stat.ML),根据其中各框架被提及的次数得到的总排名是:TensorFlow 5.9%,Caffe 5.4%,Theano 3.2%,Keras 2.3%,Torch 1.6%,PyTorch 1%,其他0.5%

Theano余威仍在,PyTorch涨势惊人。

要知道,在2017年3月,Karpathy第一次做这个全面统计的时候,各框架的排名是:

59ba03c300542d365d81812b0b9adbf1ade04cea

那时候PyTorch才刚刚发布不久,Theano也没有说退休。

一年过去,如果有什么没有变,那就是王者TensorFlow——2017年3月提交的所有论文中,有10%提到了TensorFlow。 当然,并非每篇论文都会声明所使用的框架,但如果假设论文以某种固定的随机概率独立于框架来声明框架,那么机器学习社区里看起来大约有40%的人都在使用TensorFlow(或者更多,如果把Keras也计算进去)。

217052a77f7828082b7f77e7259edcd44295bf80

2017年3月的数据:紫色是Caffe,绿色是TensorFlow,红色是Keras,黄色是Torch,浅蓝色是PyTorch,蓝色是Theano

我们期待最新一度的统计结果。

P.S. 真的没有找到PaddlePaddle。


原文发布时间为:2018-03-12

本文作者:文强

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:Karpathy更新深度学习开源框架排名:TensorFlow第一,PyTorch第二

相关文章
|
3天前
|
机器学习/深度学习 数据可视化 PyTorch
TensorFlow与PyTorch框架的深入对比:特性、优势与应用场景
【5月更文挑战第4天】本文对比了深度学习主流框架TensorFlow和PyTorch的特性、优势及应用场景。TensorFlow以其静态计算图、高性能及TensorBoard可视化工具适合大规模数据处理和复杂模型,但学习曲线较陡峭。PyTorch则以动态计算图、易用性和灵活性见长,便于研究和原型开发,但在性能和部署上有局限。选择框架应根据具体需求和场景。
|
5天前
|
机器学习/深度学习 PyTorch API
pytorch与深度学习
【5月更文挑战第3天】PyTorch,Facebook开源的深度学习框架,以其动态计算图和灵活API深受青睐。本文深入浅出地介绍PyTorch基础,包括动态计算图、张量和自动微分,通过代码示例演示简单线性回归和卷积神经网络的实现。此外,探讨了模型架构、自定义层、数据加载及预处理等进阶概念,并分享了实战技巧、问题解决方案和学习资源,助力读者快速掌握PyTorch。
21 5
|
7天前
|
机器学习/深度学习 PyTorch 算法框架/工具
【Python机器学习专栏】PyTorch在深度学习中的应用
【4月更文挑战第30天】PyTorch是流行的开源深度学习框架,基于动态计算图,易于使用且灵活。它支持张量操作、自动求导、优化器和神经网络模块,适合快速实验和模型训练。PyTorch的优势在于易用性、灵活性、社区支持和高性能(利用GPU加速)。通过Python示例展示了如何构建和训练神经网络。作为一个强大且不断发展的工具,PyTorch适用于各种深度学习任务。
|
7天前
|
机器学习/深度学习 数据可视化 TensorFlow
【Python 机器学习专栏】使用 TensorFlow 构建深度学习模型
【4月更文挑战第30天】本文介绍了如何使用 TensorFlow 构建深度学习模型。TensorFlow 是谷歌的开源深度学习框架,具备强大计算能力和灵活编程接口。构建模型涉及数据准备、模型定义、选择损失函数和优化器、训练、评估及模型保存部署。文中以全连接神经网络为例,展示了从数据预处理到模型训练和评估的完整流程。此外,还提到了 TensorFlow 的自动微分、模型可视化和分布式训练等高级特性。通过本文,读者可掌握 TensorFlow 基本用法,为构建高效深度学习模型打下基础。
|
8天前
|
机器学习/深度学习 自然语言处理 算法
PyTorch与NLP:自然语言处理的深度学习实战
随着人工智能技术的快速发展,自然语言处理(NLP)作为其中的重要分支,日益受到人们的关注。PyTorch作为一款强大的深度学习框架,为NLP研究者提供了强大的工具。本文将介绍如何使用PyTorch进行自然语言处理的深度学习实践,包括基础概念、模型搭建、数据处理和实际应用等方面。
|
9天前
|
机器学习/深度学习 算法 TensorFlow
TensorFlow 2keras开发深度学习模型实例:多层感知器(MLP),卷积神经网络(CNN)和递归神经网络(RNN)
TensorFlow 2keras开发深度学习模型实例:多层感知器(MLP),卷积神经网络(CNN)和递归神经网络(RNN)
|
18天前
|
机器学习/深度学习 PyTorch TensorFlow
TensorFlow与PyTorch在Python面试中的对比与应用
【4月更文挑战第16天】这篇博客探讨了Python面试中TensorFlow和PyTorch的常见问题,包括框架基础操作、自动求梯度与反向传播、数据加载与预处理。易错点包括混淆框架API、动态图与静态图的理解、GPU加速的利用、模型保存恢复以及版本兼容性。通过掌握这些问题和解决策略,面试者能展示其深度学习框架技能。
35 9
|
19天前
|
机器学习/深度学习 并行计算 PyTorch
PyTorch与CUDA:加速深度学习训练
【4月更文挑战第18天】本文介绍了如何使用PyTorch与CUDA加速深度学习训练。CUDA是NVIDIA的并行计算平台,常用于加速深度学习中的矩阵运算。PyTorch与CUDA集成,允许开发者将模型和数据迁移到GPU,利用`.to(device)`方法加速计算。通过批处理、并行化策略及优化技巧,如混合精度训练,可进一步提升训练效率。监控GPU内存和使用调试工具确保训练稳定性。PyTorch与CUDA的结合对深度学习训练的加速作用显著。
|
PyTorch 算法框架/工具 Android开发
PyTorch 深度学习(GPT 重译)(六)(4)
PyTorch 深度学习(GPT 重译)(六)
38 2
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch 深度学习(GPT 重译)(六)(3)
PyTorch 深度学习(GPT 重译)(六)
29 2