mxnet通过对比深度学习各大框架的优缺点寻找最优

国内新闻 2020-06-28166未知admin

  下图总结了在 GitHub 中最受欢迎的开源深度学习框架排名,该排名是基于各大框架在 GitHub 里的收藏数,这个数据由 Mitch De Felice 在 2017 年 5 月初完成。TensorFlow 1.0 版本已于 2017 年 2 月 15 日发布,这个版本是之前 8 个版本的优化改进版,其致力于解决 Tensorflow 之前遇到的一系列问题以及完善一些核心能力。Caffe 设计的选择使得它处理视觉类型的难题时很完美。

  与 TensorFlow 和 Thno 同样,CNTK 使用向量运算符的符图(symbolic graph)网络,支持如矩阵加/乘或卷积等向量操作。此外,像 TensorFlow 和 Thno 一样,CNTK 有丰富的细粒度的网络层构建。构建块(操作)的细粒度使用户不需要使用低层次的语言(如 Caffe)就能创建新的复杂的层类型。

  随着深度学习的不断发展,我们必将看到 TensorFlow、Caffe 2 和 MXNet 之间的不断竞争。另一方面,软件供应商也会具有先进人工智能功能的产品,从数据中获取最大收益。风险:你将购买非开源的人工智能产品还是使用开源框架?有了开源工具,确定最适合的深度学习框架也是两难问题。在非开源产品中,你是否准备了退出策略?人工智能的收益会随着工具的学习能力的进步而上升,所以看待这些问题都需要用长远的观点。

  在本周三英伟达推出 Volta 架构的第一块加速卡 Tesla V100 后,Caffe 的者第一时间展示了 Tesla V100 在 Caffe2 上运行 ResNet-50 的评测。数据显示在新框架和新硬件的配合下,模型每秒钟可以处理 4100 张图片。

  Torch 的编程语言为 Lua。Lua 不是主流语言,在人员没有熟练掌握 Lua 之前,使用 Torch 很难提高的整体生产力。

  TensorFlow 的每个计算流都必须构造为一个静态图,且缺乏符性循环(symbolic loops),这会带来一些计算困难。

  2017 年 1 月 30 日,MXNet 被列入 Apache Incubator 开源项目。用一个实用脚本,Caffe 上的模型可轻易地被转变到 Caffe2 上。TensorFlow 最开始是由谷一个称之为 DistBelief V2 的库发展而来,它是一个内部的深度神经网络库,隶属于谷大脑项目。MXNet 具有可扩展的强大技术能力,如 GPU 并行和内存镜像、快速编程器和可移植性。尽管 TensorFlow 现在比起始版本(v0.5)快了 58 倍,,但在执行性能方面依然落后于竞争对手。Caffe 支持 C++、Matlab 和 Python 编程接口。目前,CNTK 不支持 ARM 架构,这了其在设备上的功能。

  TensorFlow Serving:可以保持相同的服务器架构和 API,使得部署新算法和实验变得简单。TensorFlow Serving 提供了与 TensorFlow 模型开箱即用的整合,但同时还能很容易扩展到其它类型的模型和数据。

  Thno 缺乏分布式应用程序管理框架,只支持一种编程语言。Thno 是很好的学术研究工具,在单个 CPU 上运行的效率比 TensorFlow 更有效。然而,在和支持大型分布式应用程序时,使用 Thno 可能会遇到挑战。

  MXNet 不仅仅只是深度网络框架,它的区别在于支持生成对抗网络(GAN)模型。该模型自实验经济学方法的纳什均衡。

  Thno 开创了将符图用于神经网络编程的趋势。Thno 的符式 API 支持循环控制(即 scan),这使得实现 RNN 容易且高效。

  虽然 Caffe 在视频识别领域是一个流行的深度学习网络,但是 Caffe 却不能像 TensorFlow、CNTK 和 Thno 那样支持细粒度网络层。mxnet构建复杂的层类型必须以低级语言完成。由于其遗留架构,Caffe 对循环网络和语言建模的支持总体上很薄弱。

  Thno 支持快速高效的机器学习算法,在 BSD 协议下发布。Caffe 拥有一个庞大的用户社区,人们在其中为被称为「Model Zoo()」的深度网络库做贡献。以 Thno 的创始人 Yoshua Bengio 为首,该实验室是深度学习研究领域的重要贡献者,拥有约 30 至 40 名学生和教师。CNTK 也像 Caffe 一样基于 C++ 架构,支持跨的 CPU/GPU 部署!

  TensorBoard:对于网络模型和效果来说是一个设计优良的可视化工具。AlexNet 和 GoleNet 就是社群用户构建的两个流行网络。TensorFlow 获得成功的因素有:Caffe 基于 C++,因此可在多种设备上编译。

  自 2016 年 3 月,斯坦福大学、伯克利大学、大学和 Udacity 都将这个框架作为一个免费的大规模在线课程进行教授。

  MXNet 支持混合编程模型(命令式和声明式编程)和多种编程语言的代码(包括 Python、C++、R、Scala、Julia、Matlab 和 JavaScri)。由大学算习人工智能实验室(MILA)。有一些人认为 TensorFlow 是由 Thno 彻底重构而来。MXNet(发音为 mix-net)起源于卡内基梅隆大学和大学的实验室。CNTK 在 Azure GPU Lab 上显示出最高效的分布式计算性能?

  谷开源 TensorFlow 后,立即吸引了一大批爱好者。TensorFlow 可以提供一系列的能力,例如图像识别、手写识别、识别、预测以及自然语言处理等。2015 年 11 月 9 ,TensorFlow 在 Apache 2.0 协议下开源发布。

  

  开源的深度学习神经网络正步入成熟,而现在有许多框架具备为个性化方案提供先进的机器学习和人工智能的能力。那么如何决定哪个开源框架最适合你呢?本文试图通过对比深度学习各大框架的优缺点,从而为各位读者提供一个参考。你最看好哪个深度学习框架呢?

  DL4J 使用 Java 语言实现,本质上比 Python 快。在用多个 GPU 解决非平凡图像(non-trivial age)识别任务时,它的速度与 Caffe 一样快。该框架在图像识别、欺诈检测和自然语言处理方面的表现出众。

  该框架结合了 Torch7 高效灵活的 GPU 加速后端库与直观的 Python 前端,它的特点是快速成形、代码可读和支持最广泛的深度学习模型。如有需要,你可以复用你最喜欢的 Python 软件包(如 numpy、scipy 和 Cython)来扩展 PyTorch。该框架因为其灵活性和速度,在推出以后迅速得到了者和研究人员的青睐。随着 GitHub 上越来越多代码的出现,PyTorch 作为新框架缺乏资源的问题已经得以缓解。

  TensorFlow 支持细粒度的网格层,而且允许用户在无需用低级语言实现的情况下构建新的复杂的层类型。子图执行操作允许你在图的任意边缘引入和检索任意数据的结果。这对调试复杂的计算图模型很有帮助。

  MXNet 支持深度学习架构,mxnet如卷积神经网络(CNN)、循环神经网络(RNN)和其包含的长短时间记忆网络(LTSM)。该框架为图像、手写文字和的识别和预测以及自然语言处理提供了出色的工具。有些人称 MXNet 是世界上最好的图像分类器。

  期待不久之后能看到 Caffe 2 超越 Caffe,就像它的那样在深度学习社区流行。MXNet 是一个全功能、可编程和可扩展的深度学习框架,支持最先进的深度学习模型。Caffe2 延续了它对视觉类问题的支持,且增加了对自然语言处理、手写识别、时序预测有帮助的 RNN 和 LSTM 支持。此外,MXNet 与 Apache Hadoop YARN(一种通用分布式应用程序管理框架)集成,使 MXNet 成为 TensorFlow 有力的竞争对手。它跨运行,并包含 Windows 端口。mxnet

  现在的许多机器学习框架都可以在图像识别、手写识别、视频识别、识别、目标识别和自然语言处理等许多领域大展身手,但却并没有一个完美的深度神经网络能解决你的所有业务问题。所以,本文希望下面的图表和能够提供直观方法,帮助读者解决业务问题。

  DL4J 框架支持任意芯片数的 GPU 并行运行(对训练过程至关重要),并支持 YARN(Hadoop 的分布式应用程序管理框架)。DL4J 支持多种深度网络架构:RBM、DBN、卷积神经网络(CNN)、循环神经网络(RNN)、RNTN 和长短时间记忆网络(LTSM)。DL4J 还对矢量化库 Canova 提供支持。

  Caffe 的快速使其完美应用于实验研究和商业部署。Caffe 可在英伟达单个 K40 GPU 上每天处理 6000 万张图像。这大概是 1 毫秒预测一张图片,4 毫秒学习一张图片的速度,而且最新的版本处理速度会更快。

  Caffe 是贾扬清的杰作,目前他在 Facebook AI 担任首席工程师。Caffe 可能是自 2013 年底以来第一款主流的工业级深度学习工具包。正因为 Caffe 优秀的卷积模型,它已经成为计算机视觉界最流行的工具包之一,并在 2014 年的 IgeNet 挑战赛中一举夺魁。Caffe 遵循 BSD 2-Clause 协议。

  Thno 的架构如同一个黑箱;整个代码库和接口使用 Python,其中 C/CUDA 代码被打包成 Python 字符串。这使得人员很难(navigate)、调试和重构。

  分布式 TensorFlow(Distributed TensorFlow)被加进了 0.8 版本,它允许模型并行,这意味着模型的不同部分可在不同的并行设备上被训练。

原文标题:mxnet通过对比深度学习各大框架的优缺点寻找最优 网址:http://www.comparecreditcardservices.com/guonaxinwen/2020/0628/67683.html

上一篇:mxnet关于MXNet 下一篇:mxnetMxnet—入流

Copyright © 2002-2020 勾心斗角新闻网 www.comparecreditcardservices.com 版权所有  

联系QQ:1352848661