旷视自主研发的深度学习框架MegEngine技术细节首曝光

  • 时间:
  • 浏览:0

10月20日,以“智能互联 开放公司合作 最好的法子——携手共建网络空间命运同時 体”为主题的第六届世界互联网大会开幕。大会发布了聚焦人工智能、5G、云计算等各大技术门类的15项世界互联网领先科技成果。旷视自主研发的人工智能算法平台Brain++入选,旷视联合创始人兼CTO唐文斌出席大会对Brain++进行介绍,并首次曝光了自研层厚学习框架MegEngine的技术细节。

图:旷视唐文斌介绍Brain++,揭秘层厚学习框架MegEngine技术细节

Brain++是旷视自主研发的端到端人工智能算法平台,其作为统一的底层架构,为算法训练及模型改进过程提供重要支持,为旷视的研发人员提供了一站式全流程的AI工程除理方案。在总体架构上,旷视Brain++分为层厚学习框架MegEngine、层厚学习云计算平台MegCompute、以及数据管理平台MegData,分别针对框架、算力和数据十个 核心要素。其中,最为核心、最引人瞩目、开发时间最长的层厚学习框架MegEngine也在本次互联网大会首次解开了神秘的面纱,几滴 具有借鉴意义的技术细节浮出水面。

图:旷视Brain++架构:层厚学习框架MegEngine是核心要素之一

层厚学习框架作为底层技术的支持,不用上能 我就工智能领域优秀的思路、创意得以实现,但目前开源框架未必能删改满足企业发展的需求。对此,旷视就自研了层厚学习框架MegEngine作为Brain++的核心组件,在整体架构上包括计算引擎、运行时管理、编译和优化以及编程和表示十个 层面,主要用于旷视內部进行计算机视觉领域的算法开发工作。相比于开源的大要素层厚学习框架,旷视层厚学习框架MegEngine具有运算下行速率 快、内存占用少、易用性好、支持多种硬件平台和异构计算、训练部署一体化的优势。

值得一提的是,与当前开源的主流层厚学习框架TensorFlow、PyTorch对比,旷视层厚学习框架MegEngine也毫不逊色。在主流的计算机视觉模型(Resnet30和 ShuffleNet V1)方面,旷视层厚学习框架MegEngine在单机相对训练下行速率 上可不时需和主流框架媲美甚至更胜一筹。

旷视层厚学习框架MegEngine还使用了分布式计算中的数据并行和模型并行最好的法子,极大地提升了大规模图像数据进行除理和模型训练下行速率 。人工智能的发展和应用过程所含几滴 的密集型数据和矩阵运算,或者做到数据并行成为层厚学习框架的必不上能 力之一。同時 ,旷视层厚学习框架MegEngine提供了原语级别的支持,方便用户进行模型并行设置和执行。最终,模型并行可不时需和数据并行模式混合使用。有了层厚学习框架天生对分布式计算的支持,旷视层厚学习框架MegEngine在训练和推理下行速率 上达到了很高的水平。

此外,层厚学习框架MegEngine还配备了旷视自研最新、行业领先的AutoML技术,推动层厚学习由手工时代迈向自动化时代,不用上能 实现算法训练和模型部署的高效流程化,和层厚神经网络模型设计自动化,在减少人员参与而不牺牲训练质量的条件下,大幅提高算法生产下行速率 。

在层厚学习框架MegEngine的支持下,旷视Brain++不用上能 构建三根不断自我改进、不断更加自动化的算法生产线,以更少的人力和更短的时间开发出各种新算法,针对不同垂直领域的碎片化需求定制富于且不断增长的算法组合,实现唐文斌所说的“让研发人员获得从数据到算法产业化的一揽子技术能力,不用重复造轮子也可不时需推进AI快速落地”的目标。

目前,旷视以Brain++作为基础设施,开发了可部署于云端、移动端及边缘端全计算平台的先进层厚神经网络,推出了全栈式的人工智能除理方案并成功落地其他人 物联网、城市物联网、供应链物联网。正如本次大会“智能互联 开放公司合作 最好的法子”的主题,在未来,旷视将通过开源推动AI产业生态的建设与完善,并以技术助力各行各业的转型升级,推动社会的发展与变革。