徐直军：华为已完成全栈全场景AI解决方案的构建

admin

8月23日下午消息，华为今日正式发布了AI芯片昇腾910及全场景AI计算框架MindSpore。华为轮值董事长徐直军在发布会上表示，昇腾910和MindSpore的推出，标志着华为已完成全栈全场景AI解决方案的构建。
以下为徐直军演讲全文：
感谢大家参加今天的发布会，在去年华为HC大会上，我首次正式发布了华为AI战略和华为全栈全场景AI解决方案。
同时，我也分享了十个有关人工智能技术、人才、产业的重要变革方向。期望产业界围绕十个变革方向，来解决人工智能“辉煌”与“冷静”之间的巨大落差，开创未来。华为也围绕几个变革方向一直在努力实践。
首先，请允许我回顾一下华为的AI战略：1、投资AI基础研究，在计算视觉、自然语言处理、决策推理等领域构筑数据高效（更少的数据需求）、能耗高效（更低的算力和能耗），安全可信、自动自治的机器学习基础能力；2、打造面向云、边缘和端等全场景的、独立的以及协同的、全栈解决方案，提供充裕的、经济的算力资源，简单易用、高效率、全流程的AI平台；3、投资开放生态和人才培养，面向全球，持续与学术界、产业界和行业伙伴广泛合作；4、把AI思维和技术引入现有产品和服务，实现更大价值、更强竞争力；5、应用AI优化内部管理，对准海量作业场景，大幅度提升内部运营效率和质量。
同时也利用此次机会，再次介绍一下华为全栈、全场景解决方案。我们提出的全场景，是指 包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境。我们说的全栈是技术功能视角，是指包括芯片、芯片使能、训练和推理框架和应用使能在内的全堆栈方案。华为的全栈方案具体包括：
Ascend： 基于统一、可扩展架构的系列化AI IP 和 芯片，包括Max，Mini，Lite，Tiny和Nano等五个系列；
CANN： 芯片算子库和高度自动化算子开发工具；
MindSpore，支持端、边、云独立的和协同的统一训练和推理框架；
应用使能：提供全流程服务（ModelArts）,分层API和预集成方案。
首先是基于Ascend310 的产品和云服务的商用情况。
1、基于昇腾310的Atlas、MDC产品：MDC和国内外主流车厂在园区巴士、新能源车、自动驾驶等场景深入合作；Atlas系列板卡、服务器和AI相关的数十家伙伴，在智慧交通、智慧电力等数十个行业落地AI行业解决方案；
2、基于昇腾310的华为云服务：华为云图像分析服务、OCR服务、视频分析服务 超过50+ API都已经基于Ascend 310服务，日均调用量超过1亿次，而且在快速增长，预计年底日均调用量 >3亿。
其次是ModelArts的商用进展。ModelArts全流程模型生产：打通、覆盖了从数据获取-模型开发-模型训练-模型部署的全链条，日均作业量以及在线开发者：日均训练作业任务超过4000个，32000小时，其中：视觉类作业占85%，语音类作业占 10%, 机器学习5%，ModelArts已经拥有开发者超过3万。
我宣布：算力最强的AI处理器 Ascend 910 正式推出。去年10月，我们发布了Ascend 910的技术规格，今天我向大家介绍最新的实际测试结果。
在算力方面，测试结果表明，昇腾910完全达到了设计规格，即：半精度 (FP16): 256 Tera-FLOPS；整数精度 (INT8) : 512 Tera-OPS。其次重要的是，达到规格算力所需功耗仅310W，明显低于设计的350W。
应当说，昇腾910总体技术表现超出预期。我们已经把昇腾910用于实际AI训练任务。其中，在典型的ResNet-50 网络的训练中，昇腾910与MindSpore配合，与现有主流训练单卡配合TensorFlow相比，显示出接近2倍的性能提升。每秒训练的图片数量从965张提升到1802张。
面向未来，针对不同的场景，我们将持续投资，推出更多的AI处理器，面向边缘计算场景，在已经商用Ascend 310基础上，计划2021年将推出Ascend 320。
现有MDC是基于Ascend 310的，有效支持了自动驾驶的开发，未来面向规模商用，我们将陆续推出Ascend 610/620。针对AI训练，今天正式推出Ascend 910,未来还将计划推出Ascend 920。
今天还要发布全场景AI计算框架MindSpore。能否大大降低AI应用开发的门槛，能否实现AI将无处不在，能否在任何场景下确保用户隐私得到尊重和保护，这些都与AI计算框架息息相关。
为此，在去年HC会上我们提出：AI框架应该是开发态友好（例如显着减少训练时间和成本）和运行态高效（例如最少资源和最高能效比），更重要的是，要能适应每个场景包括端，边缘和云。
经过近一年的努力，全场景AI计算框架MindSpore在这三个方面都取得了显著的进展：在原生适应每个场景包括端，边缘和云，并能够按需协同的基础上，通过实现AI算法即代码，使开发态变得更加友好，显著减少模型开发时间，降低了模型开发门槛。通过MindSpore自身的技术创新及MindSpore与Ascend处理器协同优化，实现了运行态的高效，大大提高了计算性能；MindSpore也支持GPU、CPU等其它处理器。
很多人问我，现在已有了TensorFlow、PyTorch框架，华为为什么还要开发并推出MindSpore框架。我告诉他们，由于没有任何一个现有框架支持全场景，而华为的业务覆盖端-边缘-云，且在隐私保护日渐重要的背景下，需要一个能支持全场景的框架，实现AI无所不在越来越基础的需求，这也是MindSpore的重要特色。针对不同的运行环境，MindSpore框架架构上支持可大可小 ，适应全场景独立部署。同时，MindSpore框架通过协同经过处理后的、不带有隐私信息的梯度、模型信息，而不是数据本身，以此实现在保证用户隐私数据保护的前提下跨场景协同。除了隐私保护，MindSpore还将模型保护Built-in到AI框架中，实现模型的安全可信。
为了降低AI开发者的开发门槛，MindSpore创造性地实现了AI算法即代码，使开发态变得更加友好，显著减少模型开发时间。以一个NLP（自然语言处理）典型网络为例，相比其他框架，用MindSpore可降低核心代码量20%，开发门槛大大降低，效率整体提升50%以上。
我们通过MindSpore框架的技术创新及把MindSpore框架与昇腾处理器的协同优化，有效克服AI计算的复杂性和算力的多样性挑战，实现了运行态的高效，大大提高了计算性能。除了昇腾处理器，MindSpore同时也支持GPU、CPU等其它处理器。
为了更好促进AI的应用，MindSpore将在2020年Q1开源，助力每一位开发者。
随着昇腾910 AI处理器以及 MindSpore 全场景AI计算框架的推出，华为全栈全场景AI解决方案各重要组成部分悉数登场，因此可以说，华为已完成了全栈全场景AI解决方案的构建。
这对华为的AI业务，已是一个新的里程碑，更是一个新的开始，期待与伙伴更加深入、广泛的合作，让AI无所不及，造福于每个人、每个家庭、每个组织。更震撼的AI新品，敬请关注HC2019。