PyTorch 1.3发布：能在移动端部署，支持Colab云TPU，阿里云上也能用

阅读量：4226 次

发布时间：2019-05-26

本文共 4659 字，大约阅读时间需要 15 分钟。

640?wx_fmt=png

本文经AI新媒体量子位（公众号ID：qbitai）授权转载，转载请联系出处。

本文约

2700字，建议阅读

7分钟。

本文向你介绍 PyTorch1.3 的新特性。

“我要转PyTorch！”

看到1.3版本的新特性之后，有开发者在推特上喊。

今天是PyTorch开发者大会第一天，PyTorch 1.3率先公布。

新的版本不仅能支持安卓iOS移动端部署，甚至还能让用户去对手Google的Colab上调用云TPU。

不方便薅Google羊毛的国内的开发者，PyTorch也被集成在了阿里云上，阿里云全家桶用户可以更方便的使用PyTorch了。

此外还有一大波新工具，涉及可解释性、加密、以及关于图像语音的诸多功能。

又兼容又有新工具，怪不得有普通铁杆粉丝感叹：自己对Facebook开源库的“忠诚度”越来越高了。

牛逼！可能是个人感觉吧，Facebook比Google在开源库方面好多了，而且各方支持也是最好的。

React对比Angular，Pytorch对比Tensorflow。这就是其中两个例子，Facebook框架上市晚，但得到了强有力的支持，不断改进，而Google的框架虽然出来得早但没啥兼容升级，最终成为弃子。

我对Facebook开源库的“忠诚度”一直在增长。

PyTorch 1.3新功能

PyTorch 1.3带来了三个实验性的新功能。

命名张量

允许用户给张量维度命名，从而让张量更易用，这样就可以直接喊他们的名字，不用根据位置来跟踪张量维度。

升级之前，你需要在代码里写注释来给张量命名：

# Tensor[N, C, H, W]

images = torch.randn(32, 3, 56, 56)

images.sum(dim=1)

images.select(dim=1, index=0)

升级之后，就直接能在代码里写了，这样可读性大大提高：

NCHW = [‘N’, ‘C’, ‘H’, ‘W’]

images = torch.randn(32, 3, 56, 56, names=NCHW)

images.sum('C')

images.select('C', index=0)

另外，这项功能还能自动检查API是否被正确的使用，提升了安全性，还可以直接用名字来重新排列尺寸。

你可以这样命名：

也可以这样命名：

用align_to就可以重新排序：

是不是方便多了？

量化支持

开发ML应用程序时，有效利用服务器端和设备上的计算资源非常重要。

为了支持在服务器和边缘设备上进行更有效的部署，PyTorch 1.3现在支持用eager模式进行8位模型量化。所谓量化，是指降低精度执行计算和存储的技术。

当前处于实验性的量化功能包括对后训练量化（post-training quantization）、动态量化（dynamic quantization）和量化感知训练（quantization-aware training）的支持。它分别利用了x86和ARM CPU的

FBGEMM和

QNNPACK最新的量化内核后端，这些后端与PyTorch集成在一起，并且现在共享一个通用API。

具体的API文档可以参阅：

https://pytorch.org/docs/master/quantization.html

Facebook提供了一个量化的实际案例供开发者参考：

https://pytorch.org/tutorials/advanced/dynamic_quantization_tutorial.html

移动端

另外，为了在边缘设备上高效的运行机器学习，PyTorch 1.3支持端到端的工作流，从Python到部署在iOS和安卓端。

当然，这个功能还是早期实验版本，针对端到端做了优化，新版本重点在：

大小优化，根据用户需要构建级别优化和选择性编译。

提升了移动CPU和GPU上的性能。

高级API：扩展移动原生API，覆盖常用预处理、将机器学习合并到移动应用需要的集成任务，比如计算机视觉或者NLP的任务。

移动端部署细节：

https://pytorch.org/mobile/home/

新工具

可解释性工具Captum

随着AI模型变得越来越复杂，开发用于模型可解释性的新方法变得越来越重要。为了满足这种需求，Facebook推出了

Captum。

Captum可以帮助使用PyTorch的开发者了解为什么他们的模型生成某个特定输出。

Captum提供了先进的工具来理解特定神经元和层如何影响模型做出的预测。

Captum的算法包括integrated gradients、conductance、SmoothGrad、VarGrad和DeepLift。

下面的案例展示了如何在预训练的ResNet模型上应用模型可解释性算法，然后通过将每个像素的属性叠加在图像上，使其可视化。

noise_tunnel = NoiseTunnel(integrated_gradients)

attributions_ig_nt, delta = noise_tunnel.attribute(input, n_samples=10, nt_type='smoothgrad_sq', target=pred_label_idx)

_ = viz.visualize_image_attr_multiple(["original_image", "heat_map"],

["all", "positive"],

np.transpose(attributions_ig_nt.squeeze().cpu().detach().numpy(), (1,2,0)),

np.transpose(transformed_img.squeeze().cpu().detach().numpy(), (1,2,0)), cmap=default_cmap,

show_colorbar=True)

了解更多：

https://www.captum.ai/

加密工具CrypTen

通过基于云或机器学习即服务（MLaaS）平台的ML的实际应用提出了一系列安全和隐私挑战。

这些平台的用户可能不希望或是无法共享未加密数据，这使他们无法充分利用机器学习工具。为了应对这些挑战，机器学习社区正在探索各种成熟度不同的技术方法。这些包括同态加密（homomorphic encryption）、安全多方计算（secure multiparty computation）、可信执行环境（trusted execution environments）、设备计算（on-device computation）和差分隐私（differential privacy）。