Node count: 9
Node 0: Placeholder 'inputs/x-input'
Node 1: Const 'model/W'
Node 2: Const 'model/b'
Node 3: MatMul 'model/MatMul'
Node 4: Add 'model/add'
Node 5: Sigmoid 'model/y_pred'
Node 6: Const 'inference/Greater/y'
Node 7: Greater 'inference/Greater'
Node 8: Cast 'inference/inference'

        

          
        
        
        

          

          AI 代码解读
        
      
      

Probability spoken by a male: 0.970405%
Prediction: male

Probability spoken by a male: 0.005632%
Prediction: female

        

          
        
        
        

          

          AI 代码解读
        
      
      

       IOS app上使用TensorFlow的一个弊端是他是运行在CPU上的。对于数据和模型较小的项目，TensorFlow能够满足我们的需求。但是对于更大的数据集，特别是深度学习，你就必须要使用GPU代替CPU，在IOS上就意味着要使用Metal。

  训练后，我们需要将学习到的参数w和b保存成Metal能够读取的格式。其实只要以二进制格式保存为浮点数列表就可以了。

下面的Python脚本export_weights.py和之前载入图定义和检查点的test.py很相似，如下：

    W.eval().tofile("W.bin")
    b.eval().tofile("b.bin")

        

          
        
        
        

          

          AI 代码解读
        
      
      

W.eval()计算w目前的值，并以返回Numpy数组（和sess.run(W)作用是一样的）。然后使用tofile()将Numpy数组保存为二进制文件。

你可以在源码的VoiceMetal文件夹下发现Xcode项目，使用Swift编写的。

之前我们使用下面的公式计算逻辑斯蒂回归：

y_pred = sigmoid((W * x) + b)

        

          
        
        
        

          

          AI 代码解读
        
      
      

这和神经网络中全连接层进行的计算相同，为了实现Metal版分类器，我们只需要使用MPSCNN Fully Connected 层。首先将W.bin和b.bin载入到Data对象：

let W_url = Bundle.main.url(forResource: "W", withExtension: "bin")
let b_url = Bundle.main.url(forResource: "b", withExtension: "bin")
let W_data = try! Data(contentsOf: W_url!)
let b_data = try! Data(contentsOf: b_url!)

        

          
        
        
        

          

          AI 代码解读
        
      
      

然后创建全连接层：

let sigmoid = MPSCNNNeuronSigmoid(device: device)

let layerDesc = MPSCNNConvolutionDescriptor(
                   kernelWidth: 1, kernelHeight: 1, 
                   inputFeatureChannels: 20, outputFeatureChannels: 1, 
                   neuronFilter: sigmoid)

W_data.withUnsafeBytes { W in
  b_data.withUnsafeBytes { b in
    layer = MPSCNNFullyConnected(device: device, 
               convolutionDescriptor: layerDesc, 
               kernelWeights: W, biasTerms: b, flags: .none)
  }
}

        

          
        
        
        

          

          AI 代码解读
        
      
      

因为输入是20个数字，我设计了作用于一个1x1的有20个输入信道（input channels）的全连接层。预测结果y_pred是一个数字，所以全连接层只有一个输出信道。输入和输出数据放在MPSImage 中：

let inputImgDesc = MPSImageDescriptor(channelFormat: .float16, 
                       width: 1, height: 1, featureChannels: 20)
let outputImgDesc = MPSImageDescriptor(channelFormat: .float16, 
                       width: 1, height: 1, featureChannels: 1)

inputImage = MPSImage(device: device, imageDescriptor: inputImgDesc)
outputImage = MPSImage(device: device, imageDescriptor: outputImgDesc)

        

          
        
        
        

          

          AI 代码解读
        
      
      

和app上的TensorFlow一样，这里也有一个predict 方法，这个方法以组成一条样本的20个浮点数作为输入。下面是完整的方法：

func predict(example: [Float]) {
  convert(example: example, to: inputImage)

  let commandBuffer = commandQueue.makeCommandBuffer()
  layer.encode(commandBuffer: commandBuffer, sourceImage: inputImage, 
               destinationImage: outputImage)
  commandBuffer.commit()
  commandBuffer.waitUntilCompleted()

  let y_pred = outputImage.toFloatArray()
  print("Probability spoken by a male: \(y_pred[0])%")

  if y_pred[0] > 0.5 {
    print("Prediction: male")
  } else {
    print("Prediction: female")
  }
}

        

          
        
        
        

          

          AI 代码解读
        
      
      

和运行session的结果是一样的。convert(example:to:)和toFloatArray()方法加载和输出MPSImage 对象的辅助函数。

你需要在设备上运行这个app,因为模拟器不支持Metal。输出结果如下：

Probability spoken by a male: 0.970215%
Prediction: male

Probability spoken by a male: 0.00568771%
Prediction: female

        

          
        
        
        

          

          AI 代码解读
        
      
      

注意到这些概率和用TensorFlow预测到的概率不完全相同，这是因为Metal使用16位浮点数，但结果相当接近。

版权许可

本文所用的数据集是 Kory Becker制作的，在 Kaggle.com下载，也参考了Kory的博文和源码。其他人也写过IOS上TensorFlow相关的一些东西。从这些文章和代码中我受益匪浅：

1.Getting Started with Deep MNIST and TensorFlow on iOS by Matt Rajca

2.Speeding Up TensorFlow with Metal Performance Shaders also by Matt Rajca

3.tensorflow-cocoa-example by Aaron Hillegass

4.TensorFlow iOS Examples in the TensorFlow repository

以上为译文

本文由北邮@爱可可-爱生活 老师推荐，阿里云云栖社区组织翻译。

文章原标题《Getting started with TensorFlow on iOS》，由Matthijs Hollemans发布。

译者：李烽 ；审校：董昭男

文章为简译，更为详细的内容，请查看原文。中文译制文档见附件。