推理性能優秀，但缺少API支持

除了CPU和GPU之外，高通對驍龍855的另一個宣傳重點是其Hexagon 690加速器模塊。

Hexagon 690的矢量管線相比驍龍845上的Hexagon 680翻了一倍，傳統圖像處理任務以及機器推理工作的性能也相應翻倍。更重要的是，高通為其專門設計了一個張量加速單元，它可以更好地分流推理任務。

高通宣稱Hexagon 690“總共具有7Tops”的計算能力，但是并未透露包括張量加速單元在內各部分的具體性能信息。

然而在硬件性能之外，張量加速單元目前的API支持情況卻并不完善，高通表示今年晚些時候才會將相關特性提供給NNAPI，目前只有公司內部的測試軟件才能調用這個張量加速單元。

這也就意味著，在目前本就非常有限的AI測試軟件中，沒有一個能夠真正測試驍龍855的AI性能，測試結果僅能體現Hexagon 690作為DSP在傳統矢量管線方面的改進。

本次測試依然使用AI-Benchmark軟件，這是由瑞士ETH蘇黎世計算機視覺實驗室的Andrey Ignatov開發的新基準測試程序，也是第一個廣泛使用Android 8.1新NNAPI而不依賴于每個SoC供應商自己的SDK工具和API的基準測試程序，能更準確的體現使用NNAPI的應用程序的神經網絡性能。

需要記住的一點是，NNAPI不僅僅是一些能夠在NPU上運行神經網絡模型的通用轉換層，而且API和SoC供應商的底層驅動程序必須能夠支持公開的函數，并且能夠在IP塊上運行它。

這里的區別在于，使用NNAPI尚未支持的特性（必須退回到CPU上運算）的模型和能夠硬件加速并對量化的INT8或FP16數據進行操作的模型。還有一些模型依賴于FP32數據，這里同樣依賴于底層驅動程序，它可以在CPU上運行，也可以在GPU上運行。

在依靠CPU運行的第一組測試項，驍龍855的表現中規中矩。由于屬于短時間突發的工作負載，此處的性能受系統調度程序的影響更大，即考驗系統能在多快的時間內充分調用起CPU性能。

接下來測試的是適用于大多數硬件加速設備的8位整數量化模型，在這些測試項中驍龍855的性能均處于領先地位。

在Pioneers的項目中可以清楚地看到HVX單元的性能確實翻了一番，驍龍855完成運算所用的時間只有驍龍845的一半；而在Cartoons項目中，驍龍855的性能增幅更大，這可能是由于高通改進了驅動程序，讓代碼能更好的利用新硬件。

在測試FP16的項目中，驍龍855終于受到了挑戰。由于麒麟980已經公開了對其硬件的支持，這些測試得以順利的跑在NPU上，而驍龍855則只能使用GPU，不過Adreno 640在這些測試項中倒也不怎么虛，只是略微落后，表現很是驚人，這也側面證明NNAPI的功能和性能都非常成熟，可以充分利用各種加速單元。

而到了FP32測試項中，驍龍855再次依靠強大的GPU加速以壓倒性的優勢制霸全場，當然這也是意料之中的……

測完AI-Benchmark，順便測測魯大師的AIMark。AIMark沒有使用NNAPI，而是基于高通的SNPE框架和蘋果的CoreML進行加速，這也讓驍龍855和蘋果A12難得的可以湊在一起進行比較。

在AIMark中，驍龍855相比驍龍845有了2.5~3倍的性能提升。即使目前的測試軟件還無法調用張量加速單元，驍龍855的推理性能也非常出色。

順便一提，高通還現場展示了驍龍855運行InceptionV3內部測試的情況，該測試由HVX單元和新的張量加速單元共同加速，推斷性能達到每秒148次，與不使用張量加速單元的AIMark相比，性能提升了26％。