ML Bench

Machine Learning Benchmark Tool (ML Bench) (AI Benchmark Tool)

Supported models :

- MobileNet v1

- MobileNet v2

- Inception v3

- Resnet v2 50

- SSD Mobilenet v1 (Object Detection)

Supported runtime :

- Tensorflow Lite

- Tensorflow Mobile

- Android NN

- SNPE (for Qualcomm)

SideLoad Support:

How to side load your model :

1. Convert your model to tflite (using toco) or dlc (using snpe conversion tool).

2. On your local machine, create [Model Name] directory

3. Copy your model file to the directory created in step 2

4. Create a file called meta-data.json in the [Model Name] directory

example of meta-data.json :

{

"xres" : 299,

"yres" : 299,

"depth" : 3,

"input_type" : "float",

"output_type" : "float",

"input_name" : "input:0",

"output_name" : "InceptionV3/Predictions/Reshape_1:0",

"image_mean" : 0,

"image_std" : 0,

"accelerator":"dsp",

}

5. push [Model Name] directory to the target device using below command

adb push ./[Model Name] /sdcard/Android/data/com.etinum.mlbench/files/models/

Benchmark-Tool für maschinelles Lernen (ML-Bench) (AI-Benchmark-Tool)

Unterstützte Modelle:

 - MobileNet v1

 - MobileNet v2

 - Inception v3

 - Resnet v2 50

 - SSD Mobilenet v1 (Objekterkennung)

Unterstützte Laufzeit:

 - Tensorflow Lite

 - Tensorflow Mobile

 - Android NN

 - SNPE (für Qualcomm)

SideLoad-Unterstützung:

      So laden Sie Ihr Modell von der Seite:

1. Konvertieren Sie Ihr Modell in tflite (mit toco) oder in dlc (mit dem snpe-Konvertierungstool).

2. Erstellen Sie auf Ihrem lokalen Computer das Verzeichnis [Modellname]

3. Kopieren Sie Ihre Modelldatei in das in Schritt 2 erstellte Verzeichnis

4. Erstellen Sie eine Datei mit dem Namen meta-data.json im Verzeichnis [Modellname]

Beispiel für meta-data.json:

{

"xres": 299

"yres": 299

"Tiefe": 3,

"input_type": "float",

"output_type": "float",

"input_name": "input: 0",

"output_name": "InceptionV3 / Predictions / Reshape_1: 0",

"image_mean": 0,

"image_std": 0,

"Beschleuniger": "dsp",

}

5. Schieben Sie das Verzeichnis [Modellname] mit dem folgenden Befehl auf das Zielgerät

adb push ./[Modellname] /sdcard/Android/data/com.etinum.mlbench/files/models/