SoS Model MobileNet-V2 Inception-V3 MobileNet-V3 (Large-Minimalistic) MobileNet-V2 Parallel (NN-INT8) MobileNet-V2 Parallel (NN-FP16) CRNN (ResNet-18 + LSTM) PyNET VGG-19 SRGAN U-Net DeepLab V3+ DPED-ResNet LSTM Avg Init Time Lib AI Score
CPU-Q CPU-F NN-INT8 NN-FP16 CPU-Q CPU-F NN-INT8 NN-FP16 CPU-Q CPU-F NN-INT8 NN-FP16 1 Model 2 Models 4 Models 8 Models 1 Model 2 Models 4 Models 8 Models CPU-F NN-FP16 NN-FP32 NN-INT8 NN-FP16 NN-INT8 NN-FP16 NN-INT8 NN-FP16 NN-INT8 NN-FP16 CPU-Q CPU-F NN-INT8 NN-FP16 NN-Parallel CPU-Q CPU-F NN-INT8 NN-FP16 CPU-F NN-FP16 NN-INT8 NN-FP16
ms ms ms ms, bs=4 error, L1 ms ms, bs=4 acc, digits ms ms ms error, L1 ms acc, digits ms ms ms error, L1 ms acc, digits ms ms ms ms ms ms ms ms ms ms acc, digits ms acc, digits ms error, px ms error, px ms error, px ms error, px ms error, px ms error, px ms error, px ms error, px ms ms ms ms INT8, ms FP16, ms ms ms ms error, px ms error, px ms ms acc, digits ms ms
Synaptics VideoSmart VS680 79 90 2.7 22 175 253 3.4 178 279 447 10 3.7 2724 138 280 269 11 53.1 730 173 3.1 3.9 5.2 73 176 331 685 1393 172 715 40700 3078 40116 20 0.93 9507 54.4 31 0.19 29543 0.15 57 2.5 13790 0.26 10 1 3989 0.72 299 372 62 3195 3216 3211 337 521 9.9 0.14 2917 15.7 196 189 25.1 2941 1043 nc 28691
Qualcomm QCS605 38 45 5.5 4.1 23.7 11 0 0 292 341 33 1.2 133 4.8 140 151 15 49.6 27 4.7 5.5 6.2 13 31 10 13 29 67 133 79 3.4 99 7 97 0.8 389 53.3 103 0.2 296 0.24 134 3.2 661 0.28 47 4.8 96 0.69 269 292 76 114 85 129 220 254 27 0.38 69 15.7 177 177 3.5 87 1201 hg 25749
i.MX 8M Plus 107 123 4.6 5.3 22.1 158 152 4.6 489 588 21 3.7 2334 4.9 390 402 15 53.1 628 4.8 6.4 9 12 40 152 272 579 1199 290 652 2.4 2206 2.4 3671 0 17658 0.27 94 0.19 23668 0.15 106 2.5 11374 0.26 3146 0.72 6992 61537 424 546 86 2722 2740 2743 626 569 18 0.14 2475 15.7 656 4130 7 6741 1908 nc 10325
Synaptics VideoSmart VS640 160 131 5.7 7.9 22.1 130 130 7 878 1039 34 3.7 1042 7 564 469 16 53.1 466 7 7.2 9.2 29 106 341 489 852 1654 351 354 7 364 7 793 0.95 2663 0.27 101 0.19 3080 0.15 153 2.5 2777 0.25 3224 0.72 800 0.25 965 939 81 952 85 1285 870 732 28 0.14 791 0.25 444 425 7 38239 86 nc 10034
MediaTek i500 59 75 49 23 0 56 29 3 280 401 161 0 309 4.7 218 258 105 0 139 3 35 37 49 144 37 60 136 287 169 154 2.4 195 2.4 996 0 1880 0.56 642 0 1204 2147483647 575 0 1495 115 1826 0 1273 0.27 249 346 422 515 468 492 336 274 169 0 293 0.27 249 793 4.3 325 7156 nn 6588
Amlogic A311D 70 78 319 100 5.4 83 75 7 261 438 1020 1.8 856 7 249 257 368 0 284 7 319 582 1192 2430 86 209 1150 2838 161 311 7 286 7 1942 0.41 3135 0.27 1662 0 4352 0.15 1502 0 3428 0.25 823 0.59 1280 0.25 268 367 728 909 1286 1700 373 557 439 0 1066 0.25 170 276 7 39 74 cc 5799
Amlogic S922X 70 81 315 95 5.4 88 79 7 269 453 968 1.8 904 7 251 266 361 0 289 7 311 586 1208 2485 90 217 1168 2898 167 335 7 303 7 1900 0.41 3437 0.27 1736 0 4586 0.15 1546 0 3571 0.25 837 0.59 1237 0.25 281 376 744 950 1292 1710 394 570 471 0 1063 0.25 197 310 7 23 105 cc 5553
Amlogic S922X 70 81 328 101 5.4 81 0 0 274 464 1050 1.8 962 6.1 250 262 379 0 159 4.9 24 0 0 0 32 0 0 0 170 0 0 0 0 1897 0.41 2842 0.28 1735 0 4366 0.15 1488 0 3116 0.25 806 0.59 936 0.25 277 389 748 644 766 605 391 569 460 0 941 0.25 194 197 3.5 25 809 cg 5332
Broadcom BCM2711 88 85 87 77 22.4 124 108 7 340 582 341 0 993 7 275 262 274 44.4 384 7 35 127 447 913 71 223 551 1097 231 402 7 406 7 1825 0 5476 0.27 2355 0 6937 0.15 1794 2.3 4452 0.25 593 0.59 1764 0.25 312 566 317 646 752 1192 522 604 545 0 1486 0.25 234 234 7 65 213 cc 5075
Rockchip RK3566 51 127 51 49 22.4 145 137 7 261 795 261 0.3 1153 7 176 466 177 44.5 494 7 33 136 390 832 82 263 566 1167 339 477 7 481 7 1386 0 6634 0.27 1528 0 5971 0.15 1402 2.3 4147 0.25 486 0.59 1602 0.25 228 744 228 716 554 1290 373 669 373 0 1323 0.25 440 437 7 25 84 cc 4910
JLQ JA310 68 135 68 53 22.4 165 144 7 259 608 260 0.3 998 7 195 436 194 44.5 525 7 46 168 405 861 106 329 596 1184 368 491 7 489 7 1334 0 5875 0.27 1511 0 5442 0.15 1481 2.3 3770 0.25 492 0.59 1497 0.25 250 621 254 701 585 1241 381 586 373 0 1256 0.25 418 415 7 35 105 cc 4828
Rockchip RK3288 157 187 157 174 0 187 324 7 536 1111 536 0 1111 7 459 554 459 0 554 7 55 187 476 1029 90 484 1175 2465 407 407 7 407 7 2588 0 3193 0 2776 0 4655 0 2352 0 3737 0 758 0 1020 0 498 871 498 871 1214 1694 621 963 621 0 963 0 390 390 7 0 0 cc 3844
Amlogic S905D 211 186 211 203 0 186 289 7 725 898 725 0 898 7 732 614 732 0 614 7 65 256 570 1195 78 346 976 2181 482 482 7 482 7 2748 0 2963 0 3811 0 3869 0 3076 0 3357 0 1026 0 864 0 817 837 817 837 1728 1643 869 862 869 0 862 0 565 565 7 0 0 cc 3524
Amlogic S905X2 177 151 103 95 5.4 173 144 7 632 777 721 1.8 1740 7 622 525 334 0 550 7 109 214 497 1086 177 426 1583 3765 351 686 7 660 7 2541 0.41 6789 0.27 3577 0 8650 0.15 2748 0 6657 0.25 1348 0.59 2604 0.25 731 759 1177 1793 2062 2807 758 770 828 0 2103 0.25 404 1022 7 40 137 cc 3000
Amlogic S905X3 172 150 98 91 5.4 170 141 7 609 825 596 1.8 1830 7 596 527 309 0 559 7 105 208 481 997 177 433 1627 3792 335 684 7 646 7 2257 0.41 7786 0.27 2913 0 9605 0.15 2331 0 7236 0.25 1166 0.59 2847 0.25 691 771 1085 1814 2093 2669 742 719 684 0 2257 0.25 449 2309 7 49 116 cc 2994
Amlogic S905X4 182 158 181 177 22.4 264 246 7 718 925 681 0 1716 7 634 559 648 44.4 912 7 73 225 501 1020 113 300 651 1315 386 614 7 614 7 2505 0 7395 0.27 3544 0 9659 0.15 2885 2.3 6591 0.25 879 0.59 2101 0.25 739 794 834 1253 1526 2193 793 689 798 0 2054 0.25 533 516 7 42 129 cc 2954
Amlogic S905X 265 231 265 259 0 231 372 7 917 1224 917 0 1224 7 943 863 943 0 863 7 84 274 609 1292 117 605 1452 2953 567 567 7 567 7 4131 0 4708 0 5932 0 6456 0 4627 0 5084 0 1497 0 1257 0 1194 1298 1194 1298 2575 1330 1306 1303 1306 0 1303 0 641 641 7 0 0 cc 2569
Amlogic S905W 269 233 269 262 0 233 378 7 958 1431 958 0 1431 7 937 869 937 0 869 7 97 304 631 1358 152 567 1465 3276 592 592 7 592 7 3720 0 4692 0 5427 0 5614 0 4106 0 4971 0 1349 0 1347 0 1083 1374 1083 1374 1239 2531 1149 1142 1149 0 1142 0 668 668 7 0 0 cc 2534
Rockchip RK3399 95 116 784 239 5.4 160 138 7 883 1851 2401 1.8 1532 7 254 364 860 0 517 7 784 1875 3766 7605 176 392 1024 2363 741 649 7 697 7 5498 0.41 8440 0.27 4677 0 10972 0.15 3946 0 7290 0.25 1645 0.59 2933 0.25 705 1302 1610 1626 2555 4462 923 1167 1246 0 2359 0.25 387 778 7 32 126 cc 2494
Amlogic S905 211 193 211 206 0 193 297 7 1154 1663 1154 0 1663 7 744 654 744 0 654 7 220 387 657 1277 317 648 1184 2319 737 737 7 737 7 3741 0 4197 0 5991 0 5305 0 4684 0 5268 0 1730 0 1539 0 1552 1351 1552 1351 1907 2393 1336 1318 1336 0 1318 0 602 602 7 0 0 cc 2426
Amlogic S912 242 240 139 114 5.4 291 187 7 803 1146 723 1.8 2224 7 833 1033 411 0 686 7 161 297 691 1404 268 896 2523 5810 488 812 7 783 7 2481 0.41 8060 0.27 3138 0 9081 0.15 2620 0 6955 0.25 1611 0.59 3636 0.25 959 931 1320 2059 2299 3141 631 588 800 0 2270 0.25 803 1980 7 83 45 cc 2344
Rockchip RK3318 183 199 186 173 22.4 311 287 7 964 1414 1038 0.3 2536 7 636 716 638 44.5 1024 7 75 257 570 1160 180 470 975 2110 541 845 7 837 7 3827 0 12877 0.27 4940 0 12071 0.15 4176 2.3 8001 0.25 1204 0.59 2645 0.25 729 1153 736 1545 1691 2865 1098 1144 1128 0 2592 0.25 1004 1019 7 61 185 cc 2172
Synaptics VideoSmart BG5CT 197 160 198 193 22.4 340 0 0 701 810 694 0 5542 6 693 570 692 44.4 832 4.9 72 0 0 0 72 0 0 0 413 0 0 0 0 0 0 0 0.27 3747 0 33243 0.15 3064 2.3 19028 0.25 973 0.59 5342 0.25 830 792 829 3635 1014 3654 892 851 895 0 7010 0.25 505 492 3.5 25 1046 cc 2117
Allwinner H616 222 229 222 213 22.4 342 318 7 929 2295 945 0 3145 7 757 774 762 44.4 1110 7 78 353 665 1402 180 484 1146 2220 660 945 7 1003 7 3765 0 15454 0.27 5168 0 13778 0.15 3959 2.3 9979 0.25 1380 0.59 3121 0.25 1055 1394 1051 1761 2290 3538 1556 1098 1150 0 3285 0.25 659 642 7 44 118 cc 1962
Rockchip PX30 370 465 369 358 22.4 579 549 7 1403 2689 1409 0 3488 7 1291 1634 1294 44.4 1980 7 122 335 736 1466 216 517 1177 2358 933 1173 7 1183 7 5858 0 16264 0.27 8461 0 21644 0.15 6626 2.3 15082 0.25 1873 0.59 4176 0.25 1596 2396 1550 2918 3111 5157 1833 3147 1827 0 4667 0.25 708 713 7 96 195 cc 1301
Allwinner T8 445 607 445 446 0 607 835 7 1679 3033 1679 0 3033 7 1546 2075 1546 0 2075 7 163 187 384 879 180 299 1077 2362 1337 1337 7 1337 7 7604 0 10859 0 10218 0 15152 0 8159 0 12913 0 2693 0 3280 0 1711 2643 1711 2643 2007 2803 1504 2079 1504 0 2079 0 2022 2022 7 0 0 cc 1233
AutoChips AC8227L 443 539 443 640 0 539 1094 7 1811 3307 1811 0 3307 7 1537 1929 1537 0 1929 7 168 456 955 2150 300 1005 2420 5652 1297 1297 7 1297 7 7273 0 11896 0 10093 0 16928 0 8216 0 13421 0 2507 0 3324 0 1956 2791 1956 2791 3160 5285 2252 3645 2252 0 3645 0 1563 1563 7 0 0 cc 1143
Allwinner T3 397 510 397 391 0 510 758 7 1777 3213 1777 0 3213 7 1403 1816 1403 0 1816 7 143 404 827 1580 219 903 1986 4925 1568 1568 7 1568 7 10736 0 12999 0 15572 0 17473 0 10749 0 15757 0 4063 0 4518 0 2142 3012 2142 3012 3572 4627 2935 3716 2935 0 3716 0 1602 1602 7 0 0 cc 1080
NXP i.MX 8QuadXPlus 267 447 124 114 0 559 535 7 1196 2514 1498 1.3 1879 5.4 967 1599 352 62 728 4.7 127 287 685 1514 587 1012 2150 4438 877 2927 2.4 2926 2.4 0 0 0 0.37 0 0.16 0 0.23 0 3.2 0 0.35 7647 0 14000 0.25 1055 2023 1442 8258 6340 9265 1529 2935 1578 0 12846 0.25 678 1161 7 1181 3259 cc 1067