Hugging Face's logo

Datasets:
optimum-benchmark
/
OpenVINO-Benchmarks

License:
Dataset card Viewer Files Community
IlyasMoutawwakil HF staff commited on
Commit
0b45522
•
1 Parent(s): 74eb133

Upload IlyasMoutawwakil/2024-11-19-18-54-41/openvino/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. IlyasMoutawwakil/2024-11-19-18-54-41/openvino/benchmark_report.json +443 -0
IlyasMoutawwakil/2024-11-19-18-54-41/openvino/benchmark_report.json ADDED
@@ -0,0 +1,443 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 2345.521152,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 14.333205286413431
15
+ ],
16
+ "count": 1,
17
+ "total": 14.333205286413431,
18
+ "mean": 14.333205286413431,
19
+ "p50": 14.333205286413431,
20
+ "p90": 14.333205286413431,
21
+ "p95": 14.333205286413431,
22
+ "p99": 14.333205286413431,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "prefill": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 4010.528768,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.07800428941845894,
43
+ 0.09981539472937584,
44
+ 0.12276779487729073,
45
+ 0.17401555553078651,
46
+ 0.10036631673574448,
47
+ 0.08128567039966583,
48
+ 0.09610648825764656,
49
+ 0.12480997666716576,
50
+ 0.1628739796578884,
51
+ 0.1200340986251831
52
+ ],
53
+ "count": 10,
54
+ "total": 1.1600795648992062,
55
+ "mean": 0.11600795648992061,
56
+ "p50": 0.11020020768046379,
57
+ "p90": 0.16398813724517822,
58
+ "p95": 0.16900184638798235,
59
+ "p99": 0.17301281370222568,
60
+ "stdev": 0.030419616564586062,
61
+ "stdev_": 26.22200880439531
62
+ },
63
+ "throughput": {
64
+ "unit": "tokens/s",
65
+ "value": 275.8431487652343
66
+ },
67
+ "energy": null,
68
+ "efficiency": null
69
+ },
70
+ "decode": {
71
+ "memory": {
72
+ "unit": "MB",
73
+ "max_ram": 4010.528768,
74
+ "max_global_vram": null,
75
+ "max_process_vram": null,
76
+ "max_reserved": null,
77
+ "max_allocated": null
78
+ },
79
+ "latency": {
80
+ "unit": "s",
81
+ "values": [
82
+ 2.229134727269411,
83
+ 1.748685896396637,
84
+ 2.021323025226593,
85
+ 2.3815603740513325,
86
+ 2.1936309970915318,
87
+ 1.731995053589344,
88
+ 2.1007684022188187,
89
+ 2.3228575251996517,
90
+ 2.229078471660614,
91
+ 2.3768470771610737
92
+ ],
93
+ "count": 10,
94
+ "total": 21.335881549865007,
95
+ "mean": 2.1335881549865006,
96
+ "p50": 2.211354734376073,
97
+ "p90": 2.3773184068500997,
98
+ "p95": 2.379439390450716,
99
+ "p99": 2.381136177331209,
100
+ "stdev": 0.22393036269721134,
101
+ "stdev_": 10.495482090761241
102
+ },
103
+ "throughput": {
104
+ "unit": "tokens/s",
105
+ "value": 29.059028967280838
106
+ },
107
+ "energy": null,
108
+ "efficiency": null
109
+ },
110
+ "per_token": {
111
+ "memory": null,
112
+ "latency": {
113
+ "unit": "s",
114
+ "values": [
115
+ 0.03276033699512482,
116
+ 0.04656617343425751,
117
+ 0.03557034581899643,
118
+ 0.10524672269821167,
119
+ 0.07960516214370728,
120
+ 0.21579066291451454,
121
+ 0.07729018107056618,
122
+ 0.09525733441114426,
123
+ 0.028941500931978226,
124
+ 0.2657908760011196,
125
+ 0.10728999599814415,
126
+ 0.03247331082820892,
127
+ 0.08851530775427818,
128
+ 0.06352876499295235,
129
+ 0.02910720929503441,
130
+ 0.03498033061623573,
131
+ 0.07413382828235626,
132
+ 0.06594063714146614,
133
+ 0.1290266178548336,
134
+ 0.07614566758275032,
135
+ 0.028659217059612274,
136
+ 0.08347293734550476,
137
+ 0.08041674271225929,
138
+ 0.032005418092012405,
139
+ 0.07273131981492043,
140
+ 0.030176054686307907,
141
+ 0.06530263274908066,
142
+ 0.028347216546535492,
143
+ 0.032775308936834335,
144
+ 0.05633654072880745,
145
+ 0.03427707031369209,
146
+ 0.055607546120882034,
147
+ 0.028190527111291885,
148
+ 0.06407081708312035,
149
+ 0.033071644604206085,
150
+ 0.09858817979693413,
151
+ 0.07811188697814941,
152
+ 0.02990391105413437,
153
+ 0.029782786965370178,
154
+ 0.07039697468280792,
155
+ 0.07316873222589493,
156
+ 0.027243908494710922,
157
+ 0.0672592781484127,
158
+ 0.09579585120081902,
159
+ 0.025781549513339996,
160
+ 0.10456508025527,
161
+ 0.07022688910365105,
162
+ 0.09552443027496338,
163
+ 0.03131381422281265,
164
+ 0.06906573101878166,
165
+ 0.03898061439394951,
166
+ 0.07034030184149742,
167
+ 0.03608347475528717,
168
+ 0.051725588738918304,
169
+ 0.031174056231975555,
170
+ 0.031033962965011597,
171
+ 0.06698845699429512,
172
+ 0.029922068119049072,
173
+ 0.05996061488986015,
174
+ 0.04484918713569641,
175
+ 0.07510212808847427,
176
+ 0.06419211253523827,
177
+ 0.03447629138827324,
178
+ 0.06946689262986183,
179
+ 0.09577881544828415,
180
+ 0.09704384207725525,
181
+ 0.02905774489045143,
182
+ 0.07646375149488449,
183
+ 0.0381813608109951,
184
+ 0.0760233961045742,
185
+ 0.15581273660063744,
186
+ 0.10034587234258652,
187
+ 0.031830694526433945,
188
+ 0.03196881711483002,
189
+ 0.05857677012681961,
190
+ 0.03375771641731262,
191
+ 0.08647434040904045,
192
+ 0.061002422124147415,
193
+ 0.03249937295913696,
194
+ 0.06440872326493263,
195
+ 0.03937507048249245,
196
+ 0.06055832654237747,
197
+ 0.09956974908709526,
198
+ 0.03176824748516083,
199
+ 0.032013293355703354,
200
+ 0.06000702455639839,
201
+ 0.032002631574869156,
202
+ 0.057579249143600464,
203
+ 0.030694782733917236,
204
+ 0.1945917308330536,
205
+ 0.08098095282912254,
206
+ 0.03565327078104019,
207
+ 0.09257418662309647,
208
+ 0.03219129517674446,
209
+ 0.18553052470088005,
210
+ 0.07995762676000595,
211
+ 0.03972109779715538,
212
+ 0.08343963325023651,
213
+ 0.06778322160243988,
214
+ 0.0997680053114891,
215
+ 0.03405139595270157,
216
+ 0.08616263791918755,
217
+ 0.033884499222040176,
218
+ 0.06752844527363777,
219
+ 0.039021823555231094,
220
+ 0.07577447220683098,
221
+ 0.07238823547959328,
222
+ 0.039768461138010025,
223
+ 0.2545165494084358,
224
+ 0.034470848739147186,
225
+ 0.07814503461122513,
226
+ 0.030465837568044662,
227
+ 0.06047162413597107,
228
+ 0.0333249531686306,
229
+ 0.055947430431842804,
230
+ 0.11218647286295891,
231
+ 0.032751210033893585,
232
+ 0.07658587768673897,
233
+ 0.2025311291217804,
234
+ 0.07758618518710136,
235
+ 0.03987925499677658,
236
+ 0.08171267807483673,
237
+ 0.07309553027153015,
238
+ 0.10023412108421326,
239
+ 0.03580084815621376,
240
+ 0.07501924782991409,
241
+ 0.03706417232751846,
242
+ 0.09981396794319153,
243
+ 0.07141410559415817,
244
+ 0.03606809303164482,
245
+ 0.06963951885700226,
246
+ 0.03849485144019127,
247
+ 0.055650319904088974,
248
+ 0.08080661296844482,
249
+ 0.05216989293694496,
250
+ 0.06949299573898315,
251
+ 0.039232343435287476,
252
+ 0.07121586799621582,
253
+ 0.06367771700024605,
254
+ 0.03731651231646538,
255
+ 0.06318052858114243,
256
+ 0.050698697566986084,
257
+ 0.06596863642334938,
258
+ 0.09857745841145515,
259
+ 0.08453952893614769,
260
+ 0.04534861817955971,
261
+ 0.08192834630608559,
262
+ 0.09970330074429512,
263
+ 0.10041816532611847,
264
+ 0.10459814593195915,
265
+ 0.09161840006709099,
266
+ 0.079971082508564,
267
+ 0.04946538433432579,
268
+ 0.08535290509462357,
269
+ 0.10651442781090736,
270
+ 0.05401138588786125,
271
+ 0.07270823791623116,
272
+ 0.03515540435910225,
273
+ 0.06992592290043831,
274
+ 0.03834599256515503,
275
+ 0.1532488353550434,
276
+ 0.035957373678684235,
277
+ 0.06541945412755013,
278
+ 0.05641433224081993,
279
+ 0.06330441311001778,
280
+ 0.039785027503967285,
281
+ 0.06949774920940399,
282
+ 0.07165710628032684,
283
+ 0.03565383702516556,
284
+ 0.06903250515460968,
285
+ 0.03423493728041649,
286
+ 0.061832495033741,
287
+ 0.04408581554889679,
288
+ 0.05865628644824028,
289
+ 0.036170534789562225,
290
+ 0.059799760580062866,
291
+ 0.03906123340129852,
292
+ 0.06377166509628296,
293
+ 0.03133314475417137,
294
+ 0.06138460710644722,
295
+ 0.03533390536904335,
296
+ 0.03325638920068741,
297
+ 0.06015762686729431,
298
+ 0.03581186756491661,
299
+ 0.07528448477387428,
300
+ 0.0709913969039917,
301
+ 0.0361611470580101,
302
+ 0.05609507113695145,
303
+ 0.053094424307346344,
304
+ 0.07951617613434792,
305
+ 0.030700232833623886,
306
+ 0.06380075216293335,
307
+ 0.03321230039000511,
308
+ 0.08722276240587234,
309
+ 0.07864074036478996,
310
+ 0.03370043262839317,
311
+ 0.06406933814287186,
312
+ 0.036439064890146255,
313
+ 0.08241594210267067,
314
+ 0.06896177679300308,
315
+ 0.03132679685950279,
316
+ 0.03277772665023804,
317
+ 0.0778188444674015,
318
+ 0.09208911284804344,
319
+ 0.06970247998833656,
320
+ 0.04617838189005852,
321
+ 0.052473284304142,
322
+ 0.0379362590610981,
323
+ 0.16529900208115578,
324
+ 0.03478311002254486,
325
+ 0.07871067151427269,
326
+ 0.10058854892849922,
327
+ 0.07234855368733406,
328
+ 0.22240984812378883,
329
+ 0.0747317485511303,
330
+ 0.03812321648001671,
331
+ 0.06875496357679367,
332
+ 0.07447218522429466,
333
+ 0.048459917306900024,
334
+ 0.07251329347491264,
335
+ 0.035763930529356,
336
+ 0.0982254110276699,
337
+ 0.07697807624936104,
338
+ 0.09218325838446617,
339
+ 0.07217906787991524,
340
+ 0.031621817499399185,
341
+ 0.08745547384023666,
342
+ 0.09636405482888222,
343
+ 0.03460589423775673,
344
+ 0.07543854415416718,
345
+ 0.10936520993709564,
346
+ 0.08519384637475014,
347
+ 0.03754560276865959,
348
+ 0.07467057183384895,
349
+ 0.09570742025971413,
350
+ 0.09633089229464531,
351
+ 0.07825567945837975,
352
+ 0.10299886018037796,
353
+ 0.035550884902477264,
354
+ 0.07464680075645447,
355
+ 0.1959409900009632,
356
+ 0.04094931483268738,
357
+ 0.08419761061668396,
358
+ 0.06791556254029274,
359
+ 0.10611477121710777,
360
+ 0.034808699041604996,
361
+ 0.07460585609078407,
362
+ 0.031089868396520615,
363
+ 0.03273241966962814,
364
+ 0.09960731863975525,
365
+ 0.0649699941277504,
366
+ 0.036940351128578186,
367
+ 0.06622051820158958,
368
+ 0.03666076809167862,
369
+ 0.06373108923435211,
370
+ 0.03830886632204056,
371
+ 0.05402154475450516,
372
+ 0.03146382421255112,
373
+ 0.05515385791659355,
374
+ 0.05268038809299469,
375
+ 0.06824472546577454,
376
+ 0.08269192278385162,
377
+ 0.1004941500723362,
378
+ 0.03430498391389847,
379
+ 0.10175274312496185,
380
+ 0.07436015456914902,
381
+ 0.098038200289011,
382
+ 0.18800119310617447,
383
+ 0.044660985469818115,
384
+ 0.18182635307312012,
385
+ 0.029836580157279968,
386
+ 0.07077986747026443,
387
+ 0.07871225103735924,
388
+ 0.046259600669145584,
389
+ 0.10328545793890953,
390
+ 0.07727184519171715,
391
+ 0.09232445433735847,
392
+ 0.07998698577284813,
393
+ 0.043092623353004456,
394
+ 0.0848996713757515,
395
+ 0.07917285338044167,
396
+ 0.03600013256072998,
397
+ 0.06403151527047157,
398
+ 0.07016626745462418,
399
+ 0.054347846657037735,
400
+ 0.17070895433425903,
401
+ 0.20348185673356056,
402
+ 0.07321556657552719,
403
+ 0.029255568981170654,
404
+ 0.06993697211146355,
405
+ 0.036380089819431305,
406
+ 0.088119737803936,
407
+ 0.10015526413917542,
408
+ 0.09933224320411682,
409
+ 0.07652836292982101,
410
+ 0.031794048845767975,
411
+ 0.032826561480760574,
412
+ 0.16283348575234413,
413
+ 0.0967162735760212,
414
+ 0.03582935035228729,
415
+ 0.1380399614572525,
416
+ 0.029890578240156174,
417
+ 0.07660247758030891,
418
+ 0.03689418360590935,
419
+ 0.07634879276156425,
420
+ 0.04028574749827385,
421
+ 0.06312737613916397,
422
+ 0.10127557441592216,
423
+ 0.0851001888513565,
424
+ 0.03287708759307861
425
+ ],
426
+ "count": 310,
427
+ "total": 21.276764828711748,
428
+ "mean": 0.06863472525390886,
429
+ "p50": 0.06568004563450813,
430
+ "p90": 0.1005035899579525,
431
+ "p95": 0.14640484210103769,
432
+ "p99": 0.214682870358229,
433
+ "stdev": 0.03854903653010304,
434
+ "stdev_": 56.165499879971634
435
+ },
436
+ "throughput": {
437
+ "unit": "tokens/s",
438
+ "value": 29.13976842773326
439
+ },
440
+ "energy": null,
441
+ "efficiency": null
442
+ }
443
+ }