Hugging Face's logo

Datasets:
AlexKoff88
/
benchmarks

Dataset card Viewer Files Community
AlexKoff88 commited on
Commit
91443d9
•
1 Parent(s): 8d461f1

Upload 2024-10-10-11-14-43/openvino/benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-11-14-43/openvino/benchmark.json +536 -0
2024-10-10-11-14-43/openvino/benchmark.json ADDED
@@ -0,0 +1,536 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "name": "2024-10-10-11-14-43/openvino",
4
+ "backend": {
5
+ "name": "openvino",
6
+ "version": "2024.4.0",
7
+ "_target_": "optimum_benchmark.backends.openvino.backend.OVBackend",
8
+ "task": "text-generation",
9
+ "library": "transformers",
10
+ "model_type": "phi3",
11
+ "model": "microsoft/Phi-3.5-mini-instruct",
12
+ "processor": "microsoft/Phi-3.5-mini-instruct",
13
+ "device": "cpu",
14
+ "device_ids": null,
15
+ "seed": 42,
16
+ "inter_op_num_threads": null,
17
+ "intra_op_num_threads": null,
18
+ "model_kwargs": {},
19
+ "processor_kwargs": {},
20
+ "no_weights": false,
21
+ "export": true,
22
+ "use_cache": true,
23
+ "use_merged": true,
24
+ "openvino_config": {},
25
+ "half": false,
26
+ "reshape": false,
27
+ "quantization": false,
28
+ "quantization_config": {},
29
+ "calibration": false,
30
+ "calibration_config": {}
31
+ },
32
+ "scenario": {
33
+ "name": "inference",
34
+ "_target_": "optimum_benchmark.scenarios.inference.scenario.InferenceScenario",
35
+ "iterations": 10,
36
+ "duration": 10,
37
+ "warmup_runs": 10,
38
+ "input_shapes": {
39
+ "batch_size": 2,
40
+ "num_choices": 2,
41
+ "sequence_length": 16
42
+ },
43
+ "new_tokens": null,
44
+ "memory": true,
45
+ "latency": true,
46
+ "energy": false,
47
+ "forward_kwargs": {},
48
+ "generate_kwargs": {
49
+ "max_new_tokens": 32,
50
+ "min_new_tokens": 32
51
+ },
52
+ "call_kwargs": {}
53
+ },
54
+ "launcher": {
55
+ "name": "process",
56
+ "_target_": "optimum_benchmark.launchers.process.launcher.ProcessLauncher",
57
+ "device_isolation": false,
58
+ "device_isolation_action": null,
59
+ "numactl": true,
60
+ "numactl_kwargs": {
61
+ "cpunodebind": 0,
62
+ "membind": 0
63
+ },
64
+ "start_method": "spawn"
65
+ },
66
+ "environment": {
67
+ "cpu": " AMD EPYC 7R13 Processor",
68
+ "cpu_count": 64,
69
+ "cpu_ram_mb": 529717.026816,
70
+ "system": "Linux",
71
+ "machine": "x86_64",
72
+ "platform": "Linux-5.10.205-195.807.amzn2.x86_64-x86_64-with-glibc2.36",
73
+ "processor": "",
74
+ "python_version": "3.10.15",
75
+ "optimum_benchmark_version": "0.5.0",
76
+ "optimum_benchmark_commit": null,
77
+ "transformers_version": "4.44.2",
78
+ "transformers_commit": null,
79
+ "accelerate_version": "0.34.2",
80
+ "accelerate_commit": null,
81
+ "diffusers_version": null,
82
+ "diffusers_commit": null,
83
+ "optimum_version": "1.22.0",
84
+ "optimum_commit": null,
85
+ "timm_version": null,
86
+ "timm_commit": null,
87
+ "peft_version": null,
88
+ "peft_commit": null
89
+ },
90
+ "print_report": false,
91
+ "log_report": true
92
+ },
93
+ "report": {
94
+ "load": {
95
+ "memory": {
96
+ "unit": "MB",
97
+ "max_ram": 13733.285888,
98
+ "max_global_vram": null,
99
+ "max_process_vram": null,
100
+ "max_reserved": null,
101
+ "max_allocated": null
102
+ },
103
+ "latency": {
104
+ "unit": "s",
105
+ "values": [
106
+ 47.615619737654924
107
+ ],
108
+ "count": 1,
109
+ "total": 47.615619737654924,
110
+ "mean": 47.615619737654924,
111
+ "p50": 47.615619737654924,
112
+ "p90": 47.615619737654924,
113
+ "p95": 47.615619737654924,
114
+ "p99": 47.615619737654924,
115
+ "stdev": 0,
116
+ "stdev_": 0
117
+ },
118
+ "throughput": null,
119
+ "energy": null,
120
+ "efficiency": null
121
+ },
122
+ "prefill": {
123
+ "memory": {
124
+ "unit": "MB",
125
+ "max_ram": 9404.096512,
126
+ "max_global_vram": null,
127
+ "max_process_vram": null,
128
+ "max_reserved": null,
129
+ "max_allocated": null
130
+ },
131
+ "latency": {
132
+ "unit": "s",
133
+ "values": [
134
+ 0.3691983073949814,
135
+ 0.406163290143013,
136
+ 0.4032273702323437,
137
+ 0.49073830246925354,
138
+ 0.48338379338383675,
139
+ 0.42469472438097,
140
+ 0.40143145620822906,
141
+ 0.3968067243695259,
142
+ 0.4189154952764511,
143
+ 0.4002319946885109
144
+ ],
145
+ "count": 10,
146
+ "total": 4.194791458547115,
147
+ "mean": 0.4194791458547115,
148
+ "p50": 0.40469533018767834,
149
+ "p90": 0.4841192442923784,
150
+ "p95": 0.48742877338081597,
151
+ "p99": 0.49007639665156605,
152
+ "stdev": 0.036563638911623356,
153
+ "stdev_": 8.71643781888679
154
+ },
155
+ "throughput": {
156
+ "unit": "tokens/s",
157
+ "value": 76.28507952355596
158
+ },
159
+ "energy": null,
160
+ "efficiency": null
161
+ },
162
+ "decode": {
163
+ "memory": {
164
+ "unit": "MB",
165
+ "max_ram": 9404.366848,
166
+ "max_global_vram": null,
167
+ "max_process_vram": null,
168
+ "max_reserved": null,
169
+ "max_allocated": null
170
+ },
171
+ "latency": {
172
+ "unit": "s",
173
+ "values": [
174
+ 3.8962456695735455,
175
+ 3.6694180965423584,
176
+ 3.6282166689634323,
177
+ 3.5777047276496887,
178
+ 3.9913081414997578,
179
+ 4.140529308468103,
180
+ 3.8851531594991684,
181
+ 3.331398617476225,
182
+ 3.9062319956719875,
183
+ 3.476403560489416
184
+ ],
185
+ "count": 10,
186
+ "total": 37.50260994583368,
187
+ "mean": 3.7502609945833685,
188
+ "p50": 3.7772856280207634,
189
+ "p90": 4.0062302581965925,
190
+ "p95": 4.0733797833323475,
191
+ "p99": 4.127099403440952,
192
+ "stdev": 0.2399785616527781,
193
+ "stdev_": 6.39898295077029
194
+ },
195
+ "throughput": {
196
+ "unit": "tokens/s",
197
+ "value": 16.532182717295875
198
+ },
199
+ "energy": null,
200
+ "efficiency": null
201
+ },
202
+ "per_token": {
203
+ "memory": null,
204
+ "latency": {
205
+ "unit": "s",
206
+ "values": [
207
+ 0.151396993547678,
208
+ 0.14324158802628517,
209
+ 0.07676020637154579,
210
+ 0.16891532391309738,
211
+ 0.11996641755104065,
212
+ 0.09084687754511833,
213
+ 0.1610756404697895,
214
+ 0.14484431222081184,
215
+ 0.16032931581139565,
216
+ 0.11932995542883873,
217
+ 0.16991433128714561,
218
+ 0.15187038853764534,
219
+ 0.1049707941710949,
220
+ 0.1585291400551796,
221
+ 0.10926920920610428,
222
+ 0.11142348870635033,
223
+ 0.10180767998099327,
224
+ 0.1535714827477932,
225
+ 0.1348511092364788,
226
+ 0.13019181415438652,
227
+ 0.16223037615418434,
228
+ 0.14313079789280891,
229
+ 0.0976766049861908,
230
+ 0.09885496273636818,
231
+ 0.08888581022620201,
232
+ 0.08933503553271294,
233
+ 0.08549177646636963,
234
+ 0.1715770922601223,
235
+ 0.11486281827092171,
236
+ 0.0865890309214592,
237
+ 0.09396419301629066,
238
+ 0.14349782839417458,
239
+ 0.10937420651316643,
240
+ 0.14048171415925026,
241
+ 0.07543633878231049,
242
+ 0.12515754252672195,
243
+ 0.07885446399450302,
244
+ 0.15756165981292725,
245
+ 0.12009671330451965,
246
+ 0.1646834760904312,
247
+ 0.12962263450026512,
248
+ 0.1547914408147335,
249
+ 0.14514151588082314,
250
+ 0.19161031767725945,
251
+ 0.12860624119639397,
252
+ 0.16442689672112465,
253
+ 0.12338945642113686,
254
+ 0.08822018653154373,
255
+ 0.11114334687590599,
256
+ 0.10394001007080078,
257
+ 0.09283268824219704,
258
+ 0.0913924090564251,
259
+ 0.0943303070962429,
260
+ 0.09408441185951233,
261
+ 0.09218936040997505,
262
+ 0.09153042361140251,
263
+ 0.09172164276242256,
264
+ 0.13081492483615875,
265
+ 0.10185486450791359,
266
+ 0.15566464141011238,
267
+ 0.07415029406547546,
268
+ 0.10228772461414337,
269
+ 0.08780210465192795,
270
+ 0.08831116184592247,
271
+ 0.08999800309538841,
272
+ 0.08993932604789734,
273
+ 0.09129373356699944,
274
+ 0.09219641238451004,
275
+ 0.08294779062271118,
276
+ 0.10099966451525688,
277
+ 0.102298054844141,
278
+ 0.10271576419472694,
279
+ 0.10906553268432617,
280
+ 0.09108544886112213,
281
+ 0.15767864882946014,
282
+ 0.11028826981782913,
283
+ 0.12318351492285728,
284
+ 0.14710185304284096,
285
+ 0.11149964481592178,
286
+ 0.08989153802394867,
287
+ 0.16618506610393524,
288
+ 0.12493535131216049,
289
+ 0.09281951561570168,
290
+ 0.1705596037209034,
291
+ 0.0742337703704834,
292
+ 0.09850166738033295,
293
+ 0.15531260520219803,
294
+ 0.18401376530528069,
295
+ 0.10527030006051064,
296
+ 0.17891717329621315,
297
+ 0.1518004760146141,
298
+ 0.1252925507724285,
299
+ 0.13154590129852295,
300
+ 0.12442797422409058,
301
+ 0.11299717798829079,
302
+ 0.17047319561243057,
303
+ 0.12086976319551468,
304
+ 0.10839571803808212,
305
+ 0.09009559452533722,
306
+ 0.08989208191633224,
307
+ 0.08973751217126846,
308
+ 0.15194862708449364,
309
+ 0.18215756863355637,
310
+ 0.1363089457154274,
311
+ 0.0999128445982933,
312
+ 0.1531035155057907,
313
+ 0.13894512131810188,
314
+ 0.09479514136910439,
315
+ 0.09313445165753365,
316
+ 0.08792602270841599,
317
+ 0.09207047894597054,
318
+ 0.12310350313782692,
319
+ 0.11677149683237076,
320
+ 0.093382578343153,
321
+ 0.09081798419356346,
322
+ 0.09179607406258583,
323
+ 0.09490081295371056,
324
+ 0.09641507267951965,
325
+ 0.09693034365773201,
326
+ 0.09433137252926826,
327
+ 0.17227548360824585,
328
+ 0.0971347764134407,
329
+ 0.13956458121538162,
330
+ 0.1325528286397457,
331
+ 0.12334485352039337,
332
+ 0.15682881698012352,
333
+ 0.1945658177137375,
334
+ 0.11820496991276741,
335
+ 0.16750690340995789,
336
+ 0.09732196480035782,
337
+ 0.12541328370571136,
338
+ 0.11696486175060272,
339
+ 0.10471594706177711,
340
+ 0.10320396721363068,
341
+ 0.13546352460980415,
342
+ 0.13925834745168686,
343
+ 0.13186700269579887,
344
+ 0.0975944884121418,
345
+ 0.09471156820654869,
346
+ 0.1485206075012684,
347
+ 0.09894627332687378,
348
+ 0.12647463753819466,
349
+ 0.12446824088692665,
350
+ 0.10077721625566483,
351
+ 0.10923096910119057,
352
+ 0.16516073793172836,
353
+ 0.16275440156459808,
354
+ 0.09722326323390007,
355
+ 0.1422419436275959,
356
+ 0.18338480219244957,
357
+ 0.11385650932788849,
358
+ 0.09937945008277893,
359
+ 0.16344204917550087,
360
+ 0.10123797878623009,
361
+ 0.14670290797948837,
362
+ 0.15479588881134987,
363
+ 0.16917818039655685,
364
+ 0.07618443295359612,
365
+ 0.16251839697360992,
366
+ 0.1902576945722103,
367
+ 0.10705418884754181,
368
+ 0.09262699633836746,
369
+ 0.17413008958101273,
370
+ 0.14396434277296066,
371
+ 0.19577579200267792,
372
+ 0.13713262975215912,
373
+ 0.16404934227466583,
374
+ 0.19074942916631699,
375
+ 0.13629022613167763,
376
+ 0.16562238708138466,
377
+ 0.1197570338845253,
378
+ 0.15813086554408073,
379
+ 0.12993379309773445,
380
+ 0.16461341455578804,
381
+ 0.1409563384950161,
382
+ 0.10627976432442665,
383
+ 0.16137481480836868,
384
+ 0.1232777088880539,
385
+ 0.11853335797786713,
386
+ 0.10385654866695404,
387
+ 0.095273707062006,
388
+ 0.09374210983514786,
389
+ 0.0861859880387783,
390
+ 0.09050874784588814,
391
+ 0.09533108398318291,
392
+ 0.091911431401968,
393
+ 0.09881110116839409,
394
+ 0.18215502798557281,
395
+ 0.07806309312582016,
396
+ 0.0953172966837883,
397
+ 0.09741510823369026,
398
+ 0.09426744654774666,
399
+ 0.09191259741783142,
400
+ 0.09544432163238525,
401
+ 0.11198277398943901,
402
+ 0.1498158983886242,
403
+ 0.18952064588665962,
404
+ 0.10554405674338341,
405
+ 0.15857671946287155,
406
+ 0.1336982659995556,
407
+ 0.07616196945309639,
408
+ 0.09547221660614014,
409
+ 0.15457599982619286,
410
+ 0.11722958087921143,
411
+ 0.0922386646270752,
412
+ 0.16668767854571342,
413
+ 0.10165195539593697,
414
+ 0.14220746234059334,
415
+ 0.18859058991074562,
416
+ 0.12464474886655807,
417
+ 0.09934799000620842,
418
+ 0.0966004841029644,
419
+ 0.09201440215110779,
420
+ 0.16279107332229614,
421
+ 0.10060740634799004,
422
+ 0.15013040974736214,
423
+ 0.19320818409323692,
424
+ 0.14241079986095428,
425
+ 0.13377568125724792,
426
+ 0.09197979792952538,
427
+ 0.08998322486877441,
428
+ 0.08996423706412315,
429
+ 0.09528371319174767,
430
+ 0.09147273749113083,
431
+ 0.09022187441587448,
432
+ 0.09549994766712189,
433
+ 0.0929618738591671,
434
+ 0.11324286088347435,
435
+ 0.113382987678051,
436
+ 0.08800329640507698,
437
+ 0.09333701431751251,
438
+ 0.09482763335108757,
439
+ 0.09414704144001007,
440
+ 0.14441674202680588,
441
+ 0.1483655795454979,
442
+ 0.1141379214823246,
443
+ 0.10381438583135605,
444
+ 0.09277600795030594,
445
+ 0.18492988124489784,
446
+ 0.10111980885267258,
447
+ 0.10065871849656105,
448
+ 0.14267180487513542,
449
+ 0.1314055249094963,
450
+ 0.0973706878721714,
451
+ 0.09196155145764351,
452
+ 0.0876055397093296,
453
+ 0.09167702868580818,
454
+ 0.0874740295112133,
455
+ 0.0915156677365303,
456
+ 0.09293247386813164,
457
+ 0.09001138433814049,
458
+ 0.08986500278115273,
459
+ 0.14058830589056015,
460
+ 0.10483132302761078,
461
+ 0.08798667043447495,
462
+ 0.09304382652044296,
463
+ 0.17001168057322502,
464
+ 0.12494460120797157,
465
+ 0.0943128801882267,
466
+ 0.17483146488666534,
467
+ 0.1946006901562214,
468
+ 0.11613108590245247,
469
+ 0.18681401014328003,
470
+ 0.147962786257267,
471
+ 0.1834375262260437,
472
+ 0.14201800152659416,
473
+ 0.10353075712919235,
474
+ 0.15821729227900505,
475
+ 0.18154629692435265,
476
+ 0.10006572306156158,
477
+ 0.09139712899923325,
478
+ 0.18789229169487953,
479
+ 0.15419283136725426,
480
+ 0.16092554107308388,
481
+ 0.0892983190715313,
482
+ 0.07816429063677788,
483
+ 0.08889453858137131,
484
+ 0.09210587665438652,
485
+ 0.09362177178263664,
486
+ 0.09911511465907097,
487
+ 0.09643782302737236,
488
+ 0.0931611955165863,
489
+ 0.11258692666888237,
490
+ 0.10241929814219475,
491
+ 0.10400761291384697,
492
+ 0.1579650640487671,
493
+ 0.20014778152108192,
494
+ 0.12132278829813004,
495
+ 0.16676369681954384,
496
+ 0.10070011764764786,
497
+ 0.1529056690633297,
498
+ 0.1157684288918972,
499
+ 0.08862537890672684,
500
+ 0.0987166166305542,
501
+ 0.09519236162304878,
502
+ 0.14540283381938934,
503
+ 0.09429588913917542,
504
+ 0.08190164715051651,
505
+ 0.13265133276581764,
506
+ 0.10095103085041046,
507
+ 0.09753220155835152,
508
+ 0.10074476897716522,
509
+ 0.10023945569992065,
510
+ 0.09507793560624123,
511
+ 0.14326200634241104,
512
+ 0.11189821735024452,
513
+ 0.08839166909456253,
514
+ 0.08915382996201515,
515
+ 0.09170354530215263,
516
+ 0.09684418886899948
517
+ ],
518
+ "count": 310,
519
+ "total": 37.44935571029782,
520
+ "mean": 0.12080437325902524,
521
+ "p50": 0.10932170785963535,
522
+ "p90": 0.16683801747858526,
523
+ "p95": 0.18283254709094765,
524
+ "p99": 0.19444363068789247,
525
+ "stdev": 0.031789703400881976,
526
+ "stdev_": 26.31502696737594
527
+ },
528
+ "throughput": {
529
+ "unit": "tokens/s",
530
+ "value": 16.55569203369532
531
+ },
532
+ "energy": null,
533
+ "efficiency": null
534
+ }
535
+ }
536
+ }