Hugging Face's logo

Datasets:
IlyasMoutawwakil
/
benchmarks

Dataset card Files Community
IlyasMoutawwakil HF staff commited on
Commit
570affa
•
1 Parent(s): ba939aa

Upload 2024-09-25-19-14-59/onnxruntime/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-09-25-19-14-59/onnxruntime/benchmark_report.json +362 -0
2024-09-25-19-14-59/onnxruntime/benchmark_report.json ADDED
@@ -0,0 +1,362 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": null,
4
+ "latency": {
5
+ "unit": "s",
6
+ "count": 1,
7
+ "total": 13.979933303999132,
8
+ "mean": 13.979933303999132,
9
+ "stdev": 0.0,
10
+ "p50": 13.979933303999132,
11
+ "p90": 13.979933303999132,
12
+ "p95": 13.979933303999132,
13
+ "p99": 13.979933303999132,
14
+ "values": [
15
+ 13.979933303999132
16
+ ]
17
+ },
18
+ "throughput": null,
19
+ "energy": null,
20
+ "efficiency": null
21
+ },
22
+ "forward": {
23
+ "memory": null,
24
+ "latency": {
25
+ "unit": "s",
26
+ "count": 318,
27
+ "total": 9.995909207966179,
28
+ "mean": 0.031433676754610625,
29
+ "stdev": 0.004243902242894211,
30
+ "p50": 0.030476434498268645,
31
+ "p90": 0.03466095879630302,
32
+ "p95": 0.03678212285194604,
33
+ "p99": 0.05188417110053698,
34
+ "values": [
35
+ 0.032172585000807885,
36
+ 0.029327899996133056,
37
+ 0.033852781998575665,
38
+ 0.03171215900511015,
39
+ 0.03301519900560379,
40
+ 0.03460331799578853,
41
+ 0.03589777800516458,
42
+ 0.04009417300403584,
43
+ 0.03361448599753203,
44
+ 0.032860724997590296,
45
+ 0.035981852997792885,
46
+ 0.033496742995339446,
47
+ 0.03612179599440424,
48
+ 0.03724250400409801,
49
+ 0.032694248999177944,
50
+ 0.032304950000252575,
51
+ 0.03554715799691621,
52
+ 0.03278253000462428,
53
+ 0.03940755499934312,
54
+ 0.03498216799926013,
55
+ 0.05273316300008446,
56
+ 0.042761482000059914,
57
+ 0.039105411000491586,
58
+ 0.03685003700229572,
59
+ 0.04132423700502841,
60
+ 0.04773909300274681,
61
+ 0.036770138001884334,
62
+ 0.04040189299848862,
63
+ 0.03220948899979703,
64
+ 0.036031175004609395,
65
+ 0.03624938299617497,
66
+ 0.032966748003673274,
67
+ 0.0418869339991943,
68
+ 0.035034029999224,
69
+ 0.03488365300290752,
70
+ 0.030302304003271274,
71
+ 0.031316886001150124,
72
+ 0.031064034999872092,
73
+ 0.029849272999854293,
74
+ 0.03285405100177741,
75
+ 0.031715782002720516,
76
+ 0.029309110002941452,
77
+ 0.028487037001468707,
78
+ 0.02742963300261181,
79
+ 0.028003311999782454,
80
+ 0.029913231999671552,
81
+ 0.0338918229972478,
82
+ 0.027926212998863775,
83
+ 0.02930259200365981,
84
+ 0.031199516000924632,
85
+ 0.03149638900504215,
86
+ 0.03202409000368789,
87
+ 0.03159468800004106,
88
+ 0.03040791799867293,
89
+ 0.029288618003192823,
90
+ 0.030682235999847762,
91
+ 0.030125434997898992,
92
+ 0.0317369270051131,
93
+ 0.031051951002154965,
94
+ 0.03020319200004451,
95
+ 0.03034252000361448,
96
+ 0.02960828300274443,
97
+ 0.032601169994450174,
98
+ 0.030748227996809874,
99
+ 0.0318791749959928,
100
+ 0.02970099799858872,
101
+ 0.032180313995922916,
102
+ 0.032498348999070004,
103
+ 0.030137048997858074,
104
+ 0.029151000999263488,
105
+ 0.029940550004539546,
106
+ 0.03170245699584484,
107
+ 0.033023158997821156,
108
+ 0.030707997997524217,
109
+ 0.03113841299636988,
110
+ 0.02953227100078948,
111
+ 0.029271093000716064,
112
+ 0.029785932994855102,
113
+ 0.032427671998448204,
114
+ 0.029345423994527664,
115
+ 0.0296831209998345,
116
+ 0.031274483997549396,
117
+ 0.031191569003567565,
118
+ 0.029358005995163694,
119
+ 0.025398853998922277,
120
+ 0.027901901994482614,
121
+ 0.029668887000298128,
122
+ 0.029652201999851968,
123
+ 0.032288742004311644,
124
+ 0.031154135998804122,
125
+ 0.03207272000145167,
126
+ 0.029379968000284862,
127
+ 0.030996241002867464,
128
+ 0.030370220003533177,
129
+ 0.032039614001405425,
130
+ 0.03289577800023835,
131
+ 0.030373766996490303,
132
+ 0.030260681996878702,
133
+ 0.030899436998879537,
134
+ 0.030275593999249395,
135
+ 0.06471912399865687,
136
+ 0.05341431599663338,
137
+ 0.032748862002335954,
138
+ 0.03399191599601181,
139
+ 0.03358962800120935,
140
+ 0.031730964001326356,
141
+ 0.030834671000775415,
142
+ 0.029028327997366432,
143
+ 0.03169121399696451,
144
+ 0.029437505996611435,
145
+ 0.031955525002558716,
146
+ 0.0378664449963253,
147
+ 0.03365278800629312,
148
+ 0.030869520996930078,
149
+ 0.03313074000470806,
150
+ 0.029342629000893794,
151
+ 0.030880631995387375,
152
+ 0.03125171200372279,
153
+ 0.03349769899796229,
154
+ 0.031016985994938295,
155
+ 0.031689167000877205,
156
+ 0.029634327001986094,
157
+ 0.029650561002199538,
158
+ 0.02771576300438028,
159
+ 0.0305758969989256,
160
+ 0.03548094000143465,
161
+ 0.03313175700168358,
162
+ 0.031500714998401236,
163
+ 0.03207931699580513,
164
+ 0.03374156200152356,
165
+ 0.02842493500065757,
166
+ 0.029779157994198613,
167
+ 0.028465707000577822,
168
+ 0.029793444999086205,
169
+ 0.027962606996879913,
170
+ 0.03067426200141199,
171
+ 0.03526707099808846,
172
+ 0.03640920199541142,
173
+ 0.03222485299920663,
174
+ 0.029262269999890123,
175
+ 0.029603967996081337,
176
+ 0.029187528998591006,
177
+ 0.02781753500312334,
178
+ 0.027824019998661242,
179
+ 0.03103634199942462,
180
+ 0.03444473599665798,
181
+ 0.03674270200281171,
182
+ 0.032904888001212385,
183
+ 0.032954217997030355,
184
+ 0.0317144630025723,
185
+ 0.03041723299975274,
186
+ 0.02851467800064711,
187
+ 0.029415938995953184,
188
+ 0.027253965999989305,
189
+ 0.030863578998832963,
190
+ 0.032354971997847315,
191
+ 0.034585519999382086,
192
+ 0.03166094700281974,
193
+ 0.029186496998590883,
194
+ 0.02966199000366032,
195
+ 0.030420687995501794,
196
+ 0.028693585001747124,
197
+ 0.030083393001405057,
198
+ 0.031161326995061245,
199
+ 0.029850696002540644,
200
+ 0.030315392999909818,
201
+ 0.032326758999261074,
202
+ 0.029911753001215402,
203
+ 0.02801740500581218,
204
+ 0.027539180002349894,
205
+ 0.029679639999812935,
206
+ 0.029850411003280897,
207
+ 0.029392504002316855,
208
+ 0.02777626900206087,
209
+ 0.03038476299843751,
210
+ 0.032390776003012434,
211
+ 0.03426104100071825,
212
+ 0.03347487800056115,
213
+ 0.030063623999012634,
214
+ 0.030841236999549437,
215
+ 0.03125979499600362,
216
+ 0.03159281900298083,
217
+ 0.03027693799958797,
218
+ 0.03015307399618905,
219
+ 0.030332273003295995,
220
+ 0.02892431699729059,
221
+ 0.027950205003435258,
222
+ 0.028634093003347516,
223
+ 0.027657634003844578,
224
+ 0.030297477002022788,
225
+ 0.02867854400392389,
226
+ 0.029216114002338145,
227
+ 0.029541830001107883,
228
+ 0.03265729700069642,
229
+ 0.03093523199640913,
230
+ 0.031118407001486048,
231
+ 0.030700203002197668,
232
+ 0.028549256996484473,
233
+ 0.02781731499999296,
234
+ 0.03258036199986236,
235
+ 0.0312713530001929,
236
+ 0.028401853000104893,
237
+ 0.0293564109961153,
238
+ 0.02825477100122953,
239
+ 0.02785953599959612,
240
+ 0.03195261699875118,
241
+ 0.03137242600496393,
242
+ 0.032059543002105784,
243
+ 0.029904883995186538,
244
+ 0.03156163200037554,
245
+ 0.03339461100404151,
246
+ 0.030669870000565425,
247
+ 0.030026046006241813,
248
+ 0.028729370998917148,
249
+ 0.029125364999345038,
250
+ 0.02726679899933515,
251
+ 0.02967529200395802,
252
+ 0.030185172996425536,
253
+ 0.030352740999660455,
254
+ 0.028996665998420212,
255
+ 0.027422608000051696,
256
+ 0.029093539997120388,
257
+ 0.027857510998728685,
258
+ 0.027752666996093467,
259
+ 0.028149095000117086,
260
+ 0.030010634996870067,
261
+ 0.032300097998813726,
262
+ 0.0347954539975035,
263
+ 0.03516259499883745,
264
+ 0.034184258001914714,
265
+ 0.032893584997509606,
266
+ 0.028904442995553836,
267
+ 0.028575753000041004,
268
+ 0.030076094997639302,
269
+ 0.029214772999694105,
270
+ 0.028844169006333686,
271
+ 0.030037895005079918,
272
+ 0.03047853899624897,
273
+ 0.0302324009971926,
274
+ 0.029848145000869408,
275
+ 0.02879457599919988,
276
+ 0.02817454800242558,
277
+ 0.03016901399678318,
278
+ 0.029535071000282187,
279
+ 0.028888042994367424,
280
+ 0.03240513899800135,
281
+ 0.028581901999132242,
282
+ 0.030357316994923167,
283
+ 0.030364459998963866,
284
+ 0.030137214002024848,
285
+ 0.02966983700025594,
286
+ 0.031299615002353676,
287
+ 0.02948260700213723,
288
+ 0.02865774700330803,
289
+ 0.03050370299752103,
290
+ 0.029172385999117978,
291
+ 0.03393463700194843,
292
+ 0.028389263003191445,
293
+ 0.028627776002394967,
294
+ 0.027607276002527215,
295
+ 0.027455570998426992,
296
+ 0.028297826000198256,
297
+ 0.031922867994580884,
298
+ 0.03159672900073929,
299
+ 0.031196065996482503,
300
+ 0.027567206001549494,
301
+ 0.02922922799916705,
302
+ 0.027669620998494793,
303
+ 0.028276639997784514,
304
+ 0.030016152995813172,
305
+ 0.02824103899911279,
306
+ 0.027483183999720495,
307
+ 0.028407303005224094,
308
+ 0.029170211004384328,
309
+ 0.03110121699864976,
310
+ 0.06553365099534858,
311
+ 0.037856791001104284,
312
+ 0.030863551997754257,
313
+ 0.030372437002370134,
314
+ 0.029260778006573673,
315
+ 0.027752007998060435,
316
+ 0.03110040499450406,
317
+ 0.033157342004415113,
318
+ 0.031513697998889256,
319
+ 0.032713080996472854,
320
+ 0.03137023499584757,
321
+ 0.029257253001560457,
322
+ 0.030189468001481146,
323
+ 0.029474618000676855,
324
+ 0.02847173800546443,
325
+ 0.028074417998141143,
326
+ 0.031206307001411915,
327
+ 0.032117319002281874,
328
+ 0.03355643800023245,
329
+ 0.03177215500181774,
330
+ 0.02964934600458946,
331
+ 0.029316467996977735,
332
+ 0.027155746996868402,
333
+ 0.0299971239946899,
334
+ 0.029944861998956185,
335
+ 0.03181863400095608,
336
+ 0.03308323999954155,
337
+ 0.032549337003729306,
338
+ 0.03047433000028832,
339
+ 0.029330867000680882,
340
+ 0.030741310998564586,
341
+ 0.03041496099467622,
342
+ 0.029649819996848237,
343
+ 0.0340013809982338,
344
+ 0.03324040299776243,
345
+ 0.032458188994496595,
346
+ 0.03270268799678888,
347
+ 0.03042136500152992,
348
+ 0.03064625000115484,
349
+ 0.027734626004530583,
350
+ 0.027175115996215027,
351
+ 0.02721657200163463,
352
+ 0.03167601399763953
353
+ ]
354
+ },
355
+ "throughput": {
356
+ "unit": "samples/s",
357
+ "value": 63.62602808488333
358
+ },
359
+ "energy": null,
360
+ "efficiency": null
361
+ }
362
+ }