Hugging Face's logo

Datasets:
meg
/
benchmarks

Dataset card Viewer Files Community
meg HF staff commited on
Commit
a1986c1
•
1 Parent(s): 5c8b3d9

Upload 2024-09-30-20-07-10/pytorch/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-09-30-20-07-10/pytorch/benchmark_report.json +186 -0
2024-09-30-20-07-10/pytorch/benchmark_report.json ADDED
@@ -0,0 +1,186 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 681.046016,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 3.966448713093996
15
+ ],
16
+ "count": 1,
17
+ "total": 3.966448713093996,
18
+ "mean": 3.966448713093996,
19
+ "p50": 3.966448713093996,
20
+ "p90": 3.966448713093996,
21
+ "p95": 3.966448713093996,
22
+ "p99": 3.966448713093996,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "forward": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 1118.568448,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.031664811074733734,
43
+ 0.09032496809959412,
44
+ 0.08789736032485962,
45
+ 0.08879967033863068,
46
+ 0.03201989829540253,
47
+ 0.08423884212970734,
48
+ 0.09121345728635788,
49
+ 0.08818551898002625,
50
+ 0.10675350204110146,
51
+ 0.19785945490002632,
52
+ 0.0942402333021164,
53
+ 0.04522080719470978,
54
+ 0.08535459265112877,
55
+ 0.08885210379958153,
56
+ 0.0986480675637722,
57
+ 0.09995739534497261,
58
+ 0.09575177729129791,
59
+ 0.09239067509770393,
60
+ 0.03208519145846367,
61
+ 0.09070052206516266,
62
+ 0.10381597653031349,
63
+ 0.09207630902528763,
64
+ 0.10417983680963516,
65
+ 0.0865817703306675,
66
+ 0.09156954288482666,
67
+ 0.040636464953422546,
68
+ 0.08521194010972977,
69
+ 0.08829500526189804,
70
+ 0.08948914706707001,
71
+ 0.1023632176220417,
72
+ 0.03461951017379761,
73
+ 0.0840756930410862,
74
+ 0.0945257768034935,
75
+ 0.08783899620175362,
76
+ 0.09395387768745422,
77
+ 0.034185975790023804,
78
+ 0.09510071203112602,
79
+ 0.0886068120598793,
80
+ 0.08157702162861824,
81
+ 0.09246017038822174,
82
+ 0.031726278364658356,
83
+ 0.08865620940923691,
84
+ 0.08059243112802505,
85
+ 0.032624177634716034,
86
+ 0.09196900576353073,
87
+ 0.0810699611902237,
88
+ 0.032106757164001465,
89
+ 0.08851849660277367,
90
+ 0.08451725915074348,
91
+ 0.08841004222631454,
92
+ 0.03747054189443588,
93
+ 0.0800025649368763,
94
+ 0.08907618746161461,
95
+ 0.031612418591976166,
96
+ 0.0850784033536911,
97
+ 0.08847757801413536,
98
+ 0.03188742697238922,
99
+ 0.08446324989199638,
100
+ 0.08871014416217804,
101
+ 0.08404295146465302,
102
+ 0.031542208045721054,
103
+ 0.0881211906671524,
104
+ 0.08473438397049904,
105
+ 0.032881759107112885,
106
+ 0.08916052803397179,
107
+ 0.08412286266684532,
108
+ 0.09036565572023392,
109
+ 0.03156974911689758,
110
+ 0.08749698475003242,
111
+ 0.09203888103365898,
112
+ 0.10392692685127258,
113
+ 0.09789970889687538,
114
+ 0.08869035914540291,
115
+ 0.03473401442170143,
116
+ 0.09474534913897514,
117
+ 0.09939325973391533,
118
+ 0.09798290580511093,
119
+ 0.0987880527973175,
120
+ 0.0935584120452404,
121
+ 0.0831904374063015,
122
+ 0.10094492882490158,
123
+ 0.031647149473428726,
124
+ 0.08074774593114853,
125
+ 0.08792132139205933,
126
+ 0.03603678196668625,
127
+ 0.09554637596011162,
128
+ 0.08905418589711189,
129
+ 0.0875939279794693,
130
+ 0.09969789162278175,
131
+ 0.09206515178084373,
132
+ 0.10020159929990768,
133
+ 0.03647914156317711,
134
+ 0.15708202123641968,
135
+ 0.039025597274303436,
136
+ 0.0864202082157135,
137
+ 0.08877819776535034,
138
+ 0.0871780626475811,
139
+ 0.0955420508980751,
140
+ 0.033497247844934464,
141
+ 0.08007903769612312,
142
+ 0.08830239623785019,
143
+ 0.03901897743344307,
144
+ 0.09567869827151299,
145
+ 0.09157699719071388,
146
+ 0.09119665995240211,
147
+ 0.09682190045714378,
148
+ 0.033938050270080566,
149
+ 0.08098247274756432,
150
+ 0.08844276517629623,
151
+ 0.09172916784882545,
152
+ 0.08812952414155006,
153
+ 0.032098960131406784,
154
+ 0.08067170158028603,
155
+ 0.09230662509799004,
156
+ 0.04153048247098923,
157
+ 0.08251176029443741,
158
+ 0.09716947749257088,
159
+ 0.08605539053678513,
160
+ 0.09076864272356033,
161
+ 0.04387693107128143,
162
+ 0.0814075917005539,
163
+ 0.08873757347464561,
164
+ 0.09102284908294678,
165
+ 0.09644880890846252,
166
+ 0.09592880681157112,
167
+ 0.10283755138516426
168
+ ],
169
+ "count": 126,
170
+ "total": 10.094007708132267,
171
+ "mean": 0.08011117228676402,
172
+ "p50": 0.08842640370130539,
173
+ "p90": 0.09909065626561642,
174
+ "p95": 0.10271896794438362,
175
+ "p99": 0.14449989143759012,
176
+ "stdev": 0.026657956278453555,
177
+ "stdev_": 33.276202953352595
178
+ },
179
+ "throughput": {
180
+ "unit": "samples/s",
181
+ "value": 24.965306871816182
182
+ },
183
+ "energy": null,
184
+ "efficiency": null
185
+ }
186
+ }