{
    "load": {
        "memory": {
            "unit": "MB",
            "max_ram": 669.216768,
            "max_global_vram": null,
            "max_process_vram": null,
            "max_reserved": null,
            "max_allocated": null
        },
        "latency": {
            "unit": "s",
            "values": [
                0.5062103271484375
            ],
            "count": 1,
            "total": 0.5062103271484375,
            "mean": 0.5062103271484375,
            "p50": 0.5062103271484375,
            "p90": 0.5062103271484375,
            "p95": 0.5062103271484375,
            "p99": 0.5062103271484375,
            "stdev": 0,
            "stdev_": 0
        },
        "throughput": null,
        "energy": null,
        "efficiency": null
    },
    "prefill": {
        "memory": {
            "unit": "MB",
            "max_ram": 751.374336,
            "max_global_vram": null,
            "max_process_vram": null,
            "max_reserved": null,
            "max_allocated": null
        },
        "latency": {
            "unit": "s",
            "values": [
                0.004067849367856979,
                0.004019107669591904,
                0.00401991605758667,
                0.0630137100815773,
                0.060754962265491486,
                0.004381977021694183,
                0.0040602609515190125,
                0.0040264129638671875,
                0.003972187638282776,
                0.003951556980609894,
                0.003962159156799316,
                0.003990925848484039,
                0.003940630704164505,
                0.00395464152097702,
                0.003943275660276413,
                0.003943528980016708,
                0.003955099731683731,
                0.003947015851736069,
                0.003943644464015961,
                0.003931067883968353,
                0.003940477967262268,
                0.003931596875190735,
                0.003933202475309372,
                0.003917910158634186,
                0.004043947905302048,
                0.004025362432003021,
                0.003951113671064377,
                0.05627739429473877,
                0.003947138786315918,
                0.003938809037208557,
                0.003950856626033783,
                0.00400209054350853,
                0.003958128392696381,
                0.0039981454610824585,
                0.003929886966943741,
                0.004048820585012436,
                0.0039692893624305725,
                0.003931641578674316,
                0.0039820000529289246,
                0.0039371103048324585,
                0.00450119748711586,
                0.004142124205827713,
                0.004184715449810028,
                0.004161957651376724,
                0.004076872020959854,
                0.00398847833275795,
                0.00392516702413559,
                0.003929618746042252,
                0.003945808857679367
            ],
            "count": 49,
            "total": 0.3642507940530777,
            "mean": 0.007433689674552606,
            "p50": 0.003962159156799316,
            "p90": 0.00422416776418686,
            "p95": 0.03556691557168931,
            "p99": 0.0619295111298561,
            "stdev": 0.013446444952387497,
            "stdev_": 180.8852069574288
        },
        "throughput": {
            "unit": "tokens/s",
            "value": 4304.72637424509
        },
        "energy": null,
        "efficiency": null
    },
    "decode": {
        "memory": {
            "unit": "MB",
            "max_ram": 751.374336,
            "max_global_vram": null,
            "max_process_vram": null,
            "max_reserved": null,
            "max_allocated": null
        },
        "latency": {
            "unit": "s",
            "values": [
                0.1964271403849125,
                0.1980639360845089,
                0.19878772273659706,
                0.14093605056405067,
                0.20748912170529366,
                0.1986970454454422,
                0.19904285296797752,
                0.19952250644564629,
                0.20133518055081367,
                0.20111331716179848,
                0.1995503567159176,
                0.19521599262952805,
                0.1949245072901249,
                0.19441726431250572,
                0.19493542984127998,
                0.19857637584209442,
                0.19819707423448563,
                0.19977328926324844,
                0.19861964136362076,
                0.1961870789527893,
                0.19525226950645447,
                0.1983850635588169,
                0.1949124000966549,
                0.19574785232543945,
                0.19780424609780312,
                0.19450882077217102,
                0.19881723076105118,
                0.21075749024748802,
                0.19465671107172966,
                0.19656765833497047,
                0.19834504276514053,
                0.1984345056116581,
                0.19511382654309273,
                0.1983671449124813,
                0.19956835731863976,
                0.1954243741929531,
                0.19523009285330772,
                0.19590001180768013,
                0.19444124400615692,
                0.2144024707376957,
                0.19833561405539513,
                0.19471615925431252,
                0.19581057876348495,
                0.19132882356643677,
                0.19466876611113548,
                0.19685601443052292,
                0.19798053801059723,
                0.19873400405049324,
                0.2019311524927616
            ],
            "count": 49,
            "total": 9.64481034874916,
            "mean": 0.19683286426018695,
            "p50": 0.19798053801059723,
            "p90": 0.20115768983960153,
            "p95": 0.20526593402028082,
            "p99": 0.212652880102396,
            "stdev": 0.008998697456609486,
            "stdev_": 4.571745419867692
        },
        "throughput": {
            "unit": "tokens/s",
            "value": 314.9880495466663
        },
        "energy": null,
        "efficiency": null
    },
    "per_token": {
        "memory": null,
        "latency": {
            "unit": "s",
            "values": [
                0.0029665082693099976,
                0.05951463058590889,
                0.0029492266476154327,
                0.0029276274144649506,
                0.0029298290610313416,
                0.002915486693382263,
                0.0028715431690216064,
                0.0028897374868392944,
                0.0029839277267456055,
                0.003020394593477249,
                0.002890627831220627,
                0.0029813572764396667,
                0.0029517076909542084,
                0.0029119662940502167,
                0.0029348842799663544,
                0.0028966963291168213,
                0.002912268042564392,
                0.002911105751991272,
                0.0029137469828128815,
                0.05147619545459747,
                0.0029336251318454742,
                0.002968680113554001,
                0.002956736832857132,
                0.002915862947702408,
                0.002932768315076828,
                0.0029286369681358337,
                0.0029505938291549683,
                0.003032699227333069,
                0.0029795877635478973,
                0.002897370606660843,
                0.002926453948020935,
                0.002975545823574066,
                0.059400901198387146,
                0.0029625780880451202,
                0.0029320530593395233,
                0.0029114633798599243,
                0.003077220171689987,
                0.0028610490262508392,
                0.002919822931289673,
                0.0029487311840057373,
                0.0029871277511119843,
                0.0029023364186286926,
                0.002959705889225006,
                0.0029266774654388428,
                0.0029183141887187958,
                0.004513200372457504,
                0.0028876326978206635,
                0.0029125288128852844,
                0.002884596586227417,
                0.05145488306879997,
                0.0029810257256031036,
                0.002889644354581833,
                0.0029695816338062286,
                0.003100041300058365,
                0.0028826408088207245,
                0.0028991587460041046,
                0.0029743164777755737,
                0.0030089691281318665,
                0.002903904765844345,
                0.0030244216322898865,
                0.0029189959168434143,
                0.0029195211827754974,
                0.0029217414557933807,
                0.05961347743868828,
                0.0029199309647083282,
                0.00293862447142601,
                0.0029947087168693542,
                0.002871483564376831,
                0.002910599112510681,
                0.0029553472995758057,
                0.0029000453650951385,
                0.0029957257211208344,
                0.004283476620912552,
                0.0029332153499126434,
                0.0029132962226867676,
                0.002922624349594116,
                0.002920757979154587,
                0.0031332820653915405,
                0.0029439441859722137,
                0.002923525869846344,
                0.05159308761358261,
                0.0029669106006622314,
                0.002962682396173477,
                0.0031529031693935394,
                0.0029292479157447815,
                0.0029601044952869415,
                0.0030048415064811707,
                0.002963755279779434,
                0.0030320994555950165,
                0.00310472771525383,
                0.0029783695936203003,
                0.002955775707960129,
                0.0029327869415283203,
                0.00336524099111557,
                0.0029220692813396454,
                0.002928115427494049,
                0.003009077161550522,
                0.0029509179294109344,
                0.002998296171426773,
                0.0029354356229305267,
                0.0030849501490592957,
                0.0029847733676433563,
                0.002963293343782425,
                0.0030131489038467407,
                0.002936888486146927,
                0.002895154058933258,
                0.002938218414783478,
                0.002913855016231537,
                0.0028976760804653168,
                0.05148709565401077,
                0.0029667578637599945,
                0.002938155084848404,
                0.0029563605785369873,
                0.002942703664302826,
                0.00296049565076828,
                0.002956598997116089,
                0.003016747534275055,
                0.00303741917014122,
                0.0029851794242858887,
                0.0029840655624866486,
                0.002938728779554367,
                0.0029426291584968567,
                0.002950243651866913,
                0.002881355583667755,
                0.003019627183675766,
                0.002929776906967163,
                0.0030933544039726257,
                0.0029463358223438263,
                0.0029167532920837402,
                0.0029888376593589783,
                0.0030200593173503876,
                0.002961955964565277,
                0.0029562488198280334,
                0.0029152780771255493,
                0.0029234252870082855,
                0.0029125846922397614,
                0.0029373690485954285,
                0.0031560100615024567,
                0.0029112547636032104,
                0.002926405519247055,
                0.0615285225212574,
                0.004038028419017792,
                0.003114607185125351,
                0.0029558800160884857,
                0.0029485784471035004,
                0.0029103904962539673,
                0.00290684774518013,
                0.002899337559938431,
                0.002882048487663269,
                0.002893935889005661,
                0.002864055335521698,
                0.05902876704931259,
                0.0029061585664749146,
                0.002934057265520096,
                0.0028902441263198853,
                0.002927277237176895,
                0.0028952360153198242,
                0.0029117614030838013,
                0.002869218587875366,
                0.002896808087825775,
                0.0029024630784988403,
                0.002880766987800598,
                0.002851635217666626,
                0.002851013094186783,
                0.0028763674199581146,
                0.002864796668291092,
                0.055352166295051575,
                0.0028794072568416595,
                0.0029052644968032837,
                0.002903759479522705,
                0.0029252953827381134,
                0.0029442198574543,
                0.0029072463512420654,
                0.0028906986117362976,
                0.0029024332761764526,
                0.0029051415622234344,
                0.002933856099843979,
                0.0028649792075157166,
                0.002881046384572983,
                0.0028852857649326324,
                0.002860870212316513,
                0.059140585362911224,
                0.0029197074472904205,
                0.002882830798625946,
                0.0028938278555870056,
                0.0029207132756710052,
                0.002953518182039261,
                0.002949535846710205,
                0.0028927288949489594,
                0.0028945356607437134,
                0.002900920808315277,
                0.0029022060334682465,
                0.0028599128127098083,
                0.002866152673959732,
                0.002869982272386551,
                0.0028683096170425415,
                0.055318836122751236,
                0.0028863847255706787,
                0.002877425402402878,
                0.002873525023460388,
                0.0029294006526470184,
                0.0029826872050762177,
                0.0029348991811275482,
                0.002898856997489929,
                0.002894435077905655,
                0.002891208976507187,
                0.0029413998126983643,
                0.002871766686439514,
                0.0028703473508358,
                0.0028830058872699738,
                0.002865355461835861,
                0.05916230008006096,
                0.0029055997729301453,
                0.0029301978647708893,
                0.002897646278142929,
                0.0028981491923332214,
                0.0031162388622760773,
                0.0029644668102264404,
                0.002918388694524765,
                0.0028594471514225006,
                0.0028814785182476044,
                0.002894572913646698,
                0.002853330224752426,
                0.0028704628348350525,
                0.0028758421540260315,
                0.055086199194192886,
                0.0031547807157039642,
                0.0029042065143585205,
                0.0029403269290924072,
                0.002900935709476471,
                0.0028963424265384674,
                0.0029792003333568573,
                0.0029250606894493103,
                0.0028811097145080566,
                0.0029227882623672485,
                0.002920757979154587,
                0.002979747951030731,
                0.002871926873922348,
                0.002887047827243805,
                0.0029036886990070343,
                0.058857422322034836,
                0.0035418011248111725,
                0.0029532574117183685,
                0.0029439590871334076,
                0.0029418878257274628,
                0.002894405275583267,
                0.0029093213379383087,
                0.0029533952474594116,
                0.00297725573182106,
                0.002847716212272644,
                0.002892870455980301,
                0.0029084794223308563,
                0.0028803758323192596,
                0.002843134105205536,
                0.0028655976057052612,
                0.055233750492334366,
                0.0029215216636657715,
                0.0028843842446804047,
                0.0029021352529525757,
                0.002951011061668396,
                0.0029309578239917755,
                0.0030998922884464264,
                0.0029464252293109894,
                0.002937890589237213,
                0.002890080213546753,
                0.0028810612857341766,
                0.0029369406402111053,
                0.0028967708349227905,
                0.0028705447912216187,
                0.004946935921907425,
                0.059406034648418427,
                0.0028856880962848663,
                0.0028842277824878693,
                0.0028984732925891876,
                0.002885829657316208,
                0.002981826663017273,
                0.002895668148994446,
                0.0029003694653511047,
                0.0028861388564109802,
                0.002927590161561966,
                0.0028857961297035217,
                0.002847094088792801,
                0.0028499476611614227,
                0.004114240407943726,
                0.05543043091893196,
                0.0029549524188041687,
                0.002897411584854126,
                0.002918444573879242,
                0.002917259931564331,
                0.0029722973704338074,
                0.0031118392944335938,
                0.0029029808938503265,
                0.0029155947268009186,
                0.00292900949716568,
                0.0028726011514663696,
                0.0028991661965847015,
                0.0028890855610370636,
                0.0028578080236911774,
                0.002859983593225479,
                0.05956881120800972,
                0.0029311440885066986,
                0.002923719584941864,
                0.0028896071016788483,
                0.0029161162674427032,
                0.0029199905693531036,
                0.0030892491340637207,
                0.002906177192926407,
                0.002917107194662094,
                0.002941407263278961,
                0.0028810910880565643,
                0.002910822629928589,
                0.002873990684747696,
                0.00288216769695282,
                0.00283866748213768,
                0.055543769150972366,
                0.002879813313484192,
                0.0029130354523658752,
                0.0028923191130161285,
                0.00292084738612175,
                0.0029770992696285248,
                0.0029332414269447327,
                0.0028952360153198242,
                0.0028826743364334106,
                0.002933729439973831,
                0.0028794482350349426,
                0.0028695613145828247,
                0.002885162830352783,
                0.0028795525431632996,
                0.0028453394770622253,
                0.05959397926926613,
                0.0029090866446495056,
                0.0029064156115055084,
                0.0028913095593452454,
                0.0029193945229053497,
                0.002918761223554611,
                0.003031887114048004,
                0.0028873495757579803,
                0.002915807068347931,
                0.0029209963977336884,
                0.002888966351747513,
                0.0028762072324752808,
                0.002928178757429123,
                0.0028847046196460724,
                0.002867918461561203,
                0.002842087298631668,
                0.05150429904460907,
                0.0028962306678295135,
                0.002896733582019806,
                0.002871967852115631,
                0.0028961636126041412,
                0.0029754526913166046,
                0.0030024684965610504,
                0.0028670281171798706,
                0.0028857551515102386,
                0.002877935767173767,
                0.0028397366404533386,
                0.002907749265432358,
                0.0028697140514850616,
                0.002864677459001541,
                0.0028447359800338745,
                0.05957088619470596,
                0.0028959400951862335,
                0.0028721243143081665,
                0.002841498702764511,
                0.0028914175927639008,
                0.002903461456298828,
                0.002911951392889023,
                0.0029032379388809204,
                0.0029129572212696075,
                0.002939000725746155,
                0.00288308784365654,
                0.002903137356042862,
                0.0029446184635162354,
                0.002890057861804962,
                0.002849273383617401,
                0.002851787954568863,
                0.051468007266521454,
                0.002923250198364258,
                0.002863895148038864,
                0.0028509758412837982,
                0.002894919365644455,
                0.0028890855610370636,
                0.002856507897377014,
                0.0029834210872650146,
                0.002855893224477768,
                0.002830926328897476,
                0.0028510764241218567,
                0.0029416456818580627,
                0.0028636008501052856,
                0.0028298161923885345,
                0.0028568021953105927,
                0.05955006927251816,
                0.0031911544501781464,
                0.0028629451990127563,
                0.0028589479625225067,
                0.0028749369084835052,
                0.0028585754334926605,
                0.002846136689186096,
                0.0029018670320510864,
                0.0028571896255016327,
                0.0028438828885555267,
                0.0028583668172359467,
                0.00286729633808136,
                0.002927236258983612,
                0.002828456461429596,
                0.0028556548058986664,
                0.0028628669679164886,
                0.002830538898706436,
                0.05152861773967743,
                0.0028559155762195587,
                0.002857215702533722,
                0.002853047102689743,
                0.002824947237968445,
                0.0028958991169929504,
                0.0029682181775569916,
                0.00283997505903244,
                0.0028376467525959015,
                0.002875968813896179,
                0.00285126268863678,
                0.0028526484966278076,
                0.002859916538000107,
                0.0028719864785671234,
                0.002837207168340683,
                0.05953056737780571,
                0.002872016280889511,
                0.0028727129101753235,
                0.0028371885418891907,
                0.0028417371213436127,
                0.0028562694787979126,
                0.002853143960237503,
                0.0030175596475601196,
                0.0028451532125473022,
                0.00286724790930748,
                0.00283006951212883,
                0.002882547676563263,
                0.0028633996844291687,
                0.0028660260140895844,
                0.0033134743571281433,
                0.002856336534023285,
                0.051449377089738846,
                0.0028777457773685455,
                0.0028250105679035187,
                0.0029151663184165955,
                0.00285995751619339,
                0.0029197856783866882,
                0.0028441771864891052,
                0.003051847219467163,
                0.002955649048089981,
                0.002857159823179245,
                0.00282200425863266,
                0.0029495656490325928,
                0.0028498582541942596,
                0.0028229467570781708,
                0.0028583258390426636,
                0.05943922698497772,
                0.0028888359665870667,
                0.0028425976634025574,
                0.0028452128171920776,
                0.0028722956776618958,
                0.002852708101272583,
                0.002832818776369095,
                0.0028955750167369843,
                0.002853989601135254,
                0.0028343014419078827,
                0.002871137112379074,
                0.0028977878391742706,
                0.0028844550251960754,
                0.0028425753116607666,
                0.002848956733942032,
                0.05548657476902008,
                0.0028894878923892975,
                0.0029095225036144257,
                0.002857774496078491,
                0.0028733350336551666,
                0.002884451299905777,
                0.002933412790298462,
                0.002857208251953125,
                0.002859499305486679,
                0.0028243251144886017,
                0.002908889204263687,
                0.002937477082014084,
                0.0028616152703762054,
                0.0028328262269496918,
                0.002860724925994873,
                0.05945935472846031,
                0.0029226094484329224,
                0.002854876220226288,
                0.0028803013265132904,
                0.0028653033077716827,
                0.002870693802833557,
                0.002833310514688492,
                0.0029067061841487885,
                0.0028751157224178314,
                0.0028434358537197113,
                0.0028709284961223602,
                0.002890218049287796,
                0.0029130689799785614,
                0.0028460361063480377,
                0.002855345606803894,
                0.05502304062247276,
                0.0028648152947425842,
                0.002865128219127655,
                0.0028550364077091217,
                0.0028591156005859375,
                0.0028304532170295715,
                0.002899259328842163,
                0.0028603076934814453,
                0.002828747034072876,
                0.0028624311089515686,
                0.002900458872318268,
                0.002852529287338257,
                0.0028607770800590515,
                0.0028489939868450165,
                0.0028576962649822235,
                0.002861570566892624,
                0.059511613100767136,
                0.002879347652196884,
                0.002879459410905838,
                0.0029441379010677338,
                0.002851184457540512,
                0.002860594540834427,
                0.002939470112323761,
                0.0030510909855365753,
                0.0028594285249710083,
                0.002895064651966095,
                0.0028754957020282745,
                0.0028499290347099304,
                0.0028989799320697784,
                0.002874508500099182,
                0.05490574240684509,
                0.003212224692106247,
                0.004335545003414154,
                0.0028428398072719574,
                0.0028764531016349792,
                0.0028968490660190582,
                0.0028451234102249146,
                0.0028515495359897614,
                0.003047209233045578,
                0.0028706341981887817,
                0.002864658832550049,
                0.002863336354494095,
                0.00287739560008049,
                0.002837926149368286,
                0.002868279814720154,
                0.059226006269454956,
                0.0032237358391284943,
                0.00287821888923645,
                0.0028637759387493134,
                0.002865392714738846,
                0.0028833821415901184,
                0.002839095890522003,
                0.0028679966926574707,
                0.002861086279153824,
                0.0028397180140018463,
                0.0028527341783046722,
                0.002853862941265106,
                0.0028591230511665344,
                0.0028351619839668274,
                0.0029135681688785553,
                0.055542781949043274,
                0.002888862043619156,
                0.0028313882648944855,
                0.0028336159884929657,
                0.002870958298444748,
                0.002869904041290283,
                0.002855006605386734,
                0.0028605684638023376,
                0.003016553819179535,
                0.0028332695364952087,
                0.002845257520675659,
                0.002866216003894806,
                0.0028707869350910187,
                0.0028565414249897003,
                0.0028574541211128235,
                0.05955346301198006,
                0.002944100648164749,
                0.0028393566608428955,
                0.0028495825827121735,
                0.002855367958545685,
                0.0028330162167549133,
                0.0029168911278247833,
                0.0028538554906845093,
                0.0029609911143779755,
                0.00282958522439003,
                0.0028930343687534332,
                0.0028589554131031036,
                0.002827480435371399,
                0.0028736554086208344,
                0.0028649568557739258,
                0.003404386341571808,
                0.051286112517118454,
                0.0030214935541152954,
                0.0028592757880687714,
                0.002879153937101364,
                0.0028466880321502686,
                0.0028346069157123566,
                0.002925105392932892,
                0.0028621815145015717,
                0.0028738640248775482,
                0.0030402913689613342,
                0.0028706975281238556,
                0.0028573237359523773,
                0.0028295479714870453,
                0.0028530769050121307,
                0.0028619132936000824,
                0.002833157777786255,
                0.059604350477457047,
                0.002871870994567871,
                0.002872411161661148,
                0.0028571859002113342,
                0.0030756406486034393,
                0.0029240883886814117,
                0.002866048365831375,
                0.0028412938117980957,
                0.0031960532069206238,
                0.00287720188498497,
                0.002865135669708252,
                0.003444366157054901,
                0.002830423414707184,
                0.0028686560690402985,
                0.0029065683484077454,
                0.0028394684195518494,
                0.051518313586711884,
                0.0028684698045253754,
                0.0028591156005859375,
                0.002834424376487732,
                0.0028428472578525543,
                0.002904079854488373,
                0.002859257161617279,
                0.002823673188686371,
                0.002854708582162857,
                0.002869304269552231,
                0.002841450273990631,
                0.003468155860900879,
                0.0028574056923389435,
                0.002851836383342743,
                0.0029277466237545013,
                0.059566181153059006,
                0.0028803832828998566,
                0.0030116885900497437,
                0.002881709486246109,
                0.002836868166923523,
                0.0028667934238910675,
                0.002864997833967209,
                0.0028335265815258026,
                0.003027942031621933,
                0.002865273505449295,
                0.002876490354537964,
                0.0028396546840667725,
                0.002855304628610611,
                0.0028670094907283783,
                0.05497653782367706,
                0.0032916218042373657,
                0.002875596284866333,
                0.0028782598674297333,
                0.0028605349361896515,
                0.002832747995853424,
                0.002905186265707016,
                0.0028773359954357147,
                0.0028424784541130066,
                0.0029815882444381714,
                0.0028762444853782654,
                0.0028684288263320923,
                0.002835795283317566,
                0.0028499066829681396,
                0.00285898894071579,
                0.0028252825140953064,
                0.0595550499856472,
                0.002876266837120056,
                0.0028532445430755615,
                0.002823907881975174,
                0.002854578197002411,
                0.002862062305212021,
                0.002852238714694977,
                0.002844415605068207,
                0.0028500258922576904,
                0.0030529722571372986,
                0.0028330162167549133,
                0.0028568655252456665,
                0.0028680190443992615,
                0.002872973680496216,
                0.0028401464223861694,
                0.0028867200016975403,
                0.05146960914134979,
                0.0028820261359214783,
                0.0028337575495243073,
                0.002841576933860779,
                0.0028521232306957245,
                0.002883967012166977,
                0.002865329384803772,
                0.0028700828552246094,
                0.0028525888919830322,
                0.002922389656305313,
                0.0028546079993247986,
                0.0028708353638648987,
                0.002856273204088211,
                0.002827305346727371,
                0.00284513458609581,
                0.05958858132362366,
                0.0032172836363315582,
                0.0028650686144828796,
                0.002856515347957611,
                0.0028702951967716217,
                0.0028845369815826416,
                0.002860046923160553,
                0.0028647370636463165,
                0.0028821490705013275,
                0.003013819456100464,
                0.002856377512216568,
                0.0028826333582401276,
                0.0028901956975460052,
                0.0028476975858211517,
                0.002866320312023163,
                0.002912186086177826,
                0.05126087740063667,
                0.0030497387051582336,
                0.0028561167418956757,
                0.0028721094131469727,
                0.0028463415801525116,
                0.0028311386704444885,
                0.0029220879077911377,
                0.002885732799768448,
                0.00283036008477211,
                0.0028511062264442444,
                0.0030528195202350616,
                0.0029070675373077393,
                0.0028358474373817444,
                0.0028512179851531982,
                0.0028510428965091705,
                0.002819068729877472,
                0.059817370027303696,
                0.0029180683195590973,
                0.0028895102441310883,
                0.0028651244938373566,
                0.0028472542762756348,
                0.0028734616935253143,
                0.002868346869945526,
                0.0028385743498802185,
                0.002857103943824768,
                0.0029920078814029694,
                0.0028936006128787994,
                0.0036322511732578278,
                0.0028790757060050964,
                0.00287705659866333,
                0.0033186785876750946,
                0.05148787796497345,
                0.0028740838170051575,
                0.0028586983680725098,
                0.0028708651661872864,
                0.0028636083006858826,
                0.0028436966240406036,
                0.002918776124715805,
                0.0028421692550182343,
                0.0028219446539878845,
                0.00284605473279953,
                0.0030344538390636444,
                0.002863515168428421,
                0.0028312765061855316,
                0.002854634076356888,
                0.005579441785812378,
                0.0595821775496006,
                0.00287029892206192,
                0.0028613731265068054,
                0.0028603188693523407,
                0.0028315335512161255,
                0.0028613880276679993,
                0.0028606168925762177,
                0.002834916114807129,
                0.0028575770556926727,
                0.0030882321298122406,
                0.0029008276760578156,
                0.0028410442173480988,
                0.002858966588973999,
                0.0028738752007484436,
                0.00283263623714447,
                0.0028884336352348328,
                0.05151095613837242,
                0.002892959862947464,
                0.0029169470071792603,
                0.0028443671762943268,
                0.002859886735677719,
                0.0028895363211631775,
                0.0028489679098129272,
                0.002849634736776352,
                0.0028670169413089752,
                0.0028857141733169556,
                0.002990320324897766,
                0.0028530769050121307,
                0.0028587020933628082,
                0.0028229430317878723,
                0.0028448887169361115,
                0.059460535645484924,
                0.00288236141204834,
                0.002833649516105652,
                0.002851095050573349,
                0.002875838428735733,
                0.0028552673757076263,
                0.0028339028358459473,
                0.002859748899936676,
                0.00286000594496727,
                0.0028362348675727844,
                0.003011278808116913,
                0.0029141120612621307,
                0.002864845097064972,
                0.002836674451828003,
                0.002857077866792679,
                0.05559759587049484,
                0.002912130206823349,
                0.0028376057744026184,
                0.002842947840690613,
                0.0028695613145828247,
                0.0028837695717811584,
                0.0028601251542568207,
                0.002856295555830002,
                0.0028674863278865814,
                0.002846095710992813,
                0.0030506327748298645,
                0.0028954967856407166,
                0.002862948924303055,
                0.0028517134487628937,
                0.002847950905561447,
                0.05956285446882248,
                0.00289008766412735,
                0.0028539150953292847,
                0.002871669828891754,
                0.002870626747608185,
                0.0028617382049560547,
                0.00286136195063591,
                0.0028580091893672943,
                0.002850804477930069,
                0.002832747995853424,
                0.003037557005882263,
                0.0028947368264198303,
                0.0028721876442432404,
                0.00283987820148468,
                0.0028657279908657074,
                0.0028548017144203186,
                0.002973761409521103,
                0.002840045839548111,
                0.002843804657459259,
                0.0028628110885620117,
                0.002842642366886139,
                0.014741085469722748,
                0.002914056181907654,
                0.0028595328330993652,
                0.0028318651020526886,
                0.0028379298746585846,
                0.0028605759143829346,
                0.002829086035490036,
                0.05558668076992035,
                0.003286011517047882,
                0.002875346690416336,
                0.002864457666873932,
                0.0028427690267562866,
                0.002848263829946518,
                0.002865627408027649,
                0.002830974757671356,
                0.0028445571660995483,
                0.0028673484921455383,
                0.0028750039637088776,
                0.002895798534154892,
                0.00284755602478981,
                0.0028641782701015472,
                0.002817433327436447,
                0.059628281742334366,
                0.0028796568512916565,
                0.002872508019208908,
                0.0028667151927948,
                0.0029277168214321136,
                0.0028543658554553986,
                0.0028859414160251617,
                0.002832595258951187,
                0.003002345561981201,
                0.002884428948163986,
                0.0028722770512104034,
                0.0028134845197200775,
                0.0028385482728481293,
                0.0028747543692588806,
                0.0028706490993499756,
                0.0028120428323745728,
                0.05157677084207535,
                0.0028869062662124634,
                0.0028454549610614777,
                0.002826087176799774,
                0.0028524957597255707,
                0.0028503984212875366,
                0.002833835780620575,
                0.0028547868132591248,
                0.0028645582497119904,
                0.002858296036720276,
                0.0029888972640037537,
                0.002869177609682083,
                0.00285358726978302,
                0.0028334371745586395,
                0.0028794966638088226,
                0.05957725644111633,
                0.0029415711760520935,
                0.0028598420321941376,
                0.002863798290491104,
                0.002993430942296982,
                0.00286836177110672,
                0.0028614401817321777,
                0.0028419531881809235,
                0.002872377634048462,
                0.0030725114047527313,
                0.002836667001247406,
                0.002851441502571106,
                0.0028555206954479218,
                0.002824883908033371,
                0.0028790682554244995,
                0.002870514988899231,
                0.05149827152490616,
                0.0028541944921016693,
                0.0028758682310581207,
                0.0028597041964530945,
                0.002864368259906769,
                0.002845514565706253,
                0.002851095050573349,
                0.002895548939704895,
                0.002838537096977234,
                0.0028630681335926056,
                0.0028556548058986664,
                0.0030464529991149902,
                0.004539478570222855,
                0.002870336174964905,
                0.002841450273990631,
                0.05965656787157059,
                0.0028990469872951508,
                0.0028738826513290405,
                0.002856288105249405,
                0.003009568899869919,
                0.0028705671429634094,
                0.002844974398612976,
                0.002821587026119232,
                0.002847667783498764,
                0.0028655268251895905,
                0.0028287842869758606,
                0.0028425343334674835,
                0.0028529688715934753,
                0.0028535090386867523,
                0.0028755217790603638,
                0.0555538609623909,
                0.0028932876884937286,
                0.0029533691704273224,
                0.002842254936695099,
                0.002853967249393463,
                0.002859257161617279,
                0.0028350166976451874,
                0.002848554402589798,
                0.002862747758626938,
                0.002857424318790436,
                0.002842489629983902,
                0.003012079745531082,
                0.0028605833649635315,
                0.0028101690113544464,
                0.00284484401345253,
                0.05939432978630066,
                0.002900701016187668,
                0.0028377175331115723,
                0.0028440654277801514,
                0.0028698593378067017,
                0.0029283761978149414,
                0.0028323642909526825,
                0.0028461702167987823,
                0.002865135669708252,
                0.0028476156294345856,
                0.0028708092868328094,
                0.0028704479336738586,
                0.002846755087375641,
                0.002832021564245224,
                0.002865709364414215,
                0.05553866922855377,
                0.002876836806535721,
                0.002839352935552597,
                0.0028425976634025574,
                0.0028684213757514954,
                0.0028509236872196198,
                0.0028323158621788025,
                0.002854287624359131,
                0.0028615668416023254,
                0.002827417105436325,
                0.0028448961675167084,
                0.00295262411236763,
                0.002853408455848694,
                0.002839844673871994,
                0.0028554461896419525,
                0.059607911854982376,
                0.0029274560511112213,
                0.002841416746377945,
                0.002920340746641159,
                0.0028682537376880646,
                0.002865716814994812,
                0.002878855913877487,
                0.0028552934527397156,
                0.0028673820197582245,
                0.0028378553688526154,
                0.0029151178896427155,
                0.0028654932975769043,
                0.0028465352952480316,
                0.0028375908732414246,
                0.0028488710522651672,
                0.00287511944770813,
                0.0028237849473953247,
                0.051496218889951706,
                0.0032807663083076477,
                0.002880726009607315,
                0.0028705745935440063,
                0.0028422586619853973,
                0.0028894878923892975,
                0.002882435917854309,
                0.002844635397195816,
                0.0028558485209941864,
                0.002882096916437149,
                0.0028716735541820526,
                0.003035619854927063,
                0.002853959798812866,
                0.0028953440487384796,
                0.0028654560446739197,
                0.05966620147228241,
                0.00289187952876091,
                0.002882014960050583,
                0.002869829535484314,
                0.002850402146577835,
                0.0029141493141651154,
                0.002881128340959549,
                0.002859257161617279,
                0.002845402806997299,
                0.0029506683349609375,
                0.0028532780706882477,
                0.0028250552713871002,
                0.0028523243963718414,
                0.002858497202396393,
                0.055075131356716156,
                0.00327417254447937,
                0.002865515649318695,
                0.00286942720413208,
                0.0028653591871261597,
                0.0028376467525959015,
                0.002857394516468048,
                0.002872258424758911,
                0.0028450340032577515,
                0.0028481967747211456,
                0.002861708402633667,
                0.0028696469962596893,
                0.003015127032995224,
                0.002867136150598526,
                0.0028551965951919556,
                0.0028591565787792206,
                0.05940161645412445,
                0.0028696954250335693,
                0.0028708279132843018,
                0.002837337553501129,
                0.0028550252318382263,
                0.0028908364474773407,
                0.002907257527112961,
                0.0028414539992809296,
                0.002850789576768875,
                0.00285305455327034,
                0.0028257444500923157,
                0.002850569784641266,
                0.0028474144637584686,
                0.00285198912024498,
                0.002842295914888382,
                0.0559563934803009,
                0.0030705593526363373,
                0.0029297098517417908,
                0.00288555771112442,
                0.0028368644416332245,
                0.002889297902584076,
                0.002858877182006836,
                0.0028412938117980957,
                0.002859588712453842,
                0.002877376973628998,
                0.0028713680803775787,
                0.0028676874935626984,
                0.0029378756880760193,
                0.0028609484434127808,
                0.0028463155031204224,
                0.05986263230443001,
                0.0028725601732730865,
                0.002901613712310791,
                0.0028859712183475494,
                0.002941492944955826,
                0.002902928739786148,
                0.002874016761779785,
                0.002920590341091156,
                0.0028288811445236206,
                0.0029659010469913483,
                0.0029873065650463104,
                0.0028197839856147766,
                0.0029679201543331146,
                0.0028529204428195953,
                0.0028556734323501587,
                0.05177506431937218,
                0.0032530948519706726,
                0.0028690658509731293,
                0.0028647109866142273,
                0.0028529129922389984,
                0.0028414130210876465,
                0.0028736479580402374,
                0.0028621479868888855,
                0.002834908664226532,
                0.002848416566848755,
                0.002863403409719467,
                0.0028601177036762238,
                0.0028359554708003998,
                0.002973809838294983,
                0.0028585121035575867,
                0.0028390176594257355,
                0.05964794382452965,
                0.002861402928829193,
                0.0028699077665805817,
                0.002832464873790741,
                0.0028540901839733124,
                0.0028975866734981537,
                0.002897057682275772,
                0.002877965569496155,
                0.002853918820619583,
                0.002861175686120987,
                0.002870265394449234,
                0.002840496599674225,
                0.002854999154806137,
                0.002855870872735977,
                0.0028648599982261658,
                0.002855956554412842,
                0.05153807997703552,
                0.0028837360441684723,
                0.002830374985933304,
                0.002849087119102478,
                0.002855498343706131,
                0.002859935164451599,
                0.002830144017934799,
                0.0028614960610866547,
                0.00286097452044487,
                0.002832900732755661,
                0.003624372184276581,
                0.002849876880645752,
                0.002852603793144226,
                0.0028421469032764435,
                0.002872683107852936,
                0.05965527519583702,
                0.0029667802155017853,
                0.0028707459568977356,
                0.0028342045843601227,
                0.0028919167816638947,
                0.0028801672160625458,
                0.002892829477787018,
                0.0029010064899921417,
                0.002854045480489731,
                0.0028679370880126953,
                0.003800787031650543,
                0.002848763018846512,
                0.002856627106666565,
                0.0028573162853717804,
                0.0028441771864891052,
                0.002849709242582321,
                0.05156225711107254,
                0.0033494271337985992,
                0.0028988979756832123,
                0.0028366856276988983,
                0.002850763499736786,
                0.002852238714694977,
                0.002822272479534149,
                0.0028430819511413574,
                0.0028465911746025085,
                0.0028558187186717987,
                0.0028319954872131348,
                0.002850055694580078,
                0.002854958176612854,
                0.002933073788881302,
                0.0028301365673542023,
                0.059640105813741684,
                0.002924855798482895,
                0.0028552934527397156,
                0.0028303489089012146,
                0.0029260367155075073,
                0.002856217324733734,
                0.0029147453606128693,
                0.0028931833803653717,
                0.00286933034658432,
                0.0028612352907657623,
                0.002831205725669861,
                0.0029866695404052734,
                0.0028574876487255096,
                0.0028211362659931183,
                0.002845015376806259,
                0.002893008291721344,
                0.05155998840928078,
                0.0029060468077659607,
                0.002848837524652481,
                0.002846967428922653,
                0.0028478577733039856,
                0.002833820879459381,
                0.002839036285877228,
                0.002856578677892685,
                0.002848748117685318,
                0.0028297938406467438,
                0.0028575100004673004,
                0.002852790057659149,
                0.0028674788773059845,
                0.0030447207391262054,
                0.002866007387638092,
                0.05909013748168945,
                0.003195870667695999,
                0.002868328243494034,
                0.0028548650443553925,
                0.002864040434360504,
                0.002853821963071823,
                0.0028853490948677063,
                0.0029054880142211914,
                0.002833295613527298,
                0.00283798947930336,
                0.0028686709702014923,
                0.0028624311089515686,
                0.002834431827068329,
                0.0028506293892860413,
                0.002855595201253891,
                0.0028391554951667786,
                0.055399443954229355,
                0.002926800400018692,
                0.0028700679540634155,
                0.002828676253557205,
                0.002842176705598831,
                0.0028711073100566864,
                0.0028642043471336365,
                0.0028301551938056946,
                0.0028539560735225677,
                0.0028736069798469543,
                0.0028320178389549255,
                0.0028501562774181366,
                0.0028955265879631042,
                0.003047361969947815,
                0.002835415303707123,
                0.07532253861427307,
                0.003068991005420685,
                0.0029279179871082306,
                0.0028660856187343597,
                0.00288429856300354,
                0.0028767362236976624,
                0.0028724856674671173,
                0.0029063597321510315,
                0.0028570443391799927,
                0.055627599358558655,
                0.0028771311044692993,
                0.0028839558362960815,
                0.0028223171830177307,
                0.002850215882062912,
                0.0028411149978637695,
                0.0027998462319374084,
                0.0028390027582645416,
                0.002858530730009079,
                0.0028549470007419586,
                0.002833802253007889,
                0.0028500184416770935,
                0.0028747543692588806,
                0.002824530005455017,
                0.002914614975452423,
                0.059661008417606354,
                0.0028769895434379578,
                0.0028367675840854645,
                0.0028506144881248474,
                0.0028585679829120636,
                0.002860322594642639,
                0.002888258546590805,
                0.0028499476611614227,
                0.0028499066829681396,
                0.002834714949131012,
                0.002844918519258499,
                0.0028621479868888855,
                0.002854924649000168,
                0.0028321072459220886,
                0.002941407263278961,
                0.002909518778324127,
                0.051405783742666245,
                0.0029767602682113647,
                0.002865143120288849,
                0.002868182957172394,
                0.002852480858564377,
                0.002825528383255005,
                0.0028534866869449615,
                0.002842232584953308,
                0.002828609198331833,
                0.002837609499692917,
                0.0028647631406784058,
                0.00284387543797493,
                0.002833586186170578,
                0.0028620995581150055,
                0.0030353404581546783,
                0.002839095890522003,
                0.05968451127409935,
                0.0029429681599140167,
                0.002872481942176819,
                0.002859838306903839,
                0.002840854227542877,
                0.002906002104282379,
                0.002887953072786331,
                0.002845950424671173,
                0.002868201583623886,
                0.002872411161661148,
                0.0028548017144203186,
                0.002842668443918228,
                0.00289279967546463,
                0.0029566138982772827,
                0.002894006669521332,
                0.002894122153520584,
                0.05155699700117111,
                0.0032546818256378174,
                0.002880088984966278,
                0.0028373152017593384,
                0.0028360672295093536,
                0.0028749778866767883,
                0.002848714590072632,
                0.0028332583606243134,
                0.002847682684659958,
                0.0028420686721801758,
                0.0037233568727970123,
                0.0028347745537757874,
                0.0028577037155628204,
                0.002849169075489044,
                0.059603847563266754,
                0.003033790737390518,
                0.0028677769005298615,
                0.002863764762878418,
                0.00286724790930748,
                0.00283629447221756,
                0.002875968813896179,
                0.002879716455936432,
                0.0028337836265563965,
                0.0028502196073532104,
                0.0028751082718372345,
                0.0028602145612239838,
                0.0028407052159309387,
                0.00284503772854805,
                0.0029291771352291107,
                0.0029336735606193542,
                0.002889033406972885,
                0.05155296251177788,
                0.002869345247745514,
                0.002861466258764267,
                0.002831503748893738,
                0.0028432607650756836,
                0.002850595861673355,
                0.0028778351843357086,
                0.0028558261692523956,
                0.002859998494386673,
                0.002857740968465805,
                0.0028271786868572235,
                0.002871554344892502,
                0.0028579607605934143,
                0.002832304686307907,
                0.0029938705265522003,
                0.0028706230223178864,
                0.055669065564870834,
                0.002917703241109848,
                0.0031111054122447968,
                0.0028964169323444366,
                0.002969406545162201,
                0.0028885751962661743,
                0.002886880189180374,
                0.0029350891709327698,
                0.0028704218566417694,
                0.0029086023569107056,
                0.0028700456023216248,
                0.002884257584810257,
                0.0029527954757213593,
                0.002860836684703827,
                0.059669457376003265,
                0.0028633959591388702,
                0.002878282219171524,
                0.0028536953032016754,
                0.002837643027305603,
                0.002850934863090515,
                0.002853609621524811,
                0.0028240829706192017,
                0.0028393156826496124,
                0.002859998494386673,
                0.002819094806909561,
                0.0028387755155563354,
                0.0028689205646514893,
                0.0028683431446552277,
                0.002825956791639328,
                0.0031022056937217712,
                0.0028962232172489166,
                0.05110274255275726,
                0.003261815756559372,
                0.0028882771730422974,
                0.0028702542185783386,
                0.0028647780418395996,
                0.00284387543797493,
                0.0028636492788791656,
                0.0029173530638217926,
                0.002832256257534027,
                0.002854529768228531,
                0.00289173424243927,
                0.002858508378267288,
                0.0029289908707141876,
                0.00284610316157341,
                0.05970887094736099,
                0.0028847865760326385,
                0.0028282776474952698,
                0.002849683165550232,
                0.0028623081743717194,
                0.002847176045179367,
                0.002816375344991684,
                0.0028513558208942413,
                0.0028525181114673615,
                0.002822626382112503,
                0.002844538539648056,
                0.0028660930693149567,
                0.002865198999643326,
                0.002864215523004532,
                0.002842668443918228,
                0.0028567127883434296,
                0.002879597246646881,
                0.053972840309143066,
                0.0029119960963726044,
                0.002851296216249466,
                0.0028596967458724976,
                0.0028622671961784363,
                0.0028603821992874146,
                0.002880427986383438,
                0.002877701073884964,
                0.00286194309592247,
                0.0028374381363391876,
                0.002850893884897232,
                0.002857569605112076,
                0.002914678305387497,
                0.0028386861085891724,
                0.059583377093076706,
                0.0028860382735729218,
                0.0028616786003112793,
                0.002821207046508789,
                0.002851296216249466,
                0.0028543025255203247,
                0.0028316155076026917,
                0.002843070775270462,
                0.002856805920600891,
                0.0028522051870822906,
                0.0028242282569408417,
                0.002836883068084717,
                0.002855297178030014,
                0.0028288140892982483,
                0.00284779816865921,
                0.0028584562242031097,
                0.054816246032714844,
                0.0033726245164871216,
                0.0028885379433631897,
                0.0028672553598880768,
                0.002892952412366867,
                0.002818923443555832,
                0.002851564437150955,
                0.0029178373515605927,
                0.002842675894498825,
                0.002851884812116623,
                0.0028630271553993225,
                0.0028582289814949036,
                0.002839464694261551,
                0.0029192566871643066,
                0.05956035107374191,
                0.0029004551470279694,
                0.0031896643340587616,
                0.0028490759432315826,
                0.002865467220544815,
                0.0028587430715560913,
                0.0028222687542438507,
                0.002840876579284668,
                0.002855014055967331,
                0.00282987579703331,
                0.002837289124727249,
                0.002860110253095627,
                0.0028968416154384613,
                0.002852547913789749,
                0.002855449914932251,
                0.0028518326580524445,
                0.0028229467570781708,
                0.05556874722242355,
                0.002936799079179764,
                0.002866409718990326,
                0.0028577223420143127,
                0.0028481818735599518,
                0.002863015979528427,
                0.002925395965576172,
                0.002843383699655533,
                0.0028771869838237762,
                0.002875775098800659,
                0.0028468407690525055,
                0.002841256558895111,
                0.002861104905605316,
                0.05928393080830574,
                0.003001868724822998,
                0.0028456896543502808,
                0.0028496310114860535,
                0.002847135066986084,
                0.002827730029821396,
                0.002844676375389099,
                0.0028601326048374176,
                0.0028558485209941864,
                0.0028388164937496185,
                0.0028604157269001007,
                0.0028563477098941803,
                0.002826463431119919,
                0.0028454288840293884,
                0.0028662271797657013,
                0.059191443026065826,
                0.00321149080991745,
                0.0028549470007419586,
                0.0028831548988819122,
                0.002858377993106842,
                0.002824794501066208,
                0.0028597190976142883,
                0.0029416196048259735,
                0.002834722399711609,
                0.002839915454387665,
                0.002851787954568863,
                0.0028569772839546204,
                0.0028328485786914825,
                0.0028465017676353455,
                0.002850707620382309,
                0.0028291791677474976
            ],
            "count": 1519,
            "total": 9.632107872515917,
            "mean": 0.006341084840365976,
            "p50": 0.002870958298444748,
            "p90": 0.003073137253522873,
            "p95": 0.051560215279459955,
            "p99": 0.059607270807027816,
            "stdev": 0.013174820697991476,
            "stdev_": 207.76919138699128
        },
        "throughput": {
            "unit": "tokens/s",
            "value": 315.40344441828506
        },
        "energy": null,
        "efficiency": null
    }
}