from mmengine.config import read_base with read_base(): from .groups.lveval import lveval_summary_groups summarizer = dict( dataset_abbrs=[ "----------------------------------------", "--------- LVEval All ---------", # category "----------------------------------------", "LVEval_qa", "----------------------------------------", "--------- LVEval Tasks All ---------", # category "----------------------------------------", "LVEval_single_hop_qa", "LVEval_single_hop_cqa", "LVEval_multi_hop_qa", "LVEval_multi_hop_cqa", "LVEval_factrecall_cqa", "----------------------------------------", "--------- LVEval Datasets All ---------", # category "----------------------------------------", "LVEval_loogle_SD_mixup", "LVEval_cmrc_mixup", "LVEval_multifieldqa_en_mixup", "LVEval_multifieldqa_zh_mixup", "LVEval_dureader_mixup", "LVEval_loogle_CR_mixup", "LVEval_loogle_MIR_mixup", "LVEval_hotpotwikiqa_mixup", "LVEval_lic_mixup", "LVEval_factrecall_en", "LVEval_factrecall_zh", "----------------------------------------", "--------- LVEval Single_Hop QA ---------", # category "----------------------------------------", "LVEval_loogle_SD_mixup_16k", "LVEval_loogle_SD_mixup_32k", "LVEval_loogle_SD_mixup_64k", "LVEval_loogle_SD_mixup_128k", "LVEval_loogle_SD_mixup_256k", "----------------------------------------", "LVEval_cmrc_mixup_16k", "LVEval_cmrc_mixup_32k", "LVEval_cmrc_mixup_64k", "LVEval_cmrc_mixup_128k", "LVEval_cmrc_mixup_256k", "----------------------------------------", "--------- LVEval Single_Hop CQA ---------", # category "----------------------------------------", "LVEval_multifieldqa_en_mixup_16k", "LVEval_multifieldqa_en_mixup_32k", "LVEval_multifieldqa_en_mixup_64k", "LVEval_multifieldqa_en_mixup_128k", "LVEval_multifieldqa_en_mixup_256k", "----------------------------------------", "LVEval_multifieldqa_zh_mixup_16k", "LVEval_multifieldqa_zh_mixup_32k", "LVEval_multifieldqa_zh_mixup_64k", "LVEval_multifieldqa_zh_mixup_128k", "LVEval_multifieldqa_zh_mixup_256k", "----------------------------------------", "--------- LVEval Multi_Hop QA ---------", # category "----------------------------------------", "LVEval_dureader_mixup_16k", "LVEval_dureader_mixup_32k", "LVEval_dureader_mixup_64k", "LVEval_dureader_mixup_128k", "LVEval_dureader_mixup_256k", "----------------------------------------", "LVEval_loogle_CR_mixup_16k", "LVEval_loogle_CR_mixup_32k", "LVEval_loogle_CR_mixup_64k", "LVEval_loogle_CR_mixup_128k", "LVEval_loogle_CR_mixup_256k", "----------------------------------------", "LVEval_loogle_MIR_mixup_16k", "LVEval_loogle_MIR_mixup_32k", "LVEval_loogle_MIR_mixup_64k", "LVEval_loogle_MIR_mixup_128k", "LVEval_loogle_MIR_mixup_256k", "----------------------------------------", "--------- LVEval Multi_Hop CQA ---------", # category "----------------------------------------", "LVEval_hotpotwikiqa_mixup_16k", "LVEval_hotpotwikiqa_mixup_32k", "LVEval_hotpotwikiqa_mixup_64k", "LVEval_hotpotwikiqa_mixup_128k", "LVEval_hotpotwikiqa_mixup_256k", "----------------------------------------", "LVEval_lic_mixup_16k", "LVEval_lic_mixup_32k", "LVEval_lic_mixup_64k", "LVEval_lic_mixup_128k", "LVEval_lic_mixup_256k", "----------------------------------------", "--------- LVEval Factrecall CQA ---------", # category "----------------------------------------", "LVEval_factrecall_en_16k", "LVEval_factrecall_en_32k", "LVEval_factrecall_en_64k", "LVEval_factrecall_en_128k", "LVEval_factrecall_en_256k", "----------------------------------------", "LVEval_factrecall_zh_16k", "LVEval_factrecall_zh_32k", "LVEval_factrecall_zh_64k", "LVEval_factrecall_zh_128k", "LVEval_factrecall_zh_256k", ], summary_groups=sum( [v for k, v in locals().items() if k.endswith("_summary_groups")], [] ), )