| { | |
| "per_channel": true, | |
| "reduce_range": true, | |
| "per_model_config": { | |
| "decoder_model": { | |
| "op_types": [ | |
| "Gather", | |
| "Add", | |
| "Log", | |
| "Unsqueeze", | |
| "Reshape", | |
| "LessOrEqual", | |
| "ReduceMean", | |
| "Transpose", | |
| "Cast", | |
| "Min", | |
| "Tile", | |
| "Concat", | |
| "Sub", | |
| "Div", | |
| "Mul", | |
| "Less", | |
| "ConstantOfShape", | |
| "Expand", | |
| "Pow", | |
| "MatMul", | |
| "Shape", | |
| "Sqrt", | |
| "Relu", | |
| "Where", | |
| "Range", | |
| "Neg", | |
| "Softmax", | |
| "Constant" | |
| ], | |
| "weight_type": "QInt8" | |
| }, | |
| "encoder_model": { | |
| "op_types": [ | |
| "Gather", | |
| "Add", | |
| "Log", | |
| "Unsqueeze", | |
| "Reshape", | |
| "ReduceMean", | |
| "Transpose", | |
| "Cast", | |
| "Min", | |
| "Concat", | |
| "Sub", | |
| "Div", | |
| "Mul", | |
| "Less", | |
| "ConstantOfShape", | |
| "Pow", | |
| "MatMul", | |
| "Shape", | |
| "Sqrt", | |
| "Relu", | |
| "Where", | |
| "Range", | |
| "Abs", | |
| "Greater", | |
| "Softmax", | |
| "Constant" | |
| ], | |
| "weight_type": "QInt8" | |
| }, | |
| "decoder_model_merged": { | |
| "op_types": [ | |
| "Gather", | |
| "Add", | |
| "Log", | |
| "Unsqueeze", | |
| "Reshape", | |
| "LessOrEqual", | |
| "ReduceMean", | |
| "Transpose", | |
| "Cast", | |
| "Min", | |
| "If", | |
| "Tile", | |
| "Concat", | |
| "Sub", | |
| "Div", | |
| "Mul", | |
| "Less", | |
| "ConstantOfShape", | |
| "Expand", | |
| "Pow", | |
| "Slice", | |
| "MatMul", | |
| "Shape", | |
| "Sqrt", | |
| "Relu", | |
| "Where", | |
| "Range", | |
| "Neg", | |
| "Softmax", | |
| "Constant" | |
| ], | |
| "weight_type": "QInt8" | |
| }, | |
| "decoder_with_past_model": { | |
| "op_types": [ | |
| "Gather", | |
| "Add", | |
| "Log", | |
| "Unsqueeze", | |
| "Reshape", | |
| "LessOrEqual", | |
| "ReduceMean", | |
| "Transpose", | |
| "Cast", | |
| "Min", | |
| "Tile", | |
| "Concat", | |
| "Sub", | |
| "Div", | |
| "Mul", | |
| "Less", | |
| "ConstantOfShape", | |
| "Expand", | |
| "Pow", | |
| "Slice", | |
| "MatMul", | |
| "Shape", | |
| "Sqrt", | |
| "Relu", | |
| "Where", | |
| "Range", | |
| "Neg", | |
| "Softmax", | |
| "Constant" | |
| ], | |
| "weight_type": "QInt8" | |
| } | |
| } | |
| } |