<commit_before># coding: utf-8
import json
import re

from lxml import etree

from kpi.constants import INSTANCE_FORMAT_TYPE_XML
from kpi.utils.strings import to_str
from .hook_test_case import HookTestCase


class ParserTestCase(HookTestCase):

    def test_json_parser(self):
        hook = self._create_hook(subset_fields=['_id', 'subgroup1', 'q3'])

        ServiceDefinition = hook.get_service_definition()
        submissions = hook.asset.deployment.get_submissions(hook.asset.owner.id)
        uuid = submissions[0].get(hook.asset.deployment.INSTANCE_ID_FIELDNAME)
        service_definition = ServiceDefinition(hook, uuid)
        expected_data = {
            'group1/q3': u'¿Cómo está en el grupo uno la segunda vez?',
            'group2/subgroup1/q4': u'¿Cómo está en el subgrupo uno la primera vez?',
            'group2/subgroup1/q5': u'¿Cómo está en el subgrupo uno la segunda vez?',
            'group2/subgroup1/q6': u'¿Cómo está en el subgrupo uno la tercera vez?',
            '_id': 1
        }
        self.assertEqual(service_definition._get_data(), expected_data)

    def test_xml_parser(self):
        self.asset_xml = self.create_asset(
            "some_asset_with_xml_submissions",
            content=json.dumps(self.asset.content),
            format="json")
        self.asset_xml.deploy(backend='mock', active=True)
        self.asset_xml.save()

        hook = self._create_hook(subset_fields=['_id', 'subgroup1', 'q3'],
                                 format_type=INSTANCE_FORMAT_TYPE_XML)

        ServiceDefinition = hook.get_service_definition()
        submissions = hook.asset.deployment.get_submissions(
            self.asset.owner.id, format_type=INSTANCE_FORMAT_TYPE_XML)
        xml_doc = etree.fromstring(submissions[0])
        tree = etree.ElementTree(xml_doc)
        uuid = tree.find(hook.asset.deployment.INSTANCE_ID_FIELDNAME).text

        service_definition = ServiceDefinition(hook, uuid)
        expected_etree = etree.fromstring(
            ('<{asset_uid}>'
             '   <group1>'
             '      <q3>¿Cómo está en el grupo uno la segunda vez?</q3>'
             '   </group1>'
             '   <group2>'
             '      <subgroup1>'
             '          <q4>¿Cómo está en el subgrupo uno la primera vez?</q4>'
             '          <q5>¿Cómo está en el subgrupo uno la segunda vez?</q5>'
             '          <q6>¿Cómo está en el subgrupo uno la tercera vez?</q6>'
             '      </subgroup1>'
             '   </group2>'
             '   <_id>{id}</_id>'
             '</{asset_uid}>').format(
                asset_uid=self.asset_xml.uid,
                id=uuid)
        )
        expected_xml = etree.tostring(expected_etree, pretty_print=True)

        def remove_whitespace(str_):<commit_msg>Fixed: Hook parser test fails because of missing xml declaration<commit_after># coding: utf-8
import json
import re

from lxml import etree

from kpi.constants import INSTANCE_FORMAT_TYPE_XML
from kpi.utils.strings import to_str
from .hook_test_case import HookTestCase


class ParserTestCase(HookTestCase):

    def test_json_parser(self):
        hook = self._create_hook(subset_fields=['_id', 'subgroup1', 'q3'])

        ServiceDefinition = hook.get_service_definition()
        submissions = hook.asset.deployment.get_submissions(hook.asset.owner.id)
        uuid = submissions[0].get(hook.asset.deployment.INSTANCE_ID_FIELDNAME)
        service_definition = ServiceDefinition(hook, uuid)
        expected_data = {
            'group1/q3': u'¿Cómo está en el grupo uno la segunda vez?',
            'group2/subgroup1/q4': u'¿Cómo está en el subgrupo uno la primera vez?',
            'group2/subgroup1/q5': u'¿Cómo está en el subgrupo uno la segunda vez?',
            'group2/subgroup1/q6': u'¿Cómo está en el subgrupo uno la tercera vez?',
            '_id': 1
        }
        self.assertEqual(service_definition._get_data(), expected_data)

    def test_xml_parser(self):
        self.asset_xml = self.create_asset(
            "some_asset_with_xml_submissions",
            content=json.dumps(self.asset.content),
            format="json")
        self.asset_xml.deploy(backend='mock', active=True)
        self.asset_xml.save()

        hook = self._create_hook(subset_fields=['_id', 'subgroup1', 'q3'],
                                 format_type=INSTANCE_FORMAT_TYPE_XML)

        ServiceDefinition = hook.get_service_definition()
        submissions = hook.asset.deployment.get_submissions(
            self.asset.owner.id, format_type=INSTANCE_FORMAT_TYPE_XML)
        xml_doc = etree.fromstring(submissions[0])
        tree = etree.ElementTree(xml_doc)
        uuid = tree.find(hook.asset.deployment.INSTANCE_ID_FIELDNAME).text

        service_definition = ServiceDefinition(hook, uuid)
        expected_etree = etree.fromstring(
            ('<{asset_uid}>'
             '   <group1>'
             '      <q3>¿Cómo está en el grupo uno la segunda vez?</q3>'
             '   </group1>'
             '   <group2>'
             '      <subgroup1>'
             '          <q4>¿Cómo está en el subgrupo uno la primera vez?</q4>'
             '          <q5>¿Cómo está en el subgrupo uno la segunda vez?</q5>'
             '          <q6>¿Cómo está en el subgrupo uno la tercera vez?</q6>'
             '      </subgroup1>'
             '   </group2>'
             '   <_id>{id}</_id>'
             '</{asset_uid}>').format(
                asset_uid=self.asset_xml.uid,
                id=uuid)
        )
        expected_xml = etree.tostring(expected_etree, pretty_print=True,
                                      xml_declaration=True, encoding='utf-8')

        def remove_whitespace(str_):
{'fraction_non_alphanumeric': 0.108554365009661, 'fraction_numerical': 0.011768838924995608, 'mean_word_length': 2.251856082238721, 'pattern_counts': {'":': 0, '<': 39, '<?xml version=': 0, '>': 39, 'https://': 0, 'lorem ipsum': 0, 'www.': 0, 'xml': 22}, 'pii_count': 0, 'substrings_counts': 0, 'word_list_counts': {'cursed_substrings.json': 3, 'profanity_word_list.json': 0, 'sexual_word_list.json': 0, 'zh_pornsignals.json': 0}}
{'dir': 'git-commits-cleaned', 'id': '5268141', 'n_tokens_mistral': 1778, 'n_tokens_neox': 1778, 'n_words': 348}