parquet-converter commited on
Commit
7271baf
1 Parent(s): 591204e

Update parquet files

Browse files
README.md DELETED
@@ -1,3 +0,0 @@
1
- ---
2
- license: cc-by-4.0
3
- ---
 
 
 
 
skladnica_dev.jsonl.gz → skladnica_brackets/skladnica_demo-test.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:3470c05ee396d83679d0b722c5ff65f2c5c3095da0478aacc505795cc6ebab9a
3
- size 348489
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2bbdca09f79d19019e145ad8866216e312213269e344b331e7dc6a9204a27bb3
3
+ size 446721
skladnica_train.jsonl.gz → skladnica_brackets/skladnica_demo-train.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:4df7129ed76c1997743594d22962e40ccb9483d7f250077a7f6a7918357293d6
3
- size 3147017
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cea3179616abe0ff36f9593a347689752e1987ecdc26458afd35aa5b53efcd0d
3
+ size 2984443
skladnica_test.jsonl.gz → skladnica_brackets/skladnica_demo-validation.parquet RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:4386d200dd622ab80d2b0e19748ca58853e2a7451436f7f86ee6c62e972ab387
3
- size 408935
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c8d41904500856de1cfad5ef1ce0700af59634e314ec343a93b1ac8674ea2e11
3
+ size 383716
skladnica_demo.py DELETED
@@ -1,940 +0,0 @@
1
- # coding=utf-8
2
- # Copyright 2020 HuggingFace Datasets Authors.
3
- #
4
- # Licensed under the Apache License, Version 2.0 (the "License");
5
- # you may not use this file except in compliance with the License.
6
- # You may obtain a copy of the License at
7
- #
8
- # http://www.apache.org/licenses/LICENSE-2.0
9
- #
10
- # Unless required by applicable law or agreed to in writing, software
11
- # distributed under the License is distributed on an "AS IS" BASIS,
12
- # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13
- # See the License for the specific language governing permissions and
14
- # limitations under the License.
15
-
16
- # Lint as: python3
17
- """Składnica constituency treebank of Polish"""
18
-
19
- import datasets
20
- import json
21
-
22
-
23
- logger = datasets.logging.get_logger(__name__)
24
-
25
-
26
- _CITATION = """\
27
- @article{
28
- }
29
- """
30
-
31
- _DESCRIPTION = """\
32
-
33
- """
34
-
35
- _URLS = {
36
- 'train': "skladnica_train.jsonl.gz",
37
- 'dev': "skladnica_dev.jsonl.gz",
38
- 'test': "skladnica_test.jsonl.gz",
39
- }
40
-
41
-
42
- class SkladnicaConfig(datasets.BuilderConfig):
43
- """BuilderConfig for Skladnica"""
44
-
45
- def __init__(self, **kwargs):
46
- """BuilderConfig forSkladnica.
47
-
48
- Args:
49
- **kwargs: keyword arguments forwarded to super.
50
- """
51
- super(SkladnicaConfig, self).__init__(**kwargs)
52
-
53
-
54
- class Skladnica(datasets.GeneratorBasedBuilder):
55
- """Skladnica dataset."""
56
-
57
- BUILDER_CONFIGS = [
58
- SkladnicaConfig(name="skladnica_brackets",
59
- version=datasets.Version("0.7.0"),
60
- description="Skladnica dataset"),
61
- ]
62
-
63
- def _info(self):
64
- return datasets.DatasetInfo(
65
- description=_DESCRIPTION,
66
- features=datasets.Features(
67
- {
68
- "nkjp_text": datasets.Value("string"),
69
- "nkjp_par": datasets.Value("string"),
70
- "nkjp_sent": datasets.Value("string"),
71
- "tokens": datasets.Sequence(datasets.Value("string")),
72
- "lemmas": datasets.Sequence(datasets.Value("string")),
73
- "cposes": datasets.Sequence(
74
- datasets.features.ClassLabel(
75
- names=[
76
- 'A',
77
- 'Adv',
78
- 'Comp',
79
- 'Conj',
80
- 'Dig',
81
- 'Interj',
82
- 'Num',
83
- 'Prep',
84
- 'Punct',
85
- 'S',
86
- 'V',
87
- 'X',
88
- ]
89
- )
90
- ),
91
- "poses": datasets.Sequence(
92
- datasets.features.ClassLabel(
93
- names=[
94
- 'adj',
95
- 'adja',
96
- 'adjc',
97
- 'adjp',
98
- 'adv',
99
- 'aglt',
100
- 'bedzie',
101
- 'brev',
102
- 'comp',
103
- 'conj',
104
- 'depr',
105
- 'dig',
106
- 'fin',
107
- 'frag',
108
- 'ger',
109
- 'imps',
110
- 'impt',
111
- 'inf',
112
- 'interj',
113
- 'interp',
114
- 'num',
115
- 'numcomp',
116
- 'pact',
117
- 'pacta',
118
- 'pant',
119
- 'part',
120
- 'pcon',
121
- 'ppas',
122
- 'ppron12',
123
- 'ppron3',
124
- 'praet',
125
- 'pred',
126
- 'prep',
127
- 'romandig',
128
- 'siebie',
129
- 'subst',
130
- 'sym',
131
- 'winien',
132
- 'xxs',
133
- 'xxx'
134
- ])),
135
- "tags": datasets.Sequence(
136
- datasets.features.ClassLabel(
137
- names=[
138
- 'adja',
139
- 'adjc',
140
- 'adjp:dat',
141
- 'adjp:gen',
142
- 'adj:pl:acc:f:com',
143
- 'adj:pl:acc:f:pos',
144
- 'adj:pl:acc:f:sup',
145
- 'adj:pl:acc:m1:com',
146
- 'adj:pl:acc:m1:pos',
147
- 'adj:pl:acc:m1:sup',
148
- 'adj:pl:acc:m2:pos',
149
- 'adj:pl:acc:m3:com',
150
- 'adj:pl:acc:m3:pos',
151
- 'adj:pl:acc:m3:sup',
152
- 'adj:pl:acc:n:com',
153
- 'adj:pl:acc:n:pos',
154
- 'adj:pl:acc:n:sup',
155
- 'adj:pl:dat:f:pos',
156
- 'adj:pl:dat:m1:pos',
157
- 'adj:pl:dat:m1:sup',
158
- 'adj:pl:dat:m2:pos',
159
- 'adj:pl:dat:m3:pos',
160
- 'adj:pl:dat:n:pos',
161
- 'adj:pl:dat:n:sup',
162
- 'adj:pl:gen:f:com',
163
- 'adj:pl:gen:f:pos',
164
- 'adj:pl:gen:f:sup',
165
- 'adj:pl:gen:m1:com',
166
- 'adj:pl:gen:m1:pos',
167
- 'adj:pl:gen:m1:sup',
168
- 'adj:pl:gen:m2:pos',
169
- 'adj:pl:gen:m3:com',
170
- 'adj:pl:gen:m3:pos',
171
- 'adj:pl:gen:m3:sup',
172
- 'adj:pl:gen:n:com',
173
- 'adj:pl:gen:n:pos',
174
- 'adj:pl:gen:n:sup',
175
- 'adj:pl:inst:f:com',
176
- 'adj:pl:inst:f:pos',
177
- 'adj:pl:inst:m1:pos',
178
- 'adj:pl:inst:m1:sup',
179
- 'adj:pl:inst:m2:pos',
180
- 'adj:pl:inst:m3:pos',
181
- 'adj:pl:inst:m3:sup',
182
- 'adj:pl:inst:n:com',
183
- 'adj:pl:inst:n:pos',
184
- 'adj:pl:inst:n:sup',
185
- 'adj:pl:loc:f:com',
186
- 'adj:pl:loc:f:pos',
187
- 'adj:pl:loc:f:sup',
188
- 'adj:pl:loc:m1:pos',
189
- 'adj:pl:loc:m1:sup',
190
- 'adj:pl:loc:m2:pos',
191
- 'adj:pl:loc:m3:com',
192
- 'adj:pl:loc:m3:pos',
193
- 'adj:pl:loc:m3:sup',
194
- 'adj:pl:loc:n:com',
195
- 'adj:pl:loc:n:pos',
196
- 'adj:pl:loc:n:sup',
197
- 'adj:pl:nom:f:com',
198
- 'adj:pl:nom:f:pos',
199
- 'adj:pl:nom:f:sup',
200
- 'adj:pl:nom:m1:com',
201
- 'adj:pl:nom:m1:pos',
202
- 'adj:pl:nom:m1:sup',
203
- 'adj:pl:nom:m2:pos',
204
- 'adj:pl:nom:m3:com',
205
- 'adj:pl:nom:m3:pos',
206
- 'adj:pl:nom:m3:sup',
207
- 'adj:pl:nom:n:com',
208
- 'adj:pl:nom:n:pos',
209
- 'adj:pl:nom:n:sup',
210
- 'adj:sg:acc:f:com',
211
- 'adj:sg:acc:f:pos',
212
- 'adj:sg:acc:f:sup',
213
- 'adj:sg:acc:m1:com',
214
- 'adj:sg:acc:m1:pos',
215
- 'adj:sg:acc:m1:sup',
216
- 'adj:sg:acc:m2:com',
217
- 'adj:sg:acc:m2:pos',
218
- 'adj:sg:acc:m3:com',
219
- 'adj:sg:acc:m3:pos',
220
- 'adj:sg:acc:m3:sup',
221
- 'adj:sg:acc:n:com',
222
- 'adj:sg:acc:n:pos',
223
- 'adj:sg:acc:n:sup',
224
- 'adj:sg:dat:f:com',
225
- 'adj:sg:dat:f:pos',
226
- 'adj:sg:dat:m1:pos',
227
- 'adj:sg:dat:m2:pos',
228
- 'adj:sg:dat:m3:pos',
229
- 'adj:sg:dat:m3:sup',
230
- 'adj:sg:dat:n:pos',
231
- 'adj:sg:gen:f:com',
232
- 'adj:sg:gen:f:pos',
233
- 'adj:sg:gen:f:sup',
234
- 'adj:sg:gen:m1:com',
235
- 'adj:sg:gen:m1:pos',
236
- 'adj:sg:gen:m1:sup',
237
- 'adj:sg:gen:m2:pos',
238
- 'adj:sg:gen:m3:com',
239
- 'adj:sg:gen:m3:pos',
240
- 'adj:sg:gen:m3:sup',
241
- 'adj:sg:gen:n:com',
242
- 'adj:sg:gen:n:pos',
243
- 'adj:sg:gen:n:sup',
244
- 'adj:sg:inst:f:com',
245
- 'adj:sg:inst:f:pos',
246
- 'adj:sg:inst:f:sup',
247
- 'adj:sg:inst:m1:com',
248
- 'adj:sg:inst:m1:pos',
249
- 'adj:sg:inst:m1:sup',
250
- 'adj:sg:inst:m2:pos',
251
- 'adj:sg:inst:m3:com',
252
- 'adj:sg:inst:m3:pos',
253
- 'adj:sg:inst:m3:sup',
254
- 'adj:sg:inst:n:com',
255
- 'adj:sg:inst:n:pos',
256
- 'adj:sg:inst:n:sup',
257
- 'adj:sg:loc:f:com',
258
- 'adj:sg:loc:f:pos',
259
- 'adj:sg:loc:f:sup',
260
- 'adj:sg:loc:m1:com',
261
- 'adj:sg:loc:m1:pos',
262
- 'adj:sg:loc:m2:pos',
263
- 'adj:sg:loc:m3:com',
264
- 'adj:sg:loc:m3:pos',
265
- 'adj:sg:loc:m3:sup',
266
- 'adj:sg:loc:n:com',
267
- 'adj:sg:loc:n:pos',
268
- 'adj:sg:loc:n:sup',
269
- 'adj:sg:nom:f:com',
270
- 'adj:sg:nom:f:pos',
271
- 'adj:sg:nom:f:sup',
272
- 'adj:sg:nom:m1:com',
273
- 'adj:sg:nom:m1:pos',
274
- 'adj:sg:nom:m1:sup',
275
- 'adj:sg:nom:m2:pos',
276
- 'adj:sg:nom:m3:com',
277
- 'adj:sg:nom:m3:pos',
278
- 'adj:sg:nom:m3:sup',
279
- 'adj:sg:nom:n:com',
280
- 'adj:sg:nom:n:pos',
281
- 'adj:sg:nom:n:sup',
282
- 'adj:sg:voc:f:pos',
283
- 'adj:sg:voc:m1:pos',
284
- 'adj:sg:voc:m3:pos',
285
- 'adv',
286
- 'adv:com',
287
- 'adv:pos',
288
- 'adv:sup',
289
- 'aglt:pl:pri:imperf:nwok',
290
- 'aglt:pl:sec:imperf:nwok',
291
- 'aglt:sg:pri:imperf:nwok',
292
- 'aglt:sg:pri:imperf:wok',
293
- 'aglt:sg:sec:imperf:nwok',
294
- 'aglt:sg:sec:imperf:wok',
295
- 'bedzie:pl:pri:imperf',
296
- 'bedzie:pl:ter:imperf',
297
- 'bedzie:sg:pri:imperf',
298
- 'bedzie:sg:sec:imperf',
299
- 'bedzie:sg:ter:imperf',
300
- 'brev:npun',
301
- 'brev:pun',
302
- 'comp',
303
- 'conj',
304
- 'depr:pl:acc:m2',
305
- 'depr:pl:nom:m2',
306
- 'depr:pl:voc:m2',
307
- 'dig',
308
- 'fin:pl:pri:imperf',
309
- 'fin:pl:pri:perf',
310
- 'fin:pl:sec:imperf',
311
- 'fin:pl:sec:perf',
312
- 'fin:pl:ter:imperf',
313
- 'fin:pl:ter:perf',
314
- 'fin:sg:pri:imperf',
315
- 'fin:sg:pri:perf',
316
- 'fin:sg:sec:imperf',
317
- 'fin:sg:sec:perf',
318
- 'fin:sg:ter:imperf',
319
- 'fin:sg:ter:perf',
320
- 'frag',
321
- 'ger:pl:acc:n:imperf:aff',
322
- 'ger:pl:acc:n:perf:aff',
323
- 'ger:pl:gen:n:imperf:aff',
324
- 'ger:pl:gen:n:perf:aff',
325
- 'ger:pl:loc:n:imperf:aff',
326
- 'ger:pl:loc:n:perf:aff',
327
- 'ger:pl:nom:n:imperf:aff',
328
- 'ger:pl:nom:n:perf:aff',
329
- 'ger:sg:acc:n:imperf:aff',
330
- 'ger:sg:acc:n:imperf:neg',
331
- 'ger:sg:acc:n:perf:aff',
332
- 'ger:sg:acc:n:perf:neg',
333
- 'ger:sg:dat:n:imperf:aff',
334
- 'ger:sg:dat:n:perf:aff',
335
- 'ger:sg:gen:n:imperf:aff',
336
- 'ger:sg:gen:n:imperf:neg',
337
- 'ger:sg:gen:n:perf:aff',
338
- 'ger:sg:gen:n:perf:neg',
339
- 'ger:sg:inst:n:imperf:aff',
340
- 'ger:sg:inst:n:perf:aff',
341
- 'ger:sg:loc:n:imperf:aff',
342
- 'ger:sg:loc:n:perf:aff',
343
- 'ger:sg:nom:n:imperf:aff',
344
- 'ger:sg:nom:n:imperf:neg',
345
- 'ger:sg:nom:n:perf:aff',
346
- 'ger:sg:nom:n:perf:neg',
347
- 'imps:imperf',
348
- 'imps:perf',
349
- 'impt:pl:pri:imperf',
350
- 'impt:pl:pri:perf',
351
- 'impt:pl:sec:imperf',
352
- 'impt:pl:sec:perf',
353
- 'impt:sg:sec:imperf',
354
- 'impt:sg:sec:perf',
355
- 'inf:imperf',
356
- 'inf:perf',
357
- 'interj',
358
- 'interp',
359
- 'numcomp',
360
- 'num:pl:acc:f:congr:ncol',
361
- 'num:pl:acc:f:rec',
362
- 'num:pl:acc:f:rec:ncol',
363
- 'num:pl:acc:m1:rec',
364
- 'num:pl:acc:m1:rec:ncol',
365
- 'num:pl:acc:m2:congr:ncol',
366
- 'num:pl:acc:m2:rec',
367
- 'num:pl:acc:m2:rec:ncol',
368
- 'num:pl:acc:m3:congr:ncol',
369
- 'num:pl:acc:m3:rec',
370
- 'num:pl:acc:m3:rec:ncol',
371
- 'num:pl:acc:n:congr:ncol',
372
- 'num:pl:acc:n:rec',
373
- 'num:pl:acc:n:rec:ncol',
374
- 'num:pl:dat:f:congr',
375
- 'num:pl:dat:f:congr:ncol',
376
- 'num:pl:dat:m1:congr',
377
- 'num:pl:dat:m1:congr:ncol',
378
- 'num:pl:dat:m3:congr:ncol',
379
- 'num:pl:dat:n:congr',
380
- 'num:pl:gen:f:congr',
381
- 'num:pl:gen:f:congr:ncol',
382
- 'num:pl:gen:m1:congr',
383
- 'num:pl:gen:m1:congr:ncol',
384
- 'num:pl:gen:m2:congr',
385
- 'num:pl:gen:m2:congr:ncol',
386
- 'num:pl:gen:m3:congr',
387
- 'num:pl:gen:m3:congr:ncol',
388
- 'num:pl:gen:m3:rec',
389
- 'num:pl:gen:m3:rec:ncol',
390
- 'num:pl:gen:n:congr',
391
- 'num:pl:gen:n:congr:ncol',
392
- 'num:pl:gen:n:rec',
393
- 'num:pl:inst:f:congr',
394
- 'num:pl:inst:f:congr:ncol',
395
- 'num:pl:inst:m1:congr:ncol',
396
- 'num:pl:inst:m2:congr:ncol',
397
- 'num:pl:inst:m3:congr:ncol',
398
- 'num:pl:inst:n:congr:ncol',
399
- 'num:pl:loc:f:congr',
400
- 'num:pl:loc:f:congr:ncol',
401
- 'num:pl:loc:m3:congr',
402
- 'num:pl:loc:m3:congr:ncol',
403
- 'num:pl:loc:n:congr',
404
- 'num:pl:loc:n:congr:ncol',
405
- 'num:pl:nom:f:congr:ncol',
406
- 'num:pl:nom:f:rec',
407
- 'num:pl:nom:f:rec:ncol',
408
- 'num:pl:nom:m1:congr:ncol',
409
- 'num:pl:nom:m1:rec',
410
- 'num:pl:nom:m1:rec:ncol',
411
- 'num:pl:nom:m2:congr:ncol',
412
- 'num:pl:nom:m2:rec',
413
- 'num:pl:nom:m2:rec:ncol',
414
- 'num:pl:nom:m3:congr:ncol',
415
- 'num:pl:nom:m3:rec',
416
- 'num:pl:nom:m3:rec:ncol',
417
- 'num:pl:nom:n:congr:ncol',
418
- 'num:pl:nom:n:rec',
419
- 'num:pl:nom:n:rec:ncol',
420
- 'num:sg:acc:f:rec',
421
- 'num:sg:acc:f:rec:ncol',
422
- 'num:sg:acc:m3:rec',
423
- 'num:sg:acc:m3:rec:ncol',
424
- 'num:sg:acc:n:rec',
425
- 'num:sg:gen:m3:rec',
426
- 'num:sg:inst:m3:rec',
427
- 'num:sg:loc:m3:rec',
428
- 'num:sg:nom:f:rec',
429
- 'num:sg:nom:m3:rec',
430
- 'pact:pl:acc:f:imperf:aff',
431
- 'pact:pl:acc:m1:imperf:aff',
432
- 'pact:pl:acc:m2:imperf:aff',
433
- 'pact:pl:acc:m3:imperf:aff',
434
- 'pact:pl:acc:n:imperf:aff',
435
- 'pact:pl:dat:f:imperf:aff',
436
- 'pact:pl:dat:m1:imperf:aff',
437
- 'pact:pl:dat:m3:imperf:aff',
438
- 'pact:pl:dat:n:imperf:aff',
439
- 'pact:pl:gen:f:imperf:aff',
440
- 'pact:pl:gen:m1:imperf:aff',
441
- 'pact:pl:gen:m2:imperf:aff',
442
- 'pact:pl:gen:m3:imperf:aff',
443
- 'pact:pl:gen:n:imperf:aff',
444
- 'pact:pl:inst:f:imperf:aff',
445
- 'pact:pl:inst:m1:imperf:aff',
446
- 'pact:pl:inst:m2:imperf:aff',
447
- 'pact:pl:inst:m3:imperf:aff',
448
- 'pact:pl:inst:n:imperf:aff',
449
- 'pact:pl:loc:f:imperf:aff',
450
- 'pact:pl:loc:m3:imperf:aff',
451
- 'pact:pl:loc:n:imperf:aff',
452
- 'pact:pl:loc:n:imperf:neg',
453
- 'pact:pl:nom:f:imperf:aff',
454
- 'pact:pl:nom:m1:imperf:aff',
455
- 'pact:pl:nom:m2:imperf:aff',
456
- 'pact:pl:nom:m3:imperf:aff',
457
- 'pact:pl:nom:n:imperf:aff',
458
- 'pact:sg:acc:f:imperf:aff',
459
- 'pact:sg:acc:m1:imperf:aff',
460
- 'pact:sg:acc:m2:imperf:aff',
461
- 'pact:sg:acc:m3:imperf:aff',
462
- 'pact:sg:acc:n:imperf:aff',
463
- 'pact:sg:dat:f:imperf:aff',
464
- 'pact:sg:dat:m1:imperf:aff',
465
- 'pact:sg:gen:f:imperf:aff',
466
- 'pact:sg:gen:m1:imperf:aff',
467
- 'pact:sg:gen:m2:imperf:aff',
468
- 'pact:sg:gen:m3:imperf:aff',
469
- 'pact:sg:gen:n:imperf:aff',
470
- 'pact:sg:inst:f:imperf:aff',
471
- 'pact:sg:inst:m1:imperf:aff',
472
- 'pact:sg:inst:m2:imperf:aff',
473
- 'pact:sg:inst:m3:imperf:aff',
474
- 'pact:sg:inst:n:imperf:aff',
475
- 'pact:sg:loc:f:imperf:aff',
476
- 'pact:sg:loc:m3:imperf:aff',
477
- 'pact:sg:loc:n:imperf:aff',
478
- 'pact:sg:nom:f:imperf:aff',
479
- 'pact:sg:nom:m1:imperf:aff',
480
- 'pact:sg:nom:m2:imperf:aff',
481
- 'pact:sg:nom:m3:imperf:aff',
482
- 'pact:sg:nom:n:imperf:aff',
483
- 'pant:perf',
484
- 'part',
485
- 'part:nwok',
486
- 'pcon:imperf',
487
- 'ppas:pl:acc:f:imperf:aff',
488
- 'ppas:pl:acc:f:perf:aff',
489
- 'ppas:pl:acc:m1:perf:aff',
490
- 'ppas:pl:acc:m2:perf:aff',
491
- 'ppas:pl:acc:m3:imperf:aff',
492
- 'ppas:pl:acc:m3:perf:aff',
493
- 'ppas:pl:acc:n:imperf:aff',
494
- 'ppas:pl:acc:n:perf:aff',
495
- 'ppas:pl:dat:f:imperf:aff',
496
- 'ppas:pl:dat:f:perf:aff',
497
- 'ppas:pl:dat:m1:perf:aff',
498
- 'ppas:pl:dat:m3:perf:aff',
499
- 'ppas:pl:dat:n:perf:aff',
500
- 'ppas:pl:gen:f:imperf:aff',
501
- 'ppas:pl:gen:f:perf:aff',
502
- 'ppas:pl:gen:f:perf:neg',
503
- 'ppas:pl:gen:m1:imperf:aff',
504
- 'ppas:pl:gen:m1:perf:aff',
505
- 'ppas:pl:gen:m2:imperf:aff',
506
- 'ppas:pl:gen:m2:perf:aff',
507
- 'ppas:pl:gen:m3:imperf:aff',
508
- 'ppas:pl:gen:m3:imperf:neg',
509
- 'ppas:pl:gen:m3:perf:aff',
510
- 'ppas:pl:gen:m3:perf:neg',
511
- 'ppas:pl:gen:n:imperf:aff',
512
- 'ppas:pl:gen:n:perf:aff',
513
- 'ppas:pl:inst:f:perf:aff',
514
- 'ppas:pl:inst:m1:imperf:aff',
515
- 'ppas:pl:inst:m1:perf:aff',
516
- 'ppas:pl:inst:m3:imperf:aff',
517
- 'ppas:pl:inst:m3:perf:aff',
518
- 'ppas:pl:inst:n:perf:aff',
519
- 'ppas:pl:loc:f:imperf:aff',
520
- 'ppas:pl:loc:f:perf:aff',
521
- 'ppas:pl:loc:m1:imperf:aff',
522
- 'ppas:pl:loc:m1:perf:aff',
523
- 'ppas:pl:loc:m3:imperf:aff',
524
- 'ppas:pl:loc:m3:perf:aff',
525
- 'ppas:pl:loc:m3:perf:neg',
526
- 'ppas:pl:loc:n:imperf:aff',
527
- 'ppas:pl:loc:n:perf:aff',
528
- 'ppas:pl:nom:f:imperf:aff',
529
- 'ppas:pl:nom:f:perf:aff',
530
- 'ppas:pl:nom:f:perf:neg',
531
- 'ppas:pl:nom:m1:imperf:aff',
532
- 'ppas:pl:nom:m1:imperf:neg',
533
- 'ppas:pl:nom:m1:perf:aff',
534
- 'ppas:pl:nom:m1:perf:neg',
535
- 'ppas:pl:nom:m2:imperf:aff',
536
- 'ppas:pl:nom:m2:perf:aff',
537
- 'ppas:pl:nom:m3:imperf:aff',
538
- 'ppas:pl:nom:m3:perf:aff',
539
- 'ppas:pl:nom:m3:perf:neg',
540
- 'ppas:pl:nom:n:imperf:aff',
541
- 'ppas:pl:nom:n:perf:aff',
542
- 'ppas:sg:acc:f:imperf:aff',
543
- 'ppas:sg:acc:f:imperf:neg',
544
- 'ppas:sg:acc:f:perf:aff',
545
- 'ppas:sg:acc:f:perf:neg',
546
- 'ppas:sg:acc:m1:imperf:aff',
547
- 'ppas:sg:acc:m1:perf:aff',
548
- 'ppas:sg:acc:m3:imperf:aff',
549
- 'ppas:sg:acc:m3:perf:aff',
550
- 'ppas:sg:acc:n:imperf:aff',
551
- 'ppas:sg:acc:n:perf:aff',
552
- 'ppas:sg:dat:f:imperf:aff',
553
- 'ppas:sg:dat:f:perf:aff',
554
- 'ppas:sg:dat:m1:imperf:aff',
555
- 'ppas:sg:dat:m1:perf:aff',
556
- 'ppas:sg:dat:n:perf:aff',
557
- 'ppas:sg:gen:f:imperf:aff',
558
- 'ppas:sg:gen:f:perf:aff',
559
- 'ppas:sg:gen:m1:imperf:aff',
560
- 'ppas:sg:gen:m1:perf:aff',
561
- 'ppas:sg:gen:m1:perf:neg',
562
- 'ppas:sg:gen:m2:perf:aff',
563
- 'ppas:sg:gen:m3:imperf:aff',
564
- 'ppas:sg:gen:m3:perf:aff',
565
- 'ppas:sg:gen:m3:perf:neg',
566
- 'ppas:sg:gen:n:imperf:aff',
567
- 'ppas:sg:gen:n:perf:aff',
568
- 'ppas:sg:inst:f:imperf:aff',
569
- 'ppas:sg:inst:f:imperf:neg',
570
- 'ppas:sg:inst:f:perf:aff',
571
- 'ppas:sg:inst:m1:imperf:aff',
572
- 'ppas:sg:inst:m1:perf:aff',
573
- 'ppas:sg:inst:m2:perf:aff',
574
- 'ppas:sg:inst:m3:imperf:aff',
575
- 'ppas:sg:inst:m3:imperf:neg',
576
- 'ppas:sg:inst:m3:perf:aff',
577
- 'ppas:sg:inst:n:imperf:aff',
578
- 'ppas:sg:inst:n:perf:aff',
579
- 'ppas:sg:inst:n:perf:neg',
580
- 'ppas:sg:loc:f:imperf:aff',
581
- 'ppas:sg:loc:f:perf:aff',
582
- 'ppas:sg:loc:m1:perf:aff',
583
- 'ppas:sg:loc:m3:imperf:aff',
584
- 'ppas:sg:loc:m3:imperf:neg',
585
- 'ppas:sg:loc:m3:perf:aff',
586
- 'ppas:sg:loc:n:imperf:aff',
587
- 'ppas:sg:loc:n:perf:aff',
588
- 'ppas:sg:nom:f:imperf:aff',
589
- 'ppas:sg:nom:f:imperf:neg',
590
- 'ppas:sg:nom:f:perf:aff',
591
- 'ppas:sg:nom:f:perf:neg',
592
- 'ppas:sg:nom:m1:imperf:aff',
593
- 'ppas:sg:nom:m1:imperf:neg',
594
- 'ppas:sg:nom:m1:perf:aff',
595
- 'ppas:sg:nom:m2:imperf:aff',
596
- 'ppas:sg:nom:m2:perf:aff',
597
- 'ppas:sg:nom:m3:imperf:aff',
598
- 'ppas:sg:nom:m3:perf:aff',
599
- 'ppas:sg:nom:m3:perf:neg',
600
- 'ppas:sg:nom:n:imperf:aff',
601
- 'ppas:sg:nom:n:perf:aff',
602
- 'ppas:sg:nom:n:perf:neg',
603
- 'ppron12:pl:acc:m1:pri',
604
- 'ppron12:pl:acc:m1:sec',
605
- 'ppron12:pl:dat:f:pri',
606
- 'ppron12:pl:dat:f:sec',
607
- 'ppron12:pl:dat:m1:pri',
608
- 'ppron12:pl:dat:m1:sec',
609
- 'ppron12:pl:gen:f:pri',
610
- 'ppron12:pl:gen:m1:pri',
611
- 'ppron12:pl:gen:m1:sec',
612
- 'ppron12:pl:inst:m1:pri',
613
- 'ppron12:pl:inst:m1:sec',
614
- 'ppron12:pl:loc:m1:pri',
615
- 'ppron12:pl:nom:m1:pri',
616
- 'ppron12:pl:nom:m1:sec',
617
- 'ppron12:sg:acc:f:pri:akc',
618
- 'ppron12:sg:acc:f:sec:akc',
619
- 'ppron12:sg:acc:f:sec:nakc',
620
- 'ppron12:sg:acc:m1:pri:akc',
621
- 'ppron12:sg:acc:m1:sec:akc',
622
- 'ppron12:sg:acc:m1:sec:nakc',
623
- 'ppron12:sg:dat:f:pri:akc',
624
- 'ppron12:sg:dat:f:pri:nakc',
625
- 'ppron12:sg:dat:f:sec:nakc',
626
- 'ppron12:sg:dat:m1:pri:akc',
627
- 'ppron12:sg:dat:m1:pri:nakc',
628
- 'ppron12:sg:dat:m1:sec:akc',
629
- 'ppron12:sg:dat:m1:sec:nakc',
630
- 'ppron12:sg:gen:f:pri:akc',
631
- 'ppron12:sg:gen:f:sec:akc',
632
- 'ppron12:sg:gen:f:sec:nakc',
633
- 'ppron12:sg:gen:m1:pri:akc',
634
- 'ppron12:sg:gen:m1:sec:akc',
635
- 'ppron12:sg:gen:m1:sec:nakc',
636
- 'ppron12:sg:gen:m2:pri:akc',
637
- 'ppron12:sg:inst:f:pri',
638
- 'ppron12:sg:inst:m1:pri',
639
- 'ppron12:sg:inst:m1:sec',
640
- 'ppron12:sg:loc:f:pri',
641
- 'ppron12:sg:loc:f:sec',
642
- 'ppron12:sg:loc:m1:pri',
643
- 'ppron12:sg:loc:m1:sec',
644
- 'ppron12:sg:nom:f:pri',
645
- 'ppron12:sg:nom:f:sec',
646
- 'ppron12:sg:nom:m1:pri',
647
- 'ppron12:sg:nom:m1:sec',
648
- 'ppron12:sg:voc:m1:sec',
649
- 'ppron3:pl:acc:f:ter:akc:npraep',
650
- 'ppron3:pl:acc:f:ter:akc:praep',
651
- 'ppron3:pl:acc:m1:ter:akc:npraep',
652
- 'ppron3:pl:acc:m1:ter:akc:praep',
653
- 'ppron3:pl:acc:m2:ter:akc:npraep',
654
- 'ppron3:pl:acc:m2:ter:akc:praep',
655
- 'ppron3:pl:acc:m3:ter:akc:npraep',
656
- 'ppron3:pl:acc:m3:ter:akc:praep',
657
- 'ppron3:pl:acc:n:ter:akc:npraep',
658
- 'ppron3:pl:acc:n:ter:akc:praep',
659
- 'ppron3:pl:dat:f:ter:akc:npraep',
660
- 'ppron3:pl:dat:f:ter:akc:praep',
661
- 'ppron3:pl:dat:m1:ter:akc:npraep',
662
- 'ppron3:pl:dat:m1:ter:akc:praep',
663
- 'ppron3:pl:dat:m2:ter:akc:npraep',
664
- 'ppron3:pl:dat:m3:ter:akc:npraep',
665
- 'ppron3:pl:dat:n:ter:akc:npraep',
666
- 'ppron3:pl:gen:f:ter:akc:npraep',
667
- 'ppron3:pl:gen:f:ter:akc:praep',
668
- 'ppron3:pl:gen:m1:ter:akc:npraep',
669
- 'ppron3:pl:gen:m1:ter:akc:praep',
670
- 'ppron3:pl:gen:m2:ter:akc:npraep',
671
- 'ppron3:pl:gen:m2:ter:akc:praep',
672
- 'ppron3:pl:gen:m3:ter:akc:npraep',
673
- 'ppron3:pl:gen:m3:ter:akc:praep',
674
- 'ppron3:pl:gen:n:ter:akc:npraep',
675
- 'ppron3:pl:gen:n:ter:akc:praep',
676
- 'ppron3:pl:inst:f:ter:akc:npraep',
677
- 'ppron3:pl:inst:f:ter:akc:praep',
678
- 'ppron3:pl:inst:m1:ter:akc:praep',
679
- 'ppron3:pl:inst:m2:ter:akc:npraep',
680
- 'ppron3:pl:inst:m2:ter:akc:praep',
681
- 'ppron3:pl:inst:m3:ter:akc:praep',
682
- 'ppron3:pl:inst:n:ter:akc:praep',
683
- 'ppron3:pl:loc:f:ter:akc:praep',
684
- 'ppron3:pl:loc:m1:ter:akc:praep',
685
- 'ppron3:pl:loc:m3:ter:akc:praep',
686
- 'ppron3:pl:loc:n:ter:akc:praep',
687
- 'ppron3:pl:nom:f:ter:akc:npraep',
688
- 'ppron3:pl:nom:m1:ter:akc:npraep',
689
- 'ppron3:pl:nom:m2:ter:akc:npraep',
690
- 'ppron3:pl:nom:m3:ter:akc:npraep',
691
- 'ppron3:pl:nom:n:ter:akc:npraep',
692
- 'ppron3:sg:acc:f:ter:akc:npraep',
693
- 'ppron3:sg:acc:f:ter:akc:praep',
694
- 'ppron3:sg:acc:m1:ter:akc:npraep',
695
- 'ppron3:sg:acc:m1:ter:akc:praep',
696
- 'ppron3:sg:acc:m1:ter:nakc:npraep',
697
- 'ppron3:sg:acc:m1:ter:nakc:praep',
698
- 'ppron3:sg:acc:m2:ter:akc:praep',
699
- 'ppron3:sg:acc:m2:ter:nakc:npraep',
700
- 'ppron3:sg:acc:m3:ter:akc:praep',
701
- 'ppron3:sg:acc:m3:ter:nakc:npraep',
702
- 'ppron3:sg:acc:n:ter:akc:npraep',
703
- 'ppron3:sg:acc:n:ter:akc:praep',
704
- 'ppron3:sg:dat:f:ter:akc:npraep',
705
- 'ppron3:sg:dat:f:ter:akc:praep',
706
- 'ppron3:sg:dat:m1:ter:akc:npraep',
707
- 'ppron3:sg:dat:m1:ter:akc:praep',
708
- 'ppron3:sg:dat:m1:ter:nakc:npraep',
709
- 'ppron3:sg:dat:m2:ter:nakc:npraep',
710
- 'ppron3:sg:dat:m3:ter:nakc:npraep',
711
- 'ppron3:sg:dat:n:ter:akc:npraep',
712
- 'ppron3:sg:dat:n:ter:nakc:npraep',
713
- 'ppron3:sg:gen:f:ter:akc:npraep',
714
- 'ppron3:sg:gen:f:ter:akc:praep',
715
- 'ppron3:sg:gen:m1:ter:akc:npraep',
716
- 'ppron3:sg:gen:m1:ter:akc:praep',
717
- 'ppron3:sg:gen:m1:ter:nakc:npraep',
718
- 'ppron3:sg:gen:m2:ter:akc:npraep',
719
- 'ppron3:sg:gen:m2:ter:akc:praep',
720
- 'ppron3:sg:gen:m2:ter:nakc:npraep',
721
- 'ppron3:sg:gen:m3:ter:akc:npraep',
722
- 'ppron3:sg:gen:m3:ter:akc:praep',
723
- 'ppron3:sg:gen:m3:ter:nakc:npraep',
724
- 'ppron3:sg:gen:n:ter:akc:npraep',
725
- 'ppron3:sg:gen:n:ter:akc:praep',
726
- 'ppron3:sg:gen:n:ter:nakc:npraep',
727
- 'ppron3:sg:inst:f:ter:akc:praep',
728
- 'ppron3:sg:inst:m1:ter:akc:npraep',
729
- 'ppron3:sg:inst:m1:ter:akc:praep',
730
- 'ppron3:sg:inst:m2:ter:akc:praep',
731
- 'ppron3:sg:inst:m3:ter:akc:npraep',
732
- 'ppron3:sg:inst:m3:ter:akc:praep',
733
- 'ppron3:sg:inst:n:ter:akc:npraep',
734
- 'ppron3:sg:inst:n:ter:akc:praep',
735
- 'ppron3:sg:loc:f:ter:akc:praep',
736
- 'ppron3:sg:loc:m1:ter:akc:praep',
737
- 'ppron3:sg:loc:m2:ter:akc:praep',
738
- 'ppron3:sg:loc:m3:ter:akc:praep',
739
- 'ppron3:sg:loc:n:ter:akc:praep',
740
- 'ppron3:sg:nom:f:ter:akc:npraep',
741
- 'ppron3:sg:nom:m1:ter:akc:npraep',
742
- 'ppron3:sg:nom:m3:ter:akc:npraep',
743
- 'ppron3:sg:nom:n:ter:akc:npraep',
744
- 'praet:pl:f:imperf',
745
- 'praet:pl:f:perf',
746
- 'praet:pl:m1:imperf',
747
- 'praet:pl:m1:perf',
748
- 'praet:pl:m2:imperf',
749
- 'praet:pl:m2:perf',
750
- 'praet:pl:m3:imperf',
751
- 'praet:pl:m3:perf',
752
- 'praet:pl:n:imperf',
753
- 'praet:pl:n:perf',
754
- 'praet:sg:f:imperf',
755
- 'praet:sg:f:perf',
756
- 'praet:sg:m1:imperf',
757
- 'praet:sg:m1:imperf:agl',
758
- 'praet:sg:m1:imperf:nagl',
759
- 'praet:sg:m1:perf',
760
- 'praet:sg:m1:perf:agl',
761
- 'praet:sg:m1:perf:nagl',
762
- 'praet:sg:m2:imperf',
763
- 'praet:sg:m2:imperf:nagl',
764
- 'praet:sg:m2:perf',
765
- 'praet:sg:m2:perf:nagl',
766
- 'praet:sg:m3:imperf',
767
- 'praet:sg:m3:imperf:nagl',
768
- 'praet:sg:m3:perf',
769
- 'praet:sg:m3:perf:nagl',
770
- 'praet:sg:n:imperf',
771
- 'praet:sg:n:perf',
772
- 'pred',
773
- 'prep:acc',
774
- 'prep:acc:nwok',
775
- 'prep:acc:wok',
776
- 'prep:dat',
777
- 'prep:gen',
778
- 'prep:gen:nwok',
779
- 'prep:gen:wok',
780
- 'prep:inst',
781
- 'prep:inst:nwok',
782
- 'prep:inst:wok',
783
- 'prep:loc',
784
- 'prep:loc:nwok',
785
- 'prep:loc:wok',
786
- 'prep:nom',
787
- 'romandig',
788
- 'siebie:acc',
789
- 'siebie:dat',
790
- 'siebie:gen',
791
- 'siebie:inst',
792
- 'siebie:loc',
793
- 'subst:pl:acc:f',
794
- 'subst:pl:acc:m1',
795
- 'subst:pl:acc:m1:pt',
796
- 'subst:pl:acc:m2',
797
- 'subst:pl:acc:m3',
798
- 'subst:pl:acc:n:col',
799
- 'subst:pl:acc:n:ncol',
800
- 'subst:pl:acc:n:pt',
801
- 'subst:pl:dat:f',
802
- 'subst:pl:dat:m1',
803
- 'subst:pl:dat:m1:pt',
804
- 'subst:pl:dat:m2',
805
- 'subst:pl:dat:m3',
806
- 'subst:pl:dat:n:col',
807
- 'subst:pl:dat:n:ncol',
808
- 'subst:pl:dat:n:pt',
809
- 'subst:pl:gen:f',
810
- 'subst:pl:gen:m1',
811
- 'subst:pl:gen:m1:pt',
812
- 'subst:pl:gen:m2',
813
- 'subst:pl:gen:m3',
814
- 'subst:pl:gen:n:col',
815
- 'subst:pl:gen:n:ncol',
816
- 'subst:pl:gen:n:pt',
817
- 'subst:pl:inst:f',
818
- 'subst:pl:inst:m1',
819
- 'subst:pl:inst:m1:pt',
820
- 'subst:pl:inst:m2',
821
- 'subst:pl:inst:m3',
822
- 'subst:pl:inst:n:col',
823
- 'subst:pl:inst:n:ncol',
824
- 'subst:pl:inst:n:pt',
825
- 'subst:pl:loc:f',
826
- 'subst:pl:loc:m1',
827
- 'subst:pl:loc:m1:pt',
828
- 'subst:pl:loc:m2',
829
- 'subst:pl:loc:m3',
830
- 'subst:pl:loc:n:col',
831
- 'subst:pl:loc:n:ncol',
832
- 'subst:pl:loc:n:pt',
833
- 'subst:pl:nom:f',
834
- 'subst:pl:nom:m1',
835
- 'subst:pl:nom:m1:pt',
836
- 'subst:pl:nom:m2',
837
- 'subst:pl:nom:m3',
838
- 'subst:pl:nom:n:col',
839
- 'subst:pl:nom:n:ncol',
840
- 'subst:pl:nom:n:pt',
841
- 'subst:pl:voc:f',
842
- 'subst:pl:voc:m1',
843
- 'subst:pl:voc:n:ncol',
844
- 'subst:pl:voc:n:pt',
845
- 'subst:sg:acc:f',
846
- 'subst:sg:acc:m1',
847
- 'subst:sg:acc:m2',
848
- 'subst:sg:acc:m3',
849
- 'subst:sg:acc:n:col',
850
- 'subst:sg:acc:n:ncol',
851
- 'subst:sg:dat:f',
852
- 'subst:sg:dat:m1',
853
- 'subst:sg:dat:m2',
854
- 'subst:sg:dat:m3',
855
- 'subst:sg:dat:n:col',
856
- 'subst:sg:dat:n:ncol',
857
- 'subst:sg:gen:f',
858
- 'subst:sg:gen:m1',
859
- 'subst:sg:gen:m2',
860
- 'subst:sg:gen:m3',
861
- 'subst:sg:gen:n:col',
862
- 'subst:sg:gen:n:ncol',
863
- 'subst:sg:inst:f',
864
- 'subst:sg:inst:m1',
865
- 'subst:sg:inst:m2',
866
- 'subst:sg:inst:m3',
867
- 'subst:sg:inst:n:col',
868
- 'subst:sg:inst:n:ncol',
869
- 'subst:sg:loc:f',
870
- 'subst:sg:loc:m1',
871
- 'subst:sg:loc:m2',
872
- 'subst:sg:loc:m3',
873
- 'subst:sg:loc:n:col',
874
- 'subst:sg:loc:n:ncol',
875
- 'subst:sg:nom:f',
876
- 'subst:sg:nom:m1',
877
- 'subst:sg:nom:m2',
878
- 'subst:sg:nom:m3',
879
- 'subst:sg:nom:n:col',
880
- 'subst:sg:nom:n:ncol',
881
- 'subst:sg:voc:f',
882
- 'subst:sg:voc:m1',
883
- 'subst:sg:voc:m2',
884
- 'subst:sg:voc:m3',
885
- 'subst:sg:voc:n:ncol',
886
- 'winien:pl:f:imperf',
887
- 'winien:pl:m1:imperf',
888
- 'winien:pl:m3:imperf',
889
- 'winien:pl:n:imperf',
890
- 'winien:sg:f:imperf',
891
- 'winien:sg:m1:imperf',
892
- 'winien:sg:m2:imperf',
893
- 'winien:sg:m3:imperf',
894
- 'winien:sg:n:imperf',
895
- 'xxs:acc',
896
- 'xxs:gen',
897
- 'xxs:inst',
898
- 'xxs:loc',
899
- 'xxs:nom',
900
- 'xxx',
901
- ]
902
- )
903
- ),
904
- # "nonterminals": datasets.Value("string"),
905
- "nonterminals": [{ # 'nid': datasets.Value("string"),
906
- 'cat': datasets.Value("string"),
907
- 'children': [datasets.Value("int16")],
908
- },
909
- ],
910
- }
911
- ),
912
- supervised_keys=None,
913
- homepage="http://zil.ipipan.waw.pl/Składnica",
914
- citation=_CITATION,
915
- )
916
-
917
- def _split_generators(self, dl_manager):
918
- """Returns SplitGenerators."""
919
- downloaded_files = dl_manager.download_and_extract(_URLS)
920
- return [
921
- datasets.SplitGenerator(
922
- name=datasets.Split.TRAIN,
923
- gen_kwargs={"filepath": downloaded_files["train"]}),
924
- datasets.SplitGenerator(
925
- name=datasets.Split.VALIDATION,
926
- gen_kwargs={"filepath": downloaded_files["dev"]}),
927
- datasets.SplitGenerator(
928
- name=datasets.Split.TEST,
929
- gen_kwargs={"filepath": downloaded_files["test"]}),
930
- ]
931
-
932
- def _generate_examples(self, filepath):
933
- logger.info("⏳ Generating examples from = %s", filepath)
934
- guid = 0
935
- with open(filepath, 'r', encoding="utf-8") as f:
936
- for line in f:
937
- datapoint = json.loads(line)
938
- # datapoint['id'] = guid
939
- guid += 1
940
- yield guid, datapoint