add split 'test'

EliteVoiceProject.py

@@ -102,8 +102,8 @@ class EliteVoiceProject(datasets.GeneratorBasedBuilder):
         version = self.config.version
         
         audio_urls = {}
-        #splits = ("train", "test")
-        splits = ["train"]
+        splits = ("train", "test")
+        #splits = ["train"]
         for split in splits:
             audio_urls[split] = [
                 _AUDIO_URL.format(platform=platform, split=split, version=version)

audio_raw/twitter/test/1lPKqmyQPOAKb/100_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2e548ae6101e63af7144dc6524ee395a2aa1955dfc609e3caa5f9e1579811306
+size 96229

audio_raw/twitter/test/1lPKqmyQPOAKb/110_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fb48a93e2eb9d55e1b2f5dcbe413f9c89abdfd8ee0d4003d1b38949f0bfd1413
+size 96229

audio_raw/twitter/test/1lPKqmyQPOAKb/113_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:59a6b39eec38e7cd6f4cac65f87d37799afefa8de4538ce9d916b9fb788a76d8
+size 100409

audio_raw/twitter/test/1lPKqmyQPOAKb/115_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:09a4c92a25a57efb93feb47dfb938f5e584e26926137cbfb171c26ffcde16e86
+size 80556

audio_raw/twitter/test/1lPKqmyQPOAKb/137_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:499974d5b68fe226dfeb4a34089514af9e878a4e4d6515b5eadec4c737dc7815
+size 76376

audio_raw/twitter/test/1lPKqmyQPOAKb/16_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d8928873de7d5b409c0d50d678628918779b83e6e44d2f0a0d1712a920524236
+size 62793

audio_raw/twitter/test/1lPKqmyQPOAKb/184_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:79081faff8a2a85ff88fcc571835e93c1e60b29a358bbc1a39d3dd80c15c2e63
+size 70107

audio_raw/twitter/test/1lPKqmyQPOAKb/199_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:50ed31baeb3a37adb64bea07cb0a85537b9dcbb61d4645ac121e1788507f6529
+size 140115

audio_raw/twitter/test/1lPKqmyQPOAKb/92_2.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3fb9139bae94dd244911c21204d6b0cd0d7e333f3f484581936bc1c7b01b0dea
+size 111903

audio_raw/twitter/test/1lPKqmyQPOAKb/93_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e8fb0d2d35278bfd4fe12da1bc8662257bc5697c91305d8e32984d1d263c7e2d
+size 79511

audio_raw/twitter/test/1lPKqmyQPOAKb/95_1.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0880b46d0b90195a1f45553b5d565432cc2b00a1e316f3da388c920409173765
+size 51299

audio_raw/twitter/test/1lPKqmyQPOAKb/96_2.mp3

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6e729f1fb1419ccc1695bd2e45c2ab20ee326adad7dfdcb1adc2eaa02dcf83c9
+size 37715

transcript/twitter/test/twitter_test_0.0.1.csv

@@ -0,0 +1,13 @@
+path,sentence
+1lPKqmyQPOAKb_16_1.mp3,にゃっはろー
+1lPKqmyQPOAKb_92_2.mp3,お姉さんぶってるな、このプロフィール
+1lPKqmyQPOAKb_93_1.mp3,お姉さんぶってるのらねー
+1lPKqmyQPOAKb_95_1.mp3,かわいいー
+1lPKqmyQPOAKb_96_2.mp3,かわいいー
+1lPKqmyQPOAKb_100_1.mp3,賢いな、こいつー
+1lPKqmyQPOAKb_110_1.mp3,もぐもぐーおかゆー
+1lPKqmyQPOAKb_113_1.mp3,フリースペースめっちゃ落書きしてる
+1lPKqmyQPOAKb_115_1.mp3,それは趣味じゃねーだろ
+1lPKqmyQPOAKb_137_1.mp3,えっちなのこれ大丈夫か？
+1lPKqmyQPOAKb_184_1.mp3,お嬢来たぞお嬢
+1lPKqmyQPOAKb_199_1.mp3,水泳と卓球とバドミントン出来んの？天才やん。

transcript/twitter/train/twitter_train_0.0.1.csv

@@ -123,7 +123,7 @@ path,sentence
 1lPKqmyQPOAKb_108_1.mp3,なんかねー
 1lPKqmyQPOAKb_110_1.mp3,もぐもぐーおかゆー
 1lPKqmyQPOAKb_111_1.mp3,2枚目おかゆんだ
-1lPKqmyQPOAKb_113_1.mp3,リースペースめっちゃ落書きしてる
+1lPKqmyQPOAKb_113_1.mp3,フリースペースめっちゃ落書きしてる
 1lPKqmyQPOAKb_115_1.mp3,それは趣味じゃねーだろ
 1lPKqmyQPOAKb_117_1.mp3,かわいいー
 1lPKqmyQPOAKb_120_1.mp3,めっちゃわかる

transcript_raw/twitter/test/1lPKqmyQPOAKb.csv

@@ -0,0 +1,13 @@
+path,sentence
+16_1.mp3,にゃっはろー
+92_2.mp3,お姉さんぶってるな、このプロフィール
+93_1.mp3,お姉さんぶってるのらねー
+95_1.mp3,かわいいー
+96_2.mp3,かわいいー
+100_1.mp3,賢いな、こいつー
+110_1.mp3,もぐもぐーおかゆー
+113_1.mp3,フリースペースめっちゃ落書きしてる
+115_1.mp3,それは趣味じゃねーだろ
+137_1.mp3,えっちなのこれ大丈夫か？
+184_1.mp3,お嬢来たぞお嬢
+199_1.mp3,水泳と卓球とバドミントン出来んの？天才やん。

transcript_raw/twitter/train/1lPKqmyQPOAKb.csv

@@ -123,7 +123,7 @@ path,sentence
 108_1.mp3,なんかねー
 110_1.mp3,もぐもぐーおかゆー
 111_1.mp3,2枚目おかゆんだ
-113_1.mp3,リースペースめっちゃ落書きしてる
+113_1.mp3,フリースペースめっちゃ落書きしてる
 115_1.mp3,それは趣味じゃねーだろ
 117_1.mp3,かわいいー
 120_1.mp3,めっちゃわかる

upstream.py

@@ -7,8 +7,8 @@ import glob
 version = '0.0.1'
 platforms = {'twitter'}
 #platforms = {'twitter', 'youtube', 'twitch'}
-splits = {'train'}
-#splits = {'train', 'test'}
+#splits = {'train'}
+splits = {'train', 'test'}
 
 
 def upstream(version, platform, split):
@@ -58,12 +58,6 @@ def upstream(version, platform, split):
 
 
 # Do Upstream
-#for platform in platforms:
-#    for split in splits:
-#        upstream(version, platform, split)
-
-with open('./transcript/twitter/train/twitter_train_0.0.1.csv', 'rt', newline='', encoding='utf-8') as csvfile:
-    reader = csv.DictReader(csvfile)
-    raw_transcripts = [row for row in reader]
-    for raw_transcript in raw_transcripts:
-        print(raw_transcript)
+for platform in platforms:
+    for split in splits:
+        upstream(version, platform, split)