Remove human data temp

oas-paired-sequence-data.py

@@ -24,9 +24,9 @@ _HOMEPAGE = "https://opig.stats.ox.ac.uk/webapps/oas/"
 
 _LICENSE = "cc-by-4.0"
 
-_BASE_URL = "https://aws-hcls-ml.s3.amazonaws.com/oas-paired-sequence-data/"
+_BASE_URL = "https://aws-hcls-ml.s3.amazonaws.com/oas-paired-sequence-data/processed/"
 _URLS = {
-    "human": _BASE_URL + "human.zip",
+    # "human": _BASE_URL + "human.zip",
     "rat_SD": _BASE_URL + "rat_SD.zip",
     "mouse_BALB_c": _BASE_URL + "mouse_BALB_c.zip",
     "mouse_C57BL_6": _BASE_URL + "mouse_C57BL_6.zip",
@@ -43,18 +43,18 @@ _FEATURES = datasets.Features(
         "cdr1_aa_light": datasets.Value("string"),
         "cdr2_aa_light": datasets.Value("string"),
         "cdr3_aa_light": datasets.Value("string"),
-        "cdr1_aa_heavy_start": datasets.Value("int16"),
-        "cdr1_aa_heavy_end": datasets.Value("int16"),
-        "cdr1_aa_light_start": datasets.Value("int16"),
-        "cdr1_aa_light_end": datasets.Value("int16"),
-        "cdr2_aa_heavy_start": datasets.Value("int16"),
-        "cdr2_aa_heavy_end": datasets.Value("int16"),
-        "cdr2_aa_light_start": datasets.Value("int16"),
-        "cdr2_aa_light_end": datasets.Value("int16"),
-        "cdr3_aa_heavy_start": datasets.Value("int16"),
-        "cdr3_aa_heavy_end": datasets.Value("int16"),
-        "cdr3_aa_light_start": datasets.Value("int16"),
-        "cdr3_aa_light_end": datasets.Value("int16"),
+        # "cdr1_aa_heavy_start": datasets.Value("int16"),
+        # "cdr1_aa_heavy_end": datasets.Value("int16"),
+        # "cdr1_aa_light_start": datasets.Value("int16"),
+        # "cdr1_aa_light_end": datasets.Value("int16"),
+        # "cdr2_aa_heavy_start": datasets.Value("int16"),
+        # "cdr2_aa_heavy_end": datasets.Value("int16"),
+        # "cdr2_aa_light_start": datasets.Value("int16"),
+        # "cdr2_aa_light_end": datasets.Value("int16"),
+        # "cdr3_aa_heavy_start": datasets.Value("int16"),
+        # "cdr3_aa_heavy_end": datasets.Value("int16"),
+        # "cdr3_aa_light_start": datasets.Value("int16"),
+        # "cdr3_aa_light_end": datasets.Value("int16"),
     }
 )
 
@@ -64,7 +64,7 @@ class OasPairedSequenceData(datasets.GeneratorBasedBuilder):
 
     VERSION = datasets.Version("1.2.0")
     BUILDER_CONFIGS = [
-        datasets.BuilderConfig(name="human", version=VERSION, description="Human"),
+        # datasets.BuilderConfig(name="human", version=VERSION, description="Human"),
         datasets.BuilderConfig(name="rat_SD", version=VERSION, description="rat_SD"),
         datasets.BuilderConfig(
             name="mouse_BALB_c", version=VERSION, description="mouse_BALB_c"
@@ -97,7 +97,7 @@ class OasPairedSequenceData(datasets.GeneratorBasedBuilder):
         ]
 
     def _generate_examples(self, filepath, split):
-        with open(filepath, newline="") as f:
+        with open(filepath, encoding="utf-8", newline="") as f:
             reader = csv.reader(f, delimiter=",")
             for key, row in enumerate(reader):
                 if key == 0:
@@ -112,17 +112,17 @@ class OasPairedSequenceData(datasets.GeneratorBasedBuilder):
                     "cdr1_aa_light": row[6],
                     "cdr2_aa_light": row[7],
                     "cdr3_aa_light": row[8],
-                    "cdr1_aa_heavy_start": row[9],
-                    "cdr1_aa_heavy_end": row[10],
-                    "cdr1_aa_light_start": row[11],
-                    "cdr1_aa_light_end": row[12],
-                    "cdr2_aa_heavy_start": row[13],
-                    "cdr2_aa_heavy_end": row[14],
-                    "cdr2_aa_light_start": row[15],
-                    "cdr2_aa_light_end": row[16],
-                    "cdr3_aa_heavy_start": row[17],
-                    "cdr3_aa_heavy_end": row[18],
-                    "cdr3_aa_light_start": row[19],
-                    "cdr3_aa_light_end": row[20],
+                    # "cdr1_aa_heavy_start": row[9],
+                    # "cdr1_aa_heavy_end": row[10],
+                    # "cdr1_aa_light_start": row[11],
+                    # "cdr1_aa_light_end": row[12],
+                    # "cdr2_aa_heavy_start": row[13],
+                    # "cdr2_aa_heavy_end": row[14],
+                    # "cdr2_aa_light_start": row[15],
+                    # "cdr2_aa_light_end": row[16],
+                    # "cdr3_aa_heavy_start": row[17],
+                    # "cdr3_aa_heavy_end": row[18],
+                    # "cdr3_aa_light_start": row[19],
+                    # "cdr3_aa_light_end": row[20],
                 }
 

src/human_oas_data_units.txt

@@ -0,0 +1,170 @@
+SRR10358523_paired.csv.gz
+SRR10358524_paired.csv.gz
+SRR10358525_paired.csv.gz
+1287156_1_Paired_All.csv.gz
+1279049_1_Paired_All.csv.gz
+1287155_1_Paired_All.csv.gz
+1279050_1_Paired_All.csv.gz
+1287157_1_Paired_All.csv.gz
+1279051_1_Paired_All.csv.gz
+1287158_1_Paired_All.csv.gz
+1279052_1_Paired_All.csv.gz
+1287163_1_Paired_All.csv.gz
+1279053_1_Paired_All.csv.gz
+1287164_1_Paired_All.csv.gz
+1279054_1_Paired_All.csv.gz
+1287165_1_Paired_All.csv.gz
+1279055_1_Paired_All.csv.gz
+1287166_1_Paired_All.csv.gz
+1279057_1_Paired_All.csv.gz
+1287167_1_Paired_All.csv.gz
+1279058_1_Paired_All.csv.gz
+1287168_1_Paired_All.csv.gz
+1279059_1_Paired_All.csv.gz
+1287169_1_Paired_All.csv.gz
+1279060_1_Paired_All.csv.gz
+1287170_1_Paired_All.csv.gz
+1279061_1_Paired_All.csv.gz
+1287171_1_Paired_All.csv.gz
+1279062_1_Paired_All.csv.gz
+1287172_1_Paired_All.csv.gz
+1279063_1_Paired_All.csv.gz
+1287173_1_Paired_All.csv.gz
+1279065_1_Paired_All.csv.gz
+1287174_1_Paired_All.csv.gz
+1279066_1_Paired_All.csv.gz
+1287175_1_Paired_All.csv.gz
+1279067_1_Paired_All.csv.gz
+1287176_1_Paired_All.csv.gz
+1279068_1_Paired_All.csv.gz
+1287177_1_Paired_All.csv.gz
+1279069_1_Paired_All.csv.gz
+1287178_1_Paired_All.csv.gz
+1279070_1_Paired_All.csv.gz
+1287179_1_Paired_All.csv.gz
+1279071_1_Paired_All.csv.gz
+1287180_1_Paired_All.csv.gz
+1279072_1_Paired_All.csv.gz
+1287181_1_Paired_All.csv.gz
+1279073_1_Paired_All.csv.gz
+1287182_1_Paired_All.csv.gz
+1279074_1_Paired_All.csv.gz
+1287183_1_Paired_All.csv.gz
+1279075_1_Paired_All.csv.gz
+1287184_1_Paired_All.csv.gz
+1279076_1_Paired_All.csv.gz
+1287185_1_Paired_All.csv.gz
+1279077_1_Paired_All.csv.gz
+1287186_1_Paired_All.csv.gz
+1279078_1_Paired_All.csv.gz
+1287187_1_Paired_All.csv.gz
+1279079_1_Paired_All.csv.gz
+1287188_1_Paired_All.csv.gz
+1279080_1_Paired_All.csv.gz
+1287189_1_Paired_All.csv.gz
+1287144_1_Paired_All.csv.gz
+1287190_1_Paired_All.csv.gz
+1287145_1_Paired_All.csv.gz
+1287191_1_Paired_All.csv.gz
+1287146_1_Paired_All.csv.gz
+1287192_1_Paired_All.csv.gz
+1287147_1_Paired_All.csv.gz
+1287193_1_Paired_All.csv.gz
+1287148_1_Paired_All.csv.gz
+1287194_1_Paired_All.csv.gz
+1287149_1_Paired_All.csv.gz
+1287195_1_Paired_All.csv.gz
+1287150_1_Paired_All.csv.gz
+1287196_1_Paired_All.csv.gz
+1287151_1_Paired_All.csv.gz
+1287197_1_Paired_All.csv.gz
+1287152_1_Paired_All.csv.gz
+1287198_1_Paired_All.csv.gz
+1287153_1_Paired_All.csv.gz
+1287199_1_Paired_All.csv.gz
+1287154_1_Paired_All.csv.gz
+1287159_1_Paired_All.csv.gz
+1287200_1_Paired_All.csv.gz
+1287160_1_Paired_All.csv.gz
+1287201_1_Paired_All.csv.gz
+1287161_1_Paired_All.csv.gz
+1287202_1_Paired_All.csv.gz
+1287162_1_Paired_All.csv.gz
+1287203_1_Paired_All.csv.gz
+1287204_1_Paired_All.csv.gz
+1287205_1_Paired_All.csv.gz
+1287206_1_Paired_All.csv.gz
+1287207_1_Paired_All.csv.gz
+ERR4082227_paired.csv.gz
+ERR4082235_paired.csv.gz
+ERR4082243_paired.csv.gz
+ERR4082251_paired.csv.gz
+ERR4082259_paired.csv.gz
+ERR4082263_paired.csv.gz
+ERR4082267_paired.csv.gz
+ERR4082275_paired.csv.gz
+ERR4082283_paired.csv.gz
+ERR4082291_paired.csv.gz
+ERR4082299_paired.csv.gz
+ERR4082303_paired.csv.gz
+SRR12875348_1_Paired_All.csv.gz
+SRR12875349_1_Paired_All.csv.gz
+SRR12875350_1_Paired_All.csv.gz
+SRR12875351_1_Paired_All.csv.gz
+SRR12875352_1_Paired_All.csv.gz
+SRR12875353_1_Paired_All.csv.gz
+SRR12875354_1_Paired_All.csv.gz
+SRR12875355_1_Paired_All.csv.gz
+SRR12875356_1_Paired_All.csv.gz
+SRR12875357_1_Paired_All.csv.gz
+SRR12875358_1_Paired_All.csv.gz
+SRR12875359_1_Paired_All.csv.gz
+SRR12875360_1_Paired_All.csv.gz
+SRR12875361_1_Paired_All.csv.gz
+SRR12875362_1_Paired_All.csv.gz
+SRR10313332_paired.csv.gz
+SRR10313335_paired.csv.gz
+SRR12113363_1_Paired_All.csv.gz
+SRR12113364_1_Paired_All.csv.gz
+1_S1__1_Paired_All.csv.gz
+1a_S1__1_Paired_All.csv.gz
+BT4p2_S2__1_Paired_All.csv.gz
+1a_S1mod2_S1__1_Paired_All.csv.gz
+BT4p1_S1__1_Paired_All.csv.gz
+1a_S1mod_S1__1_Paired_All.csv.gz
+1b_S2__1_Paired_All.csv.gz
+1b_S2mod2_S1__1_Paired_All.csv.gz
+1b_S2mod_S1__1_Paired_All.csv.gz
+1c_S3__1_Paired_All.csv.gz
+1c_S3mod_S1__1_Paired_All.csv.gz
+1d_S4__1_Paired_All.csv.gz
+1d_S4mod_S1__1_Paired_All.csv.gz
+1e_S5__1_Paired_All.csv.gz
+1e_S5pc__1_Paired_All.csv.gz
+1f_S6__1_Paired_All.csv.gz
+2_S2__1_Paired_All.csv.gz
+2_S7__1_Paired_All.csv.gz
+2a_S3__1_Paired_All.csv.gz
+2a_S6__1_Paired_All.csv.gz
+2b_S7__1_Paired_All.csv.gz
+2c_S8__1_Paired_All.csv.gz
+3a_S3__1_Paired_All.csv.gz
+3a_S4__1_Paired_All.csv.gz
+3b_S4__1_Paired_All.csv.gz
+3b_S5__1_Paired_All.csv.gz
+3c_S5__1_Paired_All.csv.gz
+3c_S6__1_Paired_All.csv.gz
+3d_S6__1_Paired_All.csv.gz
+3d_S7__1_Paired_All.csv.gz
+3e_S7__1_Paired_All.csv.gz
+3e_S8__1_Paired_All.csv.gz
+AT6md_S1__1_Paired_All.csv.gz
+AT6me_S2__1_Paired_All.csv.gz
+AT6p2a_S3__1_Paired_All.csv.gz
+AT6p2b_S4__1_Paired_All.csv.gz
+AT6p2c_S5__1_Paired_All.csv.gz
+AT7ma_S7__1_Paired_All.csv.gz
+AT7mb_S1__1_Paired_All.csv.gz
+AT7mc_S2__1_Paired_All.csv.gz
+AT7md_S3__1_Paired_All.csv.gz
+AT7me_S4__1_Paired_All.csv.gz

src/human_oas_paired.txt

@@ -1,170 +0,0 @@
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Eccles_2020/csv/SRR10358523_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Eccles_2020/csv/SRR10358524_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Eccles_2020/csv/SRR10358525_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287156_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279049_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287155_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279050_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287157_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279051_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287158_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279052_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287163_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279053_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287164_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279054_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287165_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279055_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287166_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279057_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287167_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279058_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287168_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279059_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287169_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279060_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287170_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279061_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287171_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279062_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287172_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279063_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287173_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279065_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287174_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279066_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287175_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279067_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287176_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279068_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287177_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279069_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287178_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279070_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287179_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279071_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287180_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279072_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287181_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279073_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287182_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279074_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287183_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279075_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287184_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279076_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287185_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279077_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287186_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279078_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287187_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279079_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287188_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1279080_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287189_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287144_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287190_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287145_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287191_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287146_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287192_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287147_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287193_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287148_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287194_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287149_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287195_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287150_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287196_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287151_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287197_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287152_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287198_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287153_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287199_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287154_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287159_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287200_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287160_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287201_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287161_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287202_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287162_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287203_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287204_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287205_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287206_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Jaffe_2022/csv/1287207_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082227_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082235_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082243_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082251_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082259_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082263_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082267_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082275_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082283_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082291_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082299_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/King_2020_2/csv/ERR4082303_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875348_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875349_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875350_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875351_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875352_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875353_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875354_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875355_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875356_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875357_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875358_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875359_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875360_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875361_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Mor_2021/csv/SRR12875362_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Setliff_2019/csv/SRR10313332_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Setliff_2019/csv/SRR10313335_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Woodruff_2020/csv/SRR12113363_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Woodruff_2020/csv/SRR12113364_1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1a_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/BT4p2_S2__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1a_S1mod2_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/BT4p1_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1a_S1mod_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1b_S2__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1b_S2mod2_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1b_S2mod_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1c_S3__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1c_S3mod_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1d_S4__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1d_S4mod_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1e_S5__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1e_S5pc__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/1f_S6__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2_S2__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2_S7__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2a_S3__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2a_S6__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2b_S7__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/2c_S8__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3a_S3__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3a_S4__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3b_S4__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3b_S5__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3c_S5__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3c_S6__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3d_S6__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3d_S7__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3e_S7__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/3e_S8__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT6md_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT6me_S2__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT6p2a_S3__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT6p2b_S4__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT6p2c_S5__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT7ma_S7__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT7mb_S1__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT7mc_S2__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT7md_S3__1_Paired_All.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Phad_2022/csv_paired/AT7me_S4__1_Paired_All.csv.gz

src/mouse_BALB_c_oas_data_units.txt

@@ -0,0 +1,8 @@
+SRR9179273_paired.csv.gz
+SRR9179274_paired.csv.gz
+SRR9179279_paired.csv.gz
+SRR9179280_paired.csv.gz
+SRR9179283_paired.csv.gz
+SRR9179284_paired.csv.gz
+SRR9179285_paired.csv.gz
+SRR9179286_paired.csv.gz

src/mouse_BALB_c_oas_paired.txt

@@ -1,8 +0,0 @@
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179273_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179274_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179279_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179280_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179283_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179284_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179285_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179286_paired.csv.gz

src/mouse_C57BL_6_oas_data_units.txt

@@ -0,0 +1,2 @@
+SRR11528761_paired.csv.gz
+SRR11528762_paired.csv.gz

src/mouse_C57BL_6_oas_paired.txt

@@ -1,2 +0,0 @@
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Alsoiussi_2020/csv/SRR11528761_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Alsoiussi_2020/csv/SRR11528762_paired.csv.gz

src/oas-data-cleaning.py

@@ -3,27 +3,45 @@ import pandas as pd
 import re
 from zipfile import ZipFile
 import boto3
+import io
 
 data_dir = os.getcwd()
 output_path = os.getcwd()
 
 # species_list = ["rat_SD", "mouse_BALB_c", "mouse_C57BL_6", "human"]
-species_list = ["rat_SD"]
+species_list = ["mouse_BALB_c", "mouse_C57BL_6", "rat_SD"]
 
 S3_BUCKET = "aws-hcls-ml"
-S3_PREFIX = "oas-paired-sequence-data"
+S3_SRC_PREFIX = "oas-paired-sequence-data/raw"
+S3_DEST_PREFIX = "oas-paired-sequence-data/processed"
 s3 = boto3.client("s3")
+
+
+# def calc_cdr_coordinates(row):
+#     for i in range(1, 4):
+#         for j in ["heavy", "light"]:
+#             row[f"cdr{i}_aa_{j}_start"] = row[f"sequence_alignment_aa_{j}"].find(
+#                 row[f"cdr{i}_aa_{j}"]
+#             )
+#             row[f"cdr{i}_aa_{j}_end"] = row[f"cdr{i}_aa_{j}_start"] + len(
+#                 row[f"cdr{i}_aa_{j}"]
+#             )
+#     return row
+
+
 for species in species_list:
     print(f"Downloading {species} files")
     list_of_df = []
-    species_url_file = os.path.join(data_dir, species + "_oas_paired.txt")
+    species_url_file = os.path.join(data_dir, species + "_oas_data_units.txt")
     with open(species_url_file, "r") as f:
         for csv_file in f.readlines():
             print(csv_file)
             filename = os.path.basename(csv_file)
             run_id = str(re.search(r"^(.*)_[Pp]aired", filename)[1])
+            s3_key = os.path.join(S3_SRC_PREFIX, species, csv_file.strip())
+            obj = s3.get_object(Bucket=S3_BUCKET, Key=s3_key)
             run_data = pd.read_csv(
-                csv_file,
+                io.BytesIO(obj["Body"].read()),
                 header=1,
                 compression="gzip",
                 on_bad_lines="warn",
@@ -42,19 +60,7 @@ for species in species_list:
                 ]
             ]
             run_data = run_data.dropna()
-
-            def calc_cdr_coordinates(row):
-                for i in range(1, 4):
-                    for j in ["heavy", "light"]:
-                        row[f"cdr{i}_aa_{j}_start"] = row[
-                            f"sequence_alignment_aa_{j}"
-                        ].find(row[f"cdr{i}_aa_{j}"])
-                        row[f"cdr{i}_aa_{j}_end"] = row[f"cdr{i}_aa_{j}_start"] + len(
-                            row[f"cdr{i}_aa_{j}"]
-                        )
-                return row
-
-            run_data = run_data.apply(calc_cdr_coordinates, axis=1)
+            # run_data = run_data.apply(calc_cdr_coordinates, axis=1)
             run_data.insert(
                 0, "pair_id", run_id + "_" + run_data.reset_index().index.map(str)
             )
@@ -63,16 +69,20 @@ for species in species_list:
         print(f"{species} output summary:")
         print(species_df.head())
         print(species_df.shape)
-        # output_file_name = os.path.join(output_path, species + ".zip")
         output_file_name = os.path.join(output_path, "train.csv")
         print(f"Creating {output_file_name}")
-        species_df.to_csv(output_file_name, index=False, compression="zip")
-        # species_df.to_csv(output_file_name, index=False)
-        # zip_name = os.path.join(output_path, species + ".zip")
+        # species_df.to_csv(output_file_name, index=False, compression="zip")
+        species_df.to_csv(output_file_name, index=False)
         zip_name = species + ".zip"
+        print(f"Creating {zip_name}")
         with ZipFile(zip_name, "w") as myzip:
             myzip.write("train.csv")
-        s3.upload_file(zip_name, S3_BUCKET, os.path.join(S3_PREFIX, zip_name))
+        print(
+            f"Uploading {zip_name} to {os.path.join('s3://', S3_BUCKET, S3_DEST_PREFIX)}"
+        )
+        s3.upload_file(zip_name, S3_BUCKET, os.path.join(S3_DEST_PREFIX, zip_name))
+        print(f"Removing {output_file_name}")
         os.remove(output_file_name)
+        print(f"Removing {zip_name}")
         os.remove(zip_name)
 

src/rat_SD_oas_data_units.txt

@@ -0,0 +1,20 @@
+SRR9179275_paired.csv.gz
+SRR9179276_paired.csv.gz
+SRR9179277_paired.csv.gz
+SRR9179278_paired.csv.gz
+SRR9179281_paired.csv.gz
+SRR9179282_paired.csv.gz
+SRR9179287_paired.csv.gz
+SRR9179288_paired.csv.gz
+SRR9179289_paired.csv.gz
+SRR9179290_paired.csv.gz
+SRR9179291_paired.csv.gz
+SRR9179292_paired.csv.gz
+SRR9179293_paired.csv.gz
+SRR9179294_paired.csv.gz
+SRR9179295_paired.csv.gz
+SRR9179296_paired.csv.gz
+SRR9179297_paired.csv.gz
+SRR9179298_paired.csv.gz
+SRR9179299_paired.csv.gz
+SRR9179300_paired.csv.gz

src/rat_SD_oas_paired.txt

@@ -1,20 +0,0 @@
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179275_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179276_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179277_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179278_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179281_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179282_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179287_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179288_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179289_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179290_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179291_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179292_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179293_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179294_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179295_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179296_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179297_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179298_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179299_paired.csv.gz
-https://opig.stats.ox.ac.uk/webapps/ngsdb/paired/Goldstein_2019/csv/SRR9179300_paired.csv.gz