Fix parse

.gitignore

@@ -1,2 +0,0 @@
-urls
-src

oas-paired-sequence-data.py

@@ -126,13 +126,13 @@ class OasPairedSequenceData(datasets.GeneratorBasedBuilder):
                         continue
                     else:
                         yield key - 2, {
-                            "sequence_alignment_aa_heavy": row[10],
-                            "cdr1_aa_heavy": row[35],
-                            "cdr2_aa_heavy": row[39],
-                            "cdr3_aa_heavy": row[43],
-                            "sequence_alignment_aa_light": row[100],
-                            "cdr1_aa_light": row[123],
-                            "cdr2_aa_light": row[127],
-                            "cdr3_aa_light": row[131],
+                            "sequence_alignment_aa_heavy": row[14],
+                            "cdr1_aa_heavy": row[37],
+                            "cdr2_aa_heavy": row[41],
+                            "cdr3_aa_heavy": row[47],
+                            "sequence_alignment_aa_light": row[113],
+                            "cdr1_aa_light": row[136],
+                            "cdr2_aa_light": row[140],
+                            "cdr3_aa_light": row[146],
                         }
 

src/human_oas_data_units.txt

@@ -1,170 +0,0 @@
-SRR10358523_paired.csv.gz
-SRR10358524_paired.csv.gz
-SRR10358525_paired.csv.gz
-1287156_1_Paired_All.csv.gz
-1279049_1_Paired_All.csv.gz
-1287155_1_Paired_All.csv.gz
-1279050_1_Paired_All.csv.gz
-1287157_1_Paired_All.csv.gz
-1279051_1_Paired_All.csv.gz
-1287158_1_Paired_All.csv.gz
-1279052_1_Paired_All.csv.gz
-1287163_1_Paired_All.csv.gz
-1279053_1_Paired_All.csv.gz
-1287164_1_Paired_All.csv.gz
-1279054_1_Paired_All.csv.gz
-1287165_1_Paired_All.csv.gz
-1279055_1_Paired_All.csv.gz
-1287166_1_Paired_All.csv.gz
-1279057_1_Paired_All.csv.gz
-1287167_1_Paired_All.csv.gz
-1279058_1_Paired_All.csv.gz
-1287168_1_Paired_All.csv.gz
-1279059_1_Paired_All.csv.gz
-1287169_1_Paired_All.csv.gz
-1279060_1_Paired_All.csv.gz
-1287170_1_Paired_All.csv.gz
-1279061_1_Paired_All.csv.gz
-1287171_1_Paired_All.csv.gz
-1279062_1_Paired_All.csv.gz
-1287172_1_Paired_All.csv.gz
-1279063_1_Paired_All.csv.gz
-1287173_1_Paired_All.csv.gz
-1279065_1_Paired_All.csv.gz
-1287174_1_Paired_All.csv.gz
-1279066_1_Paired_All.csv.gz
-1287175_1_Paired_All.csv.gz
-1279067_1_Paired_All.csv.gz
-1287176_1_Paired_All.csv.gz
-1279068_1_Paired_All.csv.gz
-1287177_1_Paired_All.csv.gz
-1279069_1_Paired_All.csv.gz
-1287178_1_Paired_All.csv.gz
-1279070_1_Paired_All.csv.gz
-1287179_1_Paired_All.csv.gz
-1279071_1_Paired_All.csv.gz
-1287180_1_Paired_All.csv.gz
-1279072_1_Paired_All.csv.gz
-1287181_1_Paired_All.csv.gz
-1279073_1_Paired_All.csv.gz
-1287182_1_Paired_All.csv.gz
-1279074_1_Paired_All.csv.gz
-1287183_1_Paired_All.csv.gz
-1279075_1_Paired_All.csv.gz
-1287184_1_Paired_All.csv.gz
-1279076_1_Paired_All.csv.gz
-1287185_1_Paired_All.csv.gz
-1279077_1_Paired_All.csv.gz
-1287186_1_Paired_All.csv.gz
-1279078_1_Paired_All.csv.gz
-1287187_1_Paired_All.csv.gz
-1279079_1_Paired_All.csv.gz
-1287188_1_Paired_All.csv.gz
-1279080_1_Paired_All.csv.gz
-1287189_1_Paired_All.csv.gz
-1287144_1_Paired_All.csv.gz
-1287190_1_Paired_All.csv.gz
-1287145_1_Paired_All.csv.gz
-1287191_1_Paired_All.csv.gz
-1287146_1_Paired_All.csv.gz
-1287192_1_Paired_All.csv.gz
-1287147_1_Paired_All.csv.gz
-1287193_1_Paired_All.csv.gz
-1287148_1_Paired_All.csv.gz
-1287194_1_Paired_All.csv.gz
-1287149_1_Paired_All.csv.gz
-1287195_1_Paired_All.csv.gz
-1287150_1_Paired_All.csv.gz
-1287196_1_Paired_All.csv.gz
-1287151_1_Paired_All.csv.gz
-1287197_1_Paired_All.csv.gz
-1287152_1_Paired_All.csv.gz
-1287198_1_Paired_All.csv.gz
-1287153_1_Paired_All.csv.gz
-1287199_1_Paired_All.csv.gz
-1287154_1_Paired_All.csv.gz
-1287159_1_Paired_All.csv.gz
-1287200_1_Paired_All.csv.gz
-1287160_1_Paired_All.csv.gz
-1287201_1_Paired_All.csv.gz
-1287161_1_Paired_All.csv.gz
-1287202_1_Paired_All.csv.gz
-1287162_1_Paired_All.csv.gz
-1287203_1_Paired_All.csv.gz
-1287204_1_Paired_All.csv.gz
-1287205_1_Paired_All.csv.gz
-1287206_1_Paired_All.csv.gz
-1287207_1_Paired_All.csv.gz
-ERR4082227_paired.csv.gz
-ERR4082235_paired.csv.gz
-ERR4082243_paired.csv.gz
-ERR4082251_paired.csv.gz
-ERR4082259_paired.csv.gz
-ERR4082263_paired.csv.gz
-ERR4082267_paired.csv.gz
-ERR4082275_paired.csv.gz
-ERR4082283_paired.csv.gz
-ERR4082291_paired.csv.gz
-ERR4082299_paired.csv.gz
-ERR4082303_paired.csv.gz
-SRR12875348_1_Paired_All.csv.gz
-SRR12875349_1_Paired_All.csv.gz
-SRR12875350_1_Paired_All.csv.gz
-SRR12875351_1_Paired_All.csv.gz
-SRR12875352_1_Paired_All.csv.gz
-SRR12875353_1_Paired_All.csv.gz
-SRR12875354_1_Paired_All.csv.gz
-SRR12875355_1_Paired_All.csv.gz
-SRR12875356_1_Paired_All.csv.gz
-SRR12875357_1_Paired_All.csv.gz
-SRR12875358_1_Paired_All.csv.gz
-SRR12875359_1_Paired_All.csv.gz
-SRR12875360_1_Paired_All.csv.gz
-SRR12875361_1_Paired_All.csv.gz
-SRR12875362_1_Paired_All.csv.gz
-SRR10313332_paired.csv.gz
-SRR10313335_paired.csv.gz
-SRR12113363_1_Paired_All.csv.gz
-SRR12113364_1_Paired_All.csv.gz
-1_S1__1_Paired_All.csv.gz
-1a_S1__1_Paired_All.csv.gz
-BT4p2_S2__1_Paired_All.csv.gz
-1a_S1mod2_S1__1_Paired_All.csv.gz
-BT4p1_S1__1_Paired_All.csv.gz
-1a_S1mod_S1__1_Paired_All.csv.gz
-1b_S2__1_Paired_All.csv.gz
-1b_S2mod2_S1__1_Paired_All.csv.gz
-1b_S2mod_S1__1_Paired_All.csv.gz
-1c_S3__1_Paired_All.csv.gz
-1c_S3mod_S1__1_Paired_All.csv.gz
-1d_S4__1_Paired_All.csv.gz
-1d_S4mod_S1__1_Paired_All.csv.gz
-1e_S5__1_Paired_All.csv.gz
-1e_S5pc__1_Paired_All.csv.gz
-1f_S6__1_Paired_All.csv.gz
-2_S2__1_Paired_All.csv.gz
-2_S7__1_Paired_All.csv.gz
-2a_S3__1_Paired_All.csv.gz
-2a_S6__1_Paired_All.csv.gz
-2b_S7__1_Paired_All.csv.gz
-2c_S8__1_Paired_All.csv.gz
-3a_S3__1_Paired_All.csv.gz
-3a_S4__1_Paired_All.csv.gz
-3b_S4__1_Paired_All.csv.gz
-3b_S5__1_Paired_All.csv.gz
-3c_S5__1_Paired_All.csv.gz
-3c_S6__1_Paired_All.csv.gz
-3d_S6__1_Paired_All.csv.gz
-3d_S7__1_Paired_All.csv.gz
-3e_S7__1_Paired_All.csv.gz
-3e_S8__1_Paired_All.csv.gz
-AT6md_S1__1_Paired_All.csv.gz
-AT6me_S2__1_Paired_All.csv.gz
-AT6p2a_S3__1_Paired_All.csv.gz
-AT6p2b_S4__1_Paired_All.csv.gz
-AT6p2c_S5__1_Paired_All.csv.gz
-AT7ma_S7__1_Paired_All.csv.gz
-AT7mb_S1__1_Paired_All.csv.gz
-AT7mc_S2__1_Paired_All.csv.gz
-AT7md_S3__1_Paired_All.csv.gz
-AT7me_S4__1_Paired_All.csv.gz

src/mouse_BALB_c_oas_data_units.txt

@@ -1,8 +0,0 @@
-SRR9179273_paired.csv.gz
-SRR9179274_paired.csv.gz
-SRR9179279_paired.csv.gz
-SRR9179280_paired.csv.gz
-SRR9179283_paired.csv.gz
-SRR9179284_paired.csv.gz
-SRR9179285_paired.csv.gz
-SRR9179286_paired.csv.gz

src/mouse_C57BL_6_oas_data_units.txt

@@ -1,2 +0,0 @@
-SRR11528761_paired.csv.gz
-SRR11528762_paired.csv.gz

src/oas-data-cleaning.py

@@ -1,70 +0,0 @@
-import boto3
-import io
-import os
-import pandas as pd
-import re
-import shutil
-import tarfile
-
-data_dir = os.getcwd()
-output_path = os.getcwd()
-
-species_list = ["rat_SD", "mouse_BALB_c", "mouse_C57BL_6", "human"]
-
-S3_BUCKET = "aws-hcls-ml"
-S3_SRC_PREFIX = "oas-paired-sequence-data/raw"
-S3_DEST_PREFIX = "oas-paired-sequence-data/parquet"
-s3 = boto3.client("s3")
-
-for species in species_list:
-    print(f"Downloading {species} files")
-    list_of_df = []
-    species_url_file = os.path.join(data_dir, species + "_oas_data_units.txt")
-    with open(species_url_file, "r") as f:
-        for csv_file in f.readlines():
-            print(csv_file)
-            filename = os.path.basename(csv_file)
-            run_id = str(re.search(r"^(.*)_[Pp]aired", filename)[1])
-            s3_key = os.path.join(S3_SRC_PREFIX, species, csv_file.strip())
-            obj = s3.get_object(Bucket=S3_BUCKET, Key=s3_key)
-            run_data = pd.read_csv(
-                io.BytesIO(obj["Body"].read()),
-                header=1,
-                compression="gzip",
-                on_bad_lines="warn",
-                low_memory=False,
-            )
-            run_data = run_data[
-                [
-                    "sequence_alignment_aa_heavy",
-                    "cdr1_aa_heavy",
-                    "cdr2_aa_heavy",
-                    "cdr3_aa_heavy",
-                    "sequence_alignment_aa_light",
-                    "cdr1_aa_light",
-                    "cdr2_aa_light",
-                    "cdr3_aa_light",
-                ]
-            ]
-            run_data = run_data.dropna()
-            run_data.insert(0, "data_unit", run_id)
-            list_of_df.append(run_data)
-        species_df = pd.concat(list_of_df, ignore_index=True)
-        print(f"{species} output summary:")
-        print(species_df.head())
-        print(species_df.shape)
-        os.makedirs(species, exist_ok=True)
-        species_df.to_parquet(species, partition_cols=["data_unit"])
-        zip_name = species + ".tar.gz"
-        print(f"Creating {zip_name}")
-        with tarfile.open(zip_name, "w:gz") as tf:
-            tf.add(species, arcname="")
-        print(
-            f"Uploading {zip_name} to {os.path.join('s3://', S3_BUCKET, S3_DEST_PREFIX)}"
-        )
-        s3.upload_file(zip_name, S3_BUCKET, os.path.join(S3_DEST_PREFIX, zip_name))
-        print(f"Removing {species}")
-        shutil.rmtree(species)
-        print(f"Removing {zip_name}")
-        os.remove(zip_name)
-

src/rat_SD_oas_data_units.txt

@@ -1,20 +0,0 @@
-SRR9179275_paired.csv.gz
-SRR9179276_paired.csv.gz
-SRR9179277_paired.csv.gz
-SRR9179278_paired.csv.gz
-SRR9179281_paired.csv.gz
-SRR9179282_paired.csv.gz
-SRR9179287_paired.csv.gz
-SRR9179288_paired.csv.gz
-SRR9179289_paired.csv.gz
-SRR9179290_paired.csv.gz
-SRR9179291_paired.csv.gz
-SRR9179292_paired.csv.gz
-SRR9179293_paired.csv.gz
-SRR9179294_paired.csv.gz
-SRR9179295_paired.csv.gz
-SRR9179296_paired.csv.gz
-SRR9179297_paired.csv.gz
-SRR9179298_paired.csv.gz
-SRR9179299_paired.csv.gz
-SRR9179300_paired.csv.gz