機械学習2022.04.27前回のこちら『【kaggle】宇宙船タイタニック!?データ整理編』であらかたデータを整えたので今回は学習からカグル提出した結果まで、やっていこうと思います。学習用データに編集していきます前回でここまでやりました。MB名前は今回使わないので落とします。df_all=df_all.drop(["Name"],axis=1)文字のデータをラベルエンコーディングします。1091数字になってくれました。使わないのを落とします。df_all=df_all.drop(["PassengerId","Cabin","ID01"],axis=1)学習用データを形成します。1091すっきりしました。x_test=df_all.loc[(df_all["train/test"]=="test")].drop(["Transported","train/test"],axis=1)もろもろ整いました。OPTUNA×lightGBM×交差検証で学習さて、やっていきます。random_state=0)ひとまず10回で。cv_scoreOPTUNAが選んだ1組のハイパーパラメータで、10回交差検証やって、検証データの正解率の平均を出し、これを最大化(最小化)するハイパーパラメータ見つけてね。n_trials=50)ここで最大化を指定し、50回探索します。0.8131795034588574ということで、31回目の探索で検証データの平均最大81.3%という結果でした。ベストなハイパーパラメータが分かったので、これでモデルを作ります。verbose_eval=50)ベストパラムでモデル化。このモデルでテストデータに対する予測をします。pred=np.round(best_lgbm.predict(x_test))ちなみにベストパラムはこんな。236}訓練データと検証データの正解率も見ておく。df_predict=pd.DataFrame(pred.astype(int),columns=["Transported"])df_predict["Transported"]=df_predict["Transported"].astype(bool)整数にして、さらにbool値で出さなきゃなので変換。df_submission=pd.concat([df_test["PassengerId"],df_predict],axis=1)テストデータのIDくっつけて完成!さてはて、結果は!?うーん、いまいち。上位は81%越えています。IDのとこの前の数字とか、キャビンの真ん中の数字とか、名前とか、このあたりもっとやるともうちょい上がりそうな気がしてます。Scikit-learn乳がん診断データセットで深層ニューラルネットワークしてみる前回『【kaggle】いろんな果物を分類してみる』は教師なしの分類をk平均法でやりました。今回は深層ニューラルネットワークをかじったので、早速、Scikit-learn乳がん診断データセットでやってみようと思います。少ないデータでサポートベクトルマシンしてみるAIやら機械学習やらは、ある程度のデータ数があることが前提になってる気がするのですが、めっちゃ少ないデータだとどうなるの、が見たくなったのでやってみます。stats』を使って、『【kaggle】ポケモンデータでlightGBMしてみる』これをやり、伝説ポケモンたらしめているデータは何なのか、を見ていきました。概要には、こんなん書いてあります。宇宙の謎を解くためにデータサイエンスのスキルが必要な2912年へようこそ。4光年離れた場所から送信を受信しましたが、状況は良くあり...機械学習Scikit-learnカリフォルニア住宅価格データセットでlightGBMしてみる前回の記事で、『Scikit-learnカリフォルニア住宅価格データセットで深層ニューラルネットワークしてみる』これをやったんです。深層ニューラルネットワークだね、という結果が得られました。なればですね、非深層系では最強との呼...【kaggle】宇宙船タイタニック!?データ整理編ホーム機械学習プロフィールNR_CRSマーケティング会社勤務の私が、業務にデータサイエンスの知見を取り入れるべく、学習したことを、自身の理解を深めるために綴っていくブログです。