Learningが終わり、約2650チーム中15位で金メダル取得となった。称号を年内にとることができた。自分一人ではこの結果にはならなかったと思うので、チームメンバーの@masakiaota氏、@olivineryo氏に感謝だ。LB全体の26%のデータでのスコア。結果は大幅なshake(結果のランキングが乱高下する)が起きると予想していた。そのため、最終提出にはCV最高の物、LB最高のもの、また疑似ラベルを使わないCV最高のもの(疑似ラベルを使うとCVが圧倒的に良くなるが、CV最適化しすぎやリークの疑念があった)、3つを提出した。本コンペは別のPrizeもあるため、3つの提出枠があったのでこの3つを選択したが、2つの提出だったら非常に悩ましい選択になったであろう。ランクが下がってしまい17位となり、残念ながら金メダル(今回は15位以上)を逃してしまった。1位の人は175位も落ちてしまった)。金を取るのは難しいと再確認した結果であった。不正ユーザが居なくなった結果の順位確定で、繰り上がり15位で金メダルとなった。Prize(以下FP)シリーズの3コンペ目。6つのカラム軸で1.0~5.0まで0.5ポイント刻みで評価したものを推論するというもの。カラムごとのRMSEの平均)。以前のFP1,FP2過去コンペのデータがあるので疑似ラベルとして使えそうだとか、6つのカラムごとの評価軸をどう最適化するのか、といったことを考えながら試行錯誤していった。以下に書いてある解法を組み合わせたアンサンブルモデルを3つ提出。良かったのは、疑似ラベルを使わなかった11モデル組み合わせのアンサンブルであった。ほうがスコアが良いという結果で、この結果を自分は鵜呑みにして学習や最適化をしていった。ほうが本コンペにおいては良いスコアが出るのではないだろうか、複雑な文章を書かない学生の文章の場合、シンプルな方が良いのかもしれない、と考えた。中心に戦略を組み立てていくべきだった。話されていなかったもの、もしくは誰かが話していたかもしれないが効果的だから取り入れよう!とはなっていなかった物。本独自解放の大半はチームメンバー発案で私はあまり貢献していなかったりする...、優秀なチームメンバーに感謝。効いたが、LBにはあまり効果がなかった情報リークした疑似ラベルを使うと、CVが更に良くなる。これを最終subに選択しなかったのが痛手...PostProcess1.0以下は1.0に、5.0以上は5.0に丸め込む。アンサンブルするときに、6カラムごとそれぞれに最適なウェイト考え、CVスコアを最小化する最適化問題として求める。ウェイトを求めて適用する。最適化問題として定義して解くのに、scipy.optimize.minimizeを利用した。解けると知らなかった、かんたんにつかえて便利。re-initializeもともと学習してあるレイヤーの最終n層を初期化する。最終1層のみ初期化がベストだった。Freeze初期n層では学習しない。layers)の初期層はそもそも学習されないので、largeモデルでは初期12層をfreezeすることで学習の高速化につながった。Regression)で学習させて解くというもの。SVRの学習自体は(GPUにもよるだろうが)一瞬〜数秒で終わる。え、こんな方法で?と思ったのだけど、初期に作ったbaselineよりは良いぐらいのスコアを出すことができた。取り入れた解法もあるようなので、自分が性能向上にうまく活かせなかっただけな可能性も高い。SVRは素早くなかなか良いスコアが出ることも良いのだが、NNのバックボーンモデルの性能評価として、ある程度SVRで学習したものと相関が出せたのも便利だった。SVRでスコアが振るわないNNのモデルは、結果きちんとNNで学習させてもスコアが振るわないことがほとんどだったので、バックボーンモデルの検討(とりわけ最後のアンサンブルで何のモデルを使うべきかたくさん検討するタイミング)の指針として役に立った。作っているライブラリcuML自体を知らなかったので、それを知れたのも良かった。動かすことができ、ものによっては超高速に動く。互換なので理解しやすい。今後はCPUでやると数分〜かかるような機械学習の場合、cuMLの利用も検討していきたい。なることができそうだ。メダルが出るコンペに初参加から3連続で金or銀メダルが取れたのは、ソロ参加コンペ以外は当たり前だがどちらのコンペもチームメンバーの貢献が非常に大きい。コンペに誘ってくれた青田氏には感謝が尽きない。gradmasterになるために必要)を取るには現時点では実力不足で、大きな高い壁が見えている。ソロ銀メダルならその課題ドメインに対するアプローチ方法を知っていれば、何回か挑戦すれば取れる気がするが、金は今の所取れる気がしない。ソロ金メダルをとった方々はほんと凄いな〜と思う。課題で解けるものばかりやってきたので、次に参加するなら同じような課題を解いてメダル取得を優先するよりも、スコアは振るわない可能性が高いが別の知見が得られる課題をやっていきたい。初学者なので、大抵の機械学習アルゴリズムや課題解決アプローチは知的好奇心が刺激されるものばかり、引き続き楽しみながら知識を広げていけたらと思う。今日(2022/06/21)の朝9時がKaggleのコンペ終了の時間。結果は即座に表示されるので、チームメンバーと見守る。LB(サンプルで抽出されたスコア)順位と変わらずの1975チーム中8位で金メダル。Kaggleコンペ初参加でチームに恵まれた幸運の結果であ...今日(2022/06/21)の朝9時がKaggleのコンペ終了の時間。結果は即座に表示されるので、チームメンバーと見守る。Argumentsにソロで参加し、1566チーム中43位銀メダルを獲得した。暫定順位なので、確定順位はちょっと変わる可能性がある。ソフトウェアエンジニア。ニックネームを利用している。おたよりを送るおたよりをおまちしてます。お気軽に送りください。お返事はメールアドレス入力があればメールで、メールアドレスがなければ日記上で行うことがあります。プライバシーポリシーおよび利用規約が適用され、保護されています。