Kaggleを通して学んだスキルを社会や顧客に還元していく

— お二人がKaggleに参加するきっかけとなったのはどういったことだったのでしょうか。

櫻井：そもそも私が機械学習に興味を持ったのは、大学4年の頃です。
法学部だったのですが、卒業論文を書かなければいけない時期になって、「どうにか省力化できないか」と考えたんです。それで、もともと趣味でやっていたITの知識・ノウハウを生かしてAIで卒論を書いちゃおうと。
不純な動機ですね(笑)。結果的には卒論は自力で書いたのですが、それをきっかけに機械学習の分野にのめり込み、現在まで勉強しています。

大森：Kaggle参加のきっかけも確か、大好きなチョコレートからでしたよね(笑)

櫻井：そうですね、私はチョコレートやウイスキーが大好きで。そのデータセットを見て分析しようと思ったのがKaggleに参加したきっかけです。チョコレート・ウイスキーの味や成分、産地、評判などを集めたレーティングデータセットがあるんですよ。それを見ながら「このウイスキーはこんな味わいなんだ」と考えるのが楽しかったんです。

大森：私は大学時代にAIを学んでおり、大手人材会社と共に企業レコメンドのアルゴリズムについて研究をしていました。新卒のときは外資系ITベンダーに就職したのですが、やはりAIに携わりたくて、AI人材を積極的に採用していたISIDに転職したんです。
転職した当時は配属された部署も少人数で、実装するのも独自のノウハウでやることが多くて少し苦労しました。それならばと、技術力を磨くために世界中のデータサイエンティストが集まるKaggleに参加しようと思ったんです。様々なアルゴリズムの使い方や実装コードの書き方を学んで、力をつけて、社内でもシェアして還元していければいいなと。

— 櫻井さんはいかがでしょう？印象に残っているコンペはありますか？

櫻井：初めて参加したコンペですかね。テーマは「分子を構成する原子の間の磁気相互作用の予測」でした。
テーマはあまり興味なかったのですが(笑)、腕試しがしたかったので、正直テーマはなんでもよかったんです。同期に化学学科の出身者がいて、その領域の知識を仕入れることができたというのも一つのきっかけになりました。

私はそのときPythonのオープンソースの機械学習ライブラリである「PyTorch^※3」に初めて触れたんです。現在では本を出版するほどに詳しくなりましたが、当時はPyTorchに関する日本語の文献も少なく、公式のAPIリファレンスを中心に調べて、書いて、調べて、書いての繰り返しでモデルを開発しました。

参考情報：『PyTorch実践入門 (日本語)』刊行

大森：初めてのKaggle参加で初めてのライブラリを使うとは思い切りましたね(笑)

櫻井：はい、その時は何もわかってなかったんです。
PyTorch関連のフレームワークでPyTorch Geometricというものがあって、分子のグラフ構造をGCN（グラフ畳み込みニューラルネットワーク：graph convolutional neural network）を用いて解析するために自分で調べながらモデル作りに励みました。恐らくPyTorch Geometricを難なく使える人って今でもあまり多くないんじゃないでしょうか。
コンペの成績はすごく悪かったのですが、一番自分が成長したコンペでしたね。PyTorchを使って、イチから自分でモデルの構築ができるようになったことが大きかったです。

— 2人は部署が違いますが、仲が良いそうですね。どうやって知り合ったんですか？

大森：社内にデータサイエンス研究会という同好会があって、そこで出会いました。その同好会には、入社年次や組織等を問わず様々な人たちが参加していて、初学者用の輪読会・技術書や論文の内容をシェアする勉強会・Kaggleコンペのチーム参加など様々な活動を行っています。組織の壁を超えて全社横断で共通の興味を持った人たちと活動できる場は貴重だと思います。

私たちはその同好会の他メンバーも含めて3人でコンペに参加したことがあるんです。

櫻井：そうそう、あのコンペは面白かったですね。一人一人知識やスキル、進め方も違っていて。とても勉強になりました。
具体的には、コンペ開催中のサブミットの頻度。サブミットとは随時モデルを提出して暫定スコアを確認することなんですが、私はこれまで手元での検証を十分に行ってからサブミットするスタイルだったんです。でも、それではコンペ期間後半でサブミットして、バグが発覚し、そのデバッグに時間がかかるということもしばしばありました。大森さんは高い頻度でサブミットしていて、チェックポイントを作っているのが印象的でしたね。

大森：手元では精度が上がっているように見えても、実はそうでもないこともあるので、それを確かめるためにある程度の頻度でサブミットしています。

あとはトライ&エラーで進めていくか、理論を先に固めて進むかもメンバー間で違いがありました。もう一人のメンバーは意味のある実験は何なのか、有効な手法は何なのかをじっくり考えてからコーディングに入るタイプで、それもとても勉強になりましたね。
特にEDA（Exploratory Data Analysis: 探索的データ分析）を実践するため、データを実際に目で見たり、統計量などを調べてみて、モデルを作る前にデータ自体の性質をしっかり調べていたのが印象的で。そのおかげでノイズデータを除去しなければいけないということに気付けて、分析やモデル作りの方針を立てやすくなりました。

— 社内メンバーで参加することの良さってありましたか？

櫻井：信頼関係が既に構築できているメンバーと参加するのはやはり進めやすいですよね。コミュニケーションもうまくいきますし、仕事の繁忙期を考慮して作業を進めることもできました。

— 会社としてのこのような活動へのサポートはあるのですか？

大森：「Kaggle Days Tokyo」などの大きなイベントへの参加費や参考書籍購入などへのサポートはあります。
ただ、それよりも風土の方が大きいかな。

櫻井：私は普段人事ソリューションの開発に携わっているので、機械学習からは少し離れているのですが、目標設定に「Kaggleでメダルを取る」と書いたことがあって。
上司には「面白いね、いいじゃん」と背中を押してもらいましたね。「銀メダル取りました！」と報告したときは「すごい、すごい」と一緒に喜んでくれました。そういう後押しは頑張る源泉になりますよね。

大森：わかります。私も社内のコミュニケーションプラットフォームに「Kaggleでメダル取りました」と投稿したときは、上司や先輩が「業務内の自己研鑽として認めていいのはないか」と議論してくれたんですよね。その分得られた知見はぜひ社内にも還元してほしいと。
ISIDって、若手が頑張っていることを面白がってくれる文化があると思うんです。本人が望み、それに向けて努力している人には追い風を吹かせてくれる上司や同僚が多い。もちろん、ISIDでは研修制度等も整っているんですが、それ以上にこの風土が大切なことに思うんです。

2021年7月更新