네이버 AI 해커톤 2018 후기

2018년 4월 26~27일(1박 2일)동안 진행된 네이버 AI HACKATHON 2018(https://github.com/naver/ai-hackathon-2018)에 참가했다.

대회 방식은 네이버에서 개발중인 클라우드 머신러닝 플랫폼 NSML을 사용하여 진행되었다.

미션은 네이버 지식iN 질문 유사도 예측 문제와 네이버 영화 평점 예측 문제, 이렇게 2개였다.
나는 팀명 "error 모르게따"로 참가하여, 네이버 지식in 미션에서 2등으로 대회를 마쳤다.

 

숙소

식사부터 숙소까지 대회가 진행되는 동안 너무 좋았다! 저희 팀은 3명이라 숙소 배정이 어떻게 될 지 몰랐는데, 3명 모두 1인 1실로 배정돼서 와 대박이네 하면서 편하게 쉬었다.
덕분에 팀원끼리도 편하게 쉬면서 같이 움직이니 더욱 잘 진행되는 기분이었다. 팀원 중 한 명은 휴가를 온 기분이라고 할 정도.

네이버 춘천 커넥트원에서 1박 2일간 진행되었는데, 멘토님들과 스태프분들 모두 참가자분들에게 계속 신경써주셔서 좋았다.
정말 자유로운 분위기였고, 서로 다른 팀끼리도 편하게 이야기하며 시너지 효과도 받는 경우도 있었다.

대회

네이버에서 개발한 머신러닝 플랫폼 NSML을 사용하여 진행되었는데, 모델을 작성하여 제출하면 "크레딧"이라는 것을 소진하여 학습시킨다.
크레딧은 X credit = Y GPU * Z분 만큼 차감되는데, 예선 때부터 gpu 개수가 부족한 상황이 자주 있어서 우린 계속 gpu 1개로 진행했다.

지식인 문제에서 1등인 팀은 예선 1, 2차부터 결승까지 모두 1위였다. 결승에서는 새벽부터 아침까지 우리 팀이 1등이었지만, 아침에 일어나서 확인해보니 2등으로 밀려나있었다.
대회가 진행되는 내내 대회장에서 보이지 않아서 엄청 궁금했는데, 대회가 끝날 때 쯤에 만나서 이야기해보니 생각보다 단순한 모델에 파라미터도 얼마 없었고 dropout도 사용하지 않았다.

랭킹은 정확도(%)순이었는데, 새벽에 우리 팀이 1등과 소수점 12자리까지 전부 같았던 일이 있었다.

이후로 3~4시간 정도 1등을 유지하다가 아침에 다시 2등으로 밀려났다.

우리 팀은 RNN인 LSTM을, 인코딩 부분은 퓨전넷을 사용했다. 대회 당일에는 모델을 새로 작성할 시간이 없어서 다들 파라미터만 조정하며 학습 결과를 기다리는 정도였다. 나는 딥러닝에 대해 깊게 알지 못해서 다른 방향으로 도울 수 밖에 없었다.

아래 그래프는 대회에서 제출하고 학습시킨 모델들의 점수 결과(정확도)이다. 17번 모델의 8에포크가 약 82.9%로 최고였다. 17번 모델의 8에포크 시점에서 fork한 18번 모델은 크레딧이 부족해서 더 이상 학습시키지 못했다.

너무나 재밌고 좋은 경험이었다. 예선 1차는 16등, 예선 2차는 12등으로 통과했기 때문에 기대가 크지 않았기 때문에 여유롭고 즐기는 마음으로 참가했었다. 그런데 예상치 못한 결과라 두 배로 즐겼다. 특히 대회에 참가하기 전에 많은 사건들로 멘탈이 부서져가던 팀원에게 좋은 자극과 힘이 된 것 같아 기쁘다.

김성훈 교수님께서 올해 안으로 제 2회 네이버 해커톤 (feat.컴퓨터 비전)을 준비 중이라고 하셨는데, 이번을 계기로 불이 붙은 우리 팀은 2회에도 참가하려는 의지가 가득하다. 어떤 주제와 방식일지 기대된다.