프로젝트 구조
├── Code # AI 모델 학습을 위한 부분
│ ├── config # config.yaml 값 가져 오는 함수 제공
│ ├── dataset # 기존 raw 데이터 합치기
│ ├── model # AI 모델 Code ex) Light GBM, XGBoost
│ └── pre_process # 모델 학습전 전처리
├── data #.gitignore
│ └── .csv #.gitignore
├── EDA # 개인 EDA 폴더
│ └── {팀원 명}
│ ├──*.ipynb
├── config-sample.yaml # 하이퍼 파라미터 및 모델 & 서버 선택을 위한 설정 값
├── .gitignore
├── Readme.md
└── requirements.txt라이브러리 버전
Python 버전 : 3.12.5
Library 버전 - (requirements.txt)
numpy==1.26.4
pandas==2.2.2
scikit-learn==1.4.2
tqdm==4.66.4
xgboost==2.0.3
lightgbm==4.3.0
scipy==1.11.4
plotly==5.22.0
nbformat==5.10.4- 프로젝트 소개
- 진행 및 협업 방식
- EDA 및 피처엔지니어링
- 사용한 모델
- 최종 모델 선택
-
프로젝트 기간 : 2024/09/10 ~ 2024/09/26
-
데이터 정보 : Cryptoquant Catalog 참고
-
프로젝트 목표
upstage의 비트코인 상승/하락 시계열 분류 예측 대회 참가를 위한 프로젝트.
비트코인의 시간별 Market Data와 Network Data를 이용해 다음 시점의 등하락을 분류한다.
2023년의 시간 별 데이터들을 학습해 2024년 1~4월 동안의 다음 시간 비트코인 등락률을 아래의 클래스에 맞게 분류한다.
타겟 값
| 클래스 | 설명 | 등락률 |
|---|---|---|
| 0 | 하락 | -0.5% 미만 |
| 1 | 소폭 하락 | -0.5% ~ 0% |
| 2 | 소폭 상승 | 0% ~ 0.5% |
| 3 | 상승 | 0.5% 이상 |
- 비트코인 도메인 지식을 위한 스터디 진행 후, 주어진 데이터의 각 column에 대해서 토론.
- 프로젝트를 위한 기본 구조 설립 코드 작성. (유대선)
- 팀원 별로 EDA와 feature engineering을 진행.
- 각자 도출한 결과에 대해 공유하고 토론을 진행해 feature와 model 선택
- 모델 훈련 및 하이퍼파라미터 튜닝
- 최종 제출 선택
- Slack : 팀 간 실시간 커뮤니케이션, 이슈 공유, 질의 응답을 위한 소통 채널
- Zoom : 정기적인 회의와 토론을 위해 사용
- GitHub : 버전 관리와 코드 협업을 위해 사용. 각 팀원은 EDA를 제외하면 기능 단위로 이슈와 브랜치를 만들어 작업했고, Pull Request를 통해 코드 리뷰 후 병합하는 방식으로 진행
- LightGBM
- 모델 선택 이유 : 빠른 학습 속도와 메모리 효율성으로 대규모 데이터 셋에 적합하고, 시계열 데이터에 강점이 있어 선택.
- XGBoost Classification
- 모델 선택 이유 : 예측 정확도가 높고 결측치를 자동으로 처리를 할 수 있으며, 복잡한 비선형 관계를 잘 포착해 금융 시계열 데이터에 효과적이라 선택.
- XGBoost Regressor
- 사용 이유 : 빠른 학습속도 기반으로 종가(Closed)를 예측 후, 종가 등락률 기반으로 분류 모델로 사용하기 위해 선정. 해당 모델은 시계열 데이터에도 많이 사용되는 모델로써, 범용성 또한 뛰어나다고 판단
- 사용 결과 : 해당 모델의 예측값이 HyperParameter Tuning에 영향을 많이 받으며, 종가 예측의 전체적인 흐름이 수평이 되어, 부적합 판정.
- LSTM(회귀)
- 사용 이유 : 회귀모델로 종가를 예측후, 제출시에 해당하는 종가 등락률을 클래스로 변경 목적. 시계열 데이터의 장기 패턴을 효과적으로 포착하여 미래 가격 변동 예측에 유용하다고 판단.
- 사용 결과 : 훈련 시간이 길고, validation 결과 종가가 -log 함수처럼 값이 하락 수렴하는 추세가 나와 부적합 판단 결정.
- Prophet(시계열)
- 사용 이유 : 비트코인 가격은 직전 가격 혹은 가격에 대한 MA가 가장 큰 영향을 줄 것으로 생각 해당 흐름으로 진행 할때 가장 적절한 모델은 시계열 모델(Prophet). 기간별 가중치를 별도로 설정하여 사용하면 효율적 모델이 될 것이라고 판단함.
- 사용 결과 : 해당 모델은 종가 예측시, 상승적인 움직임을 보였으나 실제 데이터 흐름과 다르게
폭발적인 흐름은 나타내지 못하였음. 또한 데이터가 일정 시간 후에는 반복적 패턴의 Cos 함수와 같은 움직임을 보였으므로, 부적합 판정
1. XGBoost : Public Score - 0.4020(Accuracy) / Private Score - 0.3960(Accuracy)
- 하이퍼 파라미터 세팅
{
"objective": "multi:softprob", # 다중 클래스 분류
"num_class": 4, # 클래스 개수
"eval_metric": "mlogloss", # 손실 함수 (멀티클래스 로지스틱 손실)
"max_depth": 7,
"learning_rate": 0.01,
"subsample": 0.8,
"colsample_bytree": 0.8,
"seed": 42
}2. LightGBM : Public Score - 0.3814(Accuracy) / Private Score - 0.4025 (Accuracy)
- 하이퍼 파라미터 세팅
{
"boosting_type": "gbdt",
"objective": "multiclass",
"metric": "multi_logloss",
"num_class": 4,
"num_leaves": 50,
"learning_rate": 0.05,
"n_estimators": 30,
"random_state": 42,
"verbose": -1,
}