쇼핑몰 리뷰 평점 분류 AI 해커톤

안녕하십니까! 첫 대회 참가이고 대회 마감 3일 전에 출전하여 좀 더 다양한 방법들에 대해 테스트해보지 못한 점이 아쉽습니다.
ipynb 형태로 제출해야 하는 것을 몰라서 예측값 제출당시 py형태로 터미널에 명령을 내려 best_loss인 모델을 저장하고 저장 모델을 로드하여 예측하는 방식으로 구현했었습니다. 
그래서 코드 제출을 위해 ipynb형태로 다시 작성을 하였고 그 과정에서는 샘플 모델 학습을 하였습니다.
동일한 코드에 명령 인자만 교체한 예측값 제출 당시 학습시킨 5가지 모델은 저장 되어있으므로 로드하여 확률 예측 값을 출력하였습니다.
(단, 이 과정에서 파라미터 설정이 조금 차이가 있는지 제출한 레이블 값과 1개의 오차가 생겼습니다)
이 5가지 모델의 확률 값들을 통한 SOFT_VOTING을 동해 최종 레이블 예측하였습니다.

1. model="monologg/koelectra-base-v3-discriminator" , batch_size=32, epoch=5 >>> dacon1.pth로 저장
2. model="beomi/KcELECTRA-base" , batch_size=32, epoch=10 >>> dacon1_kc.pth로 저장
3. model="klue/roberta-base", batch_size=32, epoch=10 >>> dacon1_roberta.pth로 저장
4. model="beomi/KcELECTRA-base", batch_size=64, epoch=10 , emoji 사용 >>> dacon1_kc_emo_64.pth로 저장
5. model="beomi/KcELECTRA-base", batch_size=64, epoch=10, emoji 사용, koreda 사용, radam사용, lr=1e-4>>> dacon1_kc_emo4_64_eda.pth로 저장