🌷🌼모여봐요 개발의숲🌷🌼

시퀀스 데이터란 데이터 내의 각 요소가 순서를 가지고 배열된 데이터입니다. 이 때문에 순서가 바뀌면 데이터가 내포한 정보가 변경되거나 손실될 수 있습니다. 예컨대, 시퀀스 데이터 [“압축된”, “정보로”, “인코딩”, “합니다”]를 [“인코딩”, “정보로”, “압축된”, “합니다”]로 순서만 변경해도 원래의 의미를 잃어버리게 됩니다. LSTM과 트랜스포머의 큰 차이점은 A와 압축된 정보 사이에 얼마나 많은 셀을 거치는지입니다. LSTM은 시퀀스 데이터의 길이만큼 LSTM셀을 거쳐가야 합니다. 그에 비해 트랜스포머는 TRM(Transformer Module)셀을 1번밖에 거치지 않습니다. 셀을 많이 거칠수록 정보가 변형될 가능성이 높아지며 학습의 난이도가 올라갑니다. 이런 이유로 길이가 긴 시퀀스 데이터에..