목록word2vec (1)

개발아 담하자

[Deep Learning] Text and Sequences

One-hot encoding 단어 집합의 크기를 벡터의 차원으로 하고, 표현하고 싶은 단어의 인덱스에 1의 값을 부여하고, 다른 인덱스에는 0을 부여하는 단어의 벡터 표현 방식이다. one-hot encoding 의 크기는 선택 (category or class) 개수이다. 각 단어에 고유한 index 를 부여한다. 표현하고 싶은 단어의 index 위치에 1을 부여하고, 다른 단어의 인덱스 위치에는 0을 부여한다. 위와 같이 one-hot encoding 으로 표현된 벡터는 one-hot vector 라고 한다. 이 표현법읜 희소 벡터 (sparse vector) 형태를 띈다. 단점 카테고리가 많아지면 차원의 수도 늘어남 (많은 메모리 사용) 단어의 유사성을 표현 못함 (순서의 정보를 가지지 않아 벡터..
🚀 Deep Learning 2020. 6. 26. 19:54
이전 Prev 1 Next 다음