주제 : Natural Language Processing. Word Vectors. Singu- lar Value Decomposition. Skip-gram. Continuous Bag of Words (CBOW). Negative Sampling. Hierarchical Softmax. Word2Vec.
1.1 NLP의 특징
사람의 언어는 의미를 전달하기 위한 시스템 : 컴퓨터 비전이나 다른 머신 러닝과는 다름
ex_ "rocket" 이라는 단어는 로켓의 개념을 지칭하고, 로켓이라는 하나의 물체를 지명할 수 도 있음.
또한 언어의 기호/상징은 voice, gesture, writing 등으로 encode(코드화, 부호화 ... 정확한 해석 불가 ㅠ) 되어 continuous 신호로 뇌에 전달.
1.2 NLP의 예시
연설, 의미 해석, 담화, 담론등
쉬움
스펠링 체크, 키워드로 검색하기, 유의어 찾기
보통
웹사이트나 문서에서 정보 구조 분석하기
어려움
자동 번역 ex_영어 → 한국어
의미 해석 ex_ 질문의 뜻 파악하기
추론 ex_ 이 부분에서 "he", "it"이 칭하는 대상은?
질의응답 ex_ 퀴즈 질문 답하기
최종 목표 → 컴퓨터가 자연어를 어떤 작업을 하기 위해 "이해" 하게 하는 것!
1.3 Word 의미를 나타내는 방법
의미(Meaning) 이란?