본문 바로가기

LDA

[ML] 잠재 디리클레 할당 예제 - LDA(Latent Dirichlet Allocation) (2)
AI/Machine Learning 2022. 3. 23. [ML] 잠재 디리클레 할당 예제 - LDA(Latent Dirichlet Allocation) (2) LDA topic modeling with BoW¶ In [1]: import re import os import glob import numpy as np import pandas as pd import nltk import gensim import gensim.corpora as corpora from timeit import default_timer as timer from datetime import timedelta from nltk.corpus import stopwords from nltk.tokenize import word_tokenize load and concat dataset¶ http://mlg.ucd.ie/datasets/bbc.html 에서 가져온 오픈소스 bbc 뉴스데이터 2..
[논문리뷰] 잠재 디리클레 할당 - LDA(Latent Dirichlet Allocation)
paper review 2022. 3. 22. [논문리뷰] 잠재 디리클레 할당 - LDA(Latent Dirichlet Allocation) [ML] 토픽 모델링(Topic Modeling) - LSA와 LDA 포스트에서 LDA의 가정과 원리에 대해 간단히 설명해본 적이 있다. 좋은 기회가 있어서 논문을 읽게 되어 더 자세하게 설명을 해보려 한다. 토픽 모델링에 대한 설명은 위 포스트를 참고, 이번 포스트는 LDA의 generative model과 inference과정에 초점을 맞춰보려 한다. LDA 논문 원본 https://www.jmlr.org/papers/volume3/blei03a/blei03a.pdf 이쪽! Terminology 본격적으로 들어가기 앞서 각 term에 대한 정의를 살펴본다. 단어(word)란 이산 데이터의 기본 단위이며, \( {1, ..., V} \)의 형식으로 index된 어휘(vocabulary)의 항목으로 정의..
[ML] 토픽 모델링(Topic Modeling) - LSA와 LDA
AI/Machine Learning 2022. 3. 13. [ML] 토픽 모델링(Topic Modeling) - LSA와 LDA Topic modeling is a method for unsupervised classification of such documents, similar to clustering on numeric data, which finds natural groups of items even when we're not sure what we're looking for. 토픽 모델링(topic modeling)은 문서 집합(코퍼스) 안에서의 추상적인 "주제"를 찾기 위한 비지도학습 분류 방법이다. 사람은 글을 읽으며 자연스럽게 문서의 중심 아이디어를 찾아낸다. 마찬가지로 토픽 모델링은 머신러닝 및 자연어 처리 분야에서 컴퓨터가 텍스트 본문의 숨겨진 의미 구조를 발견하기 위해 사용되는 텍스트 마이닝 기법이라고 할 수 ..

티스토리툴바