Pada pembahasan kali ini kita akan fokus pada Latent Semantic Indexing atau Latent Semantic Analysis dan melakukan pemodelan topik menggunakan Scikit-learn. Jika Anda ingin mengimplementasikan pemodelan topik menggunakan Gensim, Anda dapat merujuk ke artikel Menemukan Tema Dokumen Tersembunyi ini .

Apa itu Pemodelan Topik?

Pemodelan Topik adalah teknik tanpa pengawasan untuk menemukan tema dokumen yang diberikan. Ini mengekstrak kumpulan kata kunci yang terjadi bersamaan. Kata kunci yang muncul bersamaan ini mewakili sebuah topik. Misalnya, saham, pasar, ekuitas, reksa dana akan mewakili topik ‘investasi saham’.

Apa itu Pengindeksan Semantik Laten?

Latent Semantic Indexing (LSI) atau Latent Semantic Analysis (LSA) adalah teknik untuk mengekstraksi topik dari dokumen teks tertentu. Ini menemukan hubungan antara istilah dan dokumen. Konsep LSI digunakan dalam pengelompokan dokumen, pencarian informasi, dan mesin rekomendasi. LSI menemukan topik laten menggunakan Dekomposisi Nilai Singular.

Implementasi Coding LSI menggunakan Scikit learn

1. Muat Data
Pada langkah ini, Anda akan memuat dataset. Anda dapat mengunduh data dari tautan berikut :

import os
import pandas as pd
from nltk.tokenize import RegexpTokenizer
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.decomposition import TruncatedSVD

# Load Dataset
documents_list = []
with open( os.path.join("articles.txt") ,"r") as fin:
for line in fin.readlines():
text = line.strip()
documents_list.append(text)

2. Hasilkan Fitur TF-IDF
Pada langkah ini, Anda akan membuat matriks TF-IDF untuk dokumen yang diberikan. Di sini, Anda juga akan melakukan operasi prapemrosesan seperti tokenisasi, dan menghapus stopword.

# Initialize regex tokenizer
tokenizer = RegexpTokenizer(r'\w+')

# Vectorize document using TF-IDF
tfidf = TfidfVectorizer(lowercase=True,
stop_words='english',
ngram_range = (1,1),
tokenizer = tokenizer.tokenize)

# Fit and Transform the documents
train_data = tfidf.fit_transform(documents_list)

3. Melakukan SVD

SVD adalah teknik dekomposisi matriks yang memfaktorkan matriks dalam produk matriks. Scikit-learn menawarkan TruncatedSVD untuk melakukan SVD. Mari kita lihat contoh di bawah ini:

# Define the number of topics or components
num_components=10

# Create SVD object
lsa = TruncatedSVD(n_components=num_components, n_iter=100, random_state=42)

# Fit SVD model on data
lsa.fit_transform(train_data)

# Get Singular values and Components
Sigma = lsa.singular_values_
V_transpose = lsa.components_.T

4.Ekstrak topik dan istilah
Setelah melakukan SVD, kita perlu mengekstrak topik dari matriks komponen. Mari kita lihat contoh di bawah ini:

# Print the topics with their terms
terms = tfidf.get_feature_names()

for index, component in enumerate(lsa.components_):
zipped = zip(terms, component)
top_terms_key=sorted(zipped, key = lambda t: t[1], reverse=True)[:5]
top_terms_list=list(dict(top_terms_key).keys())
print("Topic "+str(index)+": ",top_terms_list)

Hasil runing :

Topic 0: ['s', 'trump', 'said', 'eu', 't']
Topic 1: ['trump', 'clinton', 'republican', 'donald', 'cruz']
Topic 2: ['s', 'league', 'season', 'min', 'leicester']
Topic 3: ['eu', 'league', 'min', 'season', 'brexit']
Topic 4: ['bank', 'banks', 'banking', 'rbs', 'financial']
Topic 5: ['health', 'nhs', 'care', 'mental', 'patients']
Topic 6: ['min', 'ball', 'corner', 'yards', 'goal']
Topic 7: ['facebook', 'internet', 'online', 'users', 'twitter']
Topic 8: ['film', 'films', 'movie', 'women', 'director']
Topic 9: ['labour', 'party', 'bank', 'corbyn', 'film']

Pada contoh di atas, Anda dapat melihat 10 topik. Jika Anda melihat kata kunci Topik 0([‘s’, ‘trump’, ‘said’, ‘EU’, ‘t’]) mewakili Politik AS dan Eropa. Demikian pula, Topik 1 tentang Pemilu AS dan Topik 2 tentang Football League. Ini adalah bagaimana Anda dapat mengidentifikasi topik dari daftar tag. Di sini kami telah mengambil 10 topik yang dapat Anda coba dengan berbagai topik dan memeriksa kinerjanya. Bagaimana masuk akal. Untuk memilih sejumlah topik, Anda juga dapat menggunakan koherensi topik yang dijelaskan dalam artikel Menemukan Tema Dokumen Tersembunyi .

jika ingin bertanya atau memberi saran silahkan komen di bawasini ?..