ํ˜„๋Œ€ ์บํ”ผํƒˆ ๋ฐ์ดํ„ฐ

์ˆ˜์ง‘ ๊ธฐ๊ฐ„ : 2010๋…„ 12์›” 17์ผ ~ 2023๋…„ 1์›” 4์ผ

์ˆ˜์ง‘ ๋„๊ตฌ : google-play-scraper

๋ถ„์„ ๋„๊ตฌ : ํ…์Šคํ†ฐ

๋ฐ์ดํ„ฐ ๊ฐœ์ˆ˜ : 3324๊ฐœ

๋ฐ์ดํ„ฐ ์†์„ฑ : reviewId, userName, userImage, content, score, thumbsUpCount, reviewCreatedVerision, at, replyContent, repliedAt

 

๋ฐ์ดํ„ฐ ์†์„ฑ ์„ค๋ช…
reviewId : ๊ฐœ์ธ๋ณ„ ์‹๋ณ„ ๋ฆฌ๋ทฐ ์•„์ด๋””

userName : ๋‹‰๋„ค์ž„ 
userImage : ํ”„๋กœํ•„ ์‚ฌ์ง„ url
content : ๋ฆฌ๋ทฐ ๋‚ด์šฉ 
score : ๋ณ„์  (1~5)
thumbsUpCount : ์‚ฌ์šฉ์ž n๋ช…์ด ์ด ๋ฆฌ๋ทฐ๊ฐ€ ์œ ์šฉํ•˜๋‹ค๊ณ  ํ‰๊ฐ€ํ•จ
reviewCreatedVersion : ์ž‘์„ฑ๋œ ๋ฆฌ๋ทฐ ๋ฒ„์ „
at : ๋ฆฌ๋ทฐ ์ž‘์„ฑ ๋‚ ์งœ
replyContent : ๋‹ต๋ณ€ ๋‚ด์šฉ
repliedAt : ๋‹ต๋ณ€ ๋‚ ์งœ

 

 


ํ…์Šคํ†ฐ ๋ถ„์„

๋ฐ์ดํ„ฐ ์ˆ˜์ง‘

์›๋ณธ ์Šคํฌ๋ž˜ํ•‘ ๋ฐ์ดํ„ฐ (csv / 1,227KB) -> ์ถ”์ถœ ๋ฐ์ดํ„ฐ (xlsx / 387KB)

 

์›๋ณธ ๋ฐ์ดํ„ฐ ์ค‘ ํ…์ŠคํŠธ ๋ถ„์„์— ์‚ฌ์šฉํ•  reviewId, userName, content, score, at ์†์„ฑ๋งŒ ์ถ”์ถœํ•˜์—ฌ ์ƒˆ๋กœ์šด ํŒŒ์ผ์„ ๋งŒ๋“ค์—ˆ๋‹ค.

ํ…์Šคํ†ฐ์€ txt, pdf, xls, xlsx ํŒŒ์ผ ๋ฐ์ดํ„ฐ๋งŒ ์ธ์ •ํ•˜๊ณ  ์žˆ์–ด ๊ธฐ์กด์˜ csv ์›๋ณธ ๋ฐ์ดํ„ฐ ํŒŒ์ผ์„ xlsx๋กœ ๋ณ€๊ฒฝํ•ด ์ฃผ์—ˆ๊ณ , ๋ถ„์„์— ํ•„์š”ํ•œ ์†์„ฑ๋“ค๋งŒ ๋ฝ‘์•„ ํ…์Šคํ†ฐ ๋ฐ์ดํ„ฐ ์šฉ๋Ÿ‰์„ ์ ˆ์•ฝํ•˜๊ณ ์ž ํ–ˆ๋‹ค.

 

 

ํ…์Šคํ†ฐ์— ๋ฐ์ดํ„ฐ๋ฅผ ์—…๋กœ๋“œ ํ•  ๋•Œ์—๋Š” ๋ฆฌ๋ทฐ ๋‚ด์šฉ์ด ๋‹ด๊ธด content ์†์„ฑ์˜ D์—ด๋งŒ ์ง€์ •ํ•˜์—ฌ ์ˆ˜์ง‘ ๋ฆฌ์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ–ˆ๋‹ค.

์ฐธ๊ณ ๋กœ ํ…์Šคํ†ฐ์€ ๋‹ค์ค‘ ์ปฌ๋Ÿผ ์„ ํƒ ์‹œ, ํ•œ ์ปฌ๋Ÿผ์œผ๋กœ ํ•ฉ์ณ์ ธ์„œ ๋ถ„์„ํ•˜๊ฒŒ ๋œ๋‹ค.

 

 


์ •์ œ / ํ˜•ํƒœ์†Œ ๋ถ„์„

์ •์ œ๋ฐฉ๋ฒ•์„ [์ง์ ‘์„ ํƒ]์œผ๋กœ ์„ธ๋ถ€์ ์ธ ์˜ต์…˜์„ ์กฐ์ •ํ•ด์„œ ์ •์ œ/ํ˜•ํƒœ์†Œ ๋ถ„์„์„ ์ง„ํ–‰ํ–ˆ๋‹ค.

์ด๋•Œ ๋ถ„์„๊ธฐ๋ฅผ Espresso K๋ฅผ ์„ ํƒํ–ˆ๋Š”๋ฐ ์œ„์™€ ๊ฐ™์€ ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์™”๋‹ค. (์ฐธ๋‹ด..)

 

 

โ— ํ…์Šคํ†ฐ ํ˜•ํƒœ์†Œ ๋ถ„์„๊ธฐ

Espresso K๋Š” ๊ณ ์œ ๋ช…์‚ฌ, ๋ณตํ•ฉ๋ช…์‚ฌ๋ฅผ ๊ทธ๋Œ€๋กœ ๊ฒฐ๊ณผ๊ฐ’์ด ๋ฐ˜์˜ํ•œ๋‹ค.

ํ•˜์ง€๋งŒ ๋„์–ด์“ฐ๊ธฐ๊ฐ€ ์ž˜ ๋˜์–ด ์žˆ์ง€ ์•Š๋Š” ๋ฌธ์„œ๋ฅผ ๋ถ„์„ํ•˜๊ฑฐ๋‚˜ ์ผ๋ฐ˜์ ์ธ ๋‹จ์–ด๋“ค๋กœ ๋ถ„์„์„ ํ•˜๊ธฐ์—๋Š” ์ ํ•ฉํ•˜์ง€ ์•Š๋‹ค.

MeCab์€ ๋„์–ด์“ฐ๊ธฐ์™€ ์ƒ๊ด€์—†์ด ์‚ฌ์ „์„ ์ฐธ์กฐํ•˜์—ฌ ์–ดํœ˜๋ฅผ ๊ตฌ๋ถ„ํ•œ๋‹ค. ๋”ฐ๋ผ์„œ ๋„์–ด์“ฐ๊ธฐ์— ์˜์กดํ•˜์ง€ ์•Š๊ณ  ์•ˆ์ •์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ๋ณด์—ฌ์ฃผ์ง€๋งŒ, ๋‹จ์ฒด๋ช…์ด๋‚˜ ๋ณตํ•ฉ๋ช…์‚ฌ์— ๋Œ€ํ•ด์„œ๋Š” ๋–จ์–ด์ง„ ๋‹จ์–ด๋“ค์„ ํ•ฉ์ณ์ฃผ๋Š” ์ž‘์—…์ด ํ•„์š”ํ•˜๋‹ค.

 

 

"์•ฑ๊ฐ„ํŽธ๋น„๋ฒˆ์ž…๋ ฅ์—์„œ ํ™”๋ฉด ํ„ฐ์น˜๊ฐ€ ์•ˆ๋˜๋„ค์š”." ๋ผ๋Š” ๋ฆฌ๋ทฐ๊ฐ€ ์žˆ๋Š”๋ฐ ์•ฑ๊ฐ„ํŽธ๋น„๋ฒˆ์ž…๋ ฅ์˜ ๊ฒฝ์šฐ Espresso K๋กœ ๋Œ๋ฆด ๊ฒฝ์šฐ "์•ฑ๊ฐ„ํŽธ๋น„๋ฒˆ์ž…๋ ฅ" ๊ทธ๋Œ€๋กœ ์ •์ œํ•˜์ง€๋งŒ, MeCab์œผ๋กœ ๋Œ๋ฆด ๊ฒฝ์šฐ์—๋Š” "์•ฑ", "๊ฐ„ํŽธ", "๋น„๋ฒˆ", "์ž…๋ ฅ"์œผ๋กœ ์ •์ œํ•œ๋‹ค. ๋ฌธ๋งฅ์„ ๋”ฐ์ ธ๋ณด๋ฉด ์•ฑ๊ฐ„ํŽธ๋น„๋ฒˆ์ž…๋ ฅ์ด ํ„ฐ์น˜๊ฐ€ ์•ˆ ๋˜์–ด ๋ถˆํŽธํ•˜๋‹ค๋Š” ๋œป์œผ๋กœ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š”๋ฐ MeCab์€ ์‚ฌ์ „์„ ์ฐธ๊ณ ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๊ฐ„ํŽธ์ด๋ผ๋Š” ๋‹จ์–ด๊ฐ€ ๋”ฐ๋กœ ๋ถ„๋ฆฌ๋˜์–ด ๋ฌธ๋งฅ์ด ๊ณ ๋ ค๋˜์ง€ ์•Š๋Š”๋‹ค. (๋ฌผ๋ก  ๋‹จ์ˆœ ๋นˆ๋„๋ถ„์„์€ ์• ์ดˆ์— ๋ฌธ๋งฅ์„ ๊ณ ๋ คํ•˜์ง€ ์•Š์ง€๋งŒ)  ๋˜ํ•œ, ์•ฑ์— ์žˆ์–ด ์ค‘์š”ํ•œ ์†์„ฑ ์ค‘ ํ•˜๋‚˜์ธ "๋น„๋ฐ€๋ฒˆํ˜ธ"์˜ ๊ฒฝ์šฐ์—๋„ MeCab์€ "๋น„๋ฐ€", "๋ฒˆํ˜ธ"๋ผ๊ณ  ๋”ฐ๋กœ ๋ถ„๋ฆฌํ•˜๊ธฐ ๋•Œ๋ฌธ์— Espresso K๊ฐ€ ์ˆ˜์›”ํ•  ๊ฒƒ ๊ฐ™๋‹ค๊ณ  ํŒ๋‹จํ•˜์˜€๋‹ค.

 

ํ•˜์ง€๋งŒ ๋ง‰์ƒ ๊ฒฐ๊ณผ๊ฐ’์„ ๋ณด๋‹ˆ Espresso K ๋ถ„์„๊ธฐ๋Š” ์กฐ์‚ฌ, ์–ด๋ฏธ๋ฅผ ๊ณ ์œ ๋ช…์‚ฌ / ๋ณตํ•ฉ๋ช…์‚ฌ๋กœ ํŒ๋‹จํ•˜์—ฌ ์ •์ œ ๊ฒฐ๊ณผ๊ฐ€ ๊น”๋”ํ•˜์ง€ ์•Š์•˜๋‹ค. ๋”ฐ๋ผ์„œ ์ตœ์ข…์ ์œผ๋กœ MeCab ๋ถ„์„๊ธฐ๋ฅผ ์‚ฌ์šฉํ•˜๊ณ  ๋‹จ์–ด๋ฅผ 2์ฐจ ํŽธ์ง‘ํ•˜๋Š” ๊ฒƒ์œผ๋กœ ๊ฒฐ์ •ํ–ˆ๋‹ค.

 

 

์„ ํƒํ•œ ๋ถ„์„ ํ’ˆ์‚ฌ์ธ ์ฒด์–ธ(์ผ๋ฐ˜๋ช…์‚ฌ, ๊ณ ์œ ๋ช…์‚ฌ, ์˜์กด๋ช…์‚ฌ, ๋‹จ์œ„๋ช…์‚ฌ, ์ˆ˜์‚ฌ, ๋Œ€๋ช…์‚ฌ) ๋ณ„๋กœ ๊ฒฐ๊ณผ๊ฐ€ ์ž˜ ๋‚˜์˜จ ๊ฒƒ์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค. ๋‹ค๋งŒ ์œ„์—์„œ๋„ ์–ธ๊ธ‰ํ•œ ๊ฒƒ์ฒ˜๋Ÿผ ์‚ฌ์ „์„ ์ฐธ๊ณ ํ•˜์—ฌ ์–ดํœ˜๊ฐ€ ๋ถ„๋ฆฌ๋˜์—ˆ๊ธฐ ๋•Œ๋ฌธ์— ๊ณ ์œ ๋ช…์‚ฌ, ๋ณตํ•ฉ๋ช…์‚ฌ์— ๋Œ€ํ•ด 2์ฐจ์ ์œผ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ํŽธ์ง‘ํ•ด ์ฃผ์–ด์•ผ ํ•œ๋‹ค.

 

 


ํ…์ŠคํŠธ ๋งˆ์ด๋‹

 

ํ…์ŠคํŠธ 2์ฐจ ์ˆ˜์ •๋‚ด์—ญ

ํ”Œ โ–ถ ์–ดํ”Œ / ๋น„๋ฐ€ ๋ฒˆํ˜ธ โ–ถ ๋น„๋ฐ€๋ฒˆํ˜ธ / ํšŒ์› ๊ฐ€์ž… โ–ถ ํšŒ์›๊ฐ€์ž… / ์ค‘๋„ ์ƒํ™˜ โ–ถ ์ค‘๋„์ƒํ™˜ / ์ฒญ๊ตฌ ๊ธˆ์•ก โ–ถ ์ฒญ๊ตฌ๊ธˆ์•ก / ๊ณ ๊ฐ ์„ผํ„ฐ โ–ถ ๊ณ ๊ฐ์„ผํ„ฐ / ๊ณต์ธ ์ธ์ฆ์„œ โ–ถ ๊ณต์ธ์ธ์ฆ์„œ / ํ˜„๋Œ€ ์นด๋“œ โ–ถ ํ˜„๋Œ€์นด๋“œ / ์ตœ์‹  ๋ฒ„์ „ โ–ถ ์ตœ์‹ ๋ฒ„์ „ / ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ โ–ถ ์ธํ„ฐ๋„ท์—ฐ๊ฒฐ / ์•…์„ฑ ์ฝ”๋“œ โ–ถ ์•…์„ฑ์ฝ”๋“œ / ๋ฌธ์ œ ํ•ด๊ฒฐ โ–ถ ๋ฌธ์ œํ•ด๊ฒฐ / ํ•˜๋ฃจ ์ข…์ผ โ–ถ ํ•˜๋ฃจ์ข…์ผ / ์žฅ๊ธฐ ๋ ŒํŠธ โ–ถ ์žฅ๊ธฐ๋ ŒํŠธ / ํ”Œ๋Ÿฌ์Šค ๋ฉค๋ฒ„์‹ญ โ–ถ ํ”Œ๋Ÿฌ์Šค๋ฉค๋ฒ„์‹ญ / ์ฃผํƒ ๋‹ด๋ณด โ–ถ ์ฃผํƒ๋‹ด๋ณด / ์ž๋™ ์ด์ฒด โ–ถ ์ž๋™์ด์ฒด / ์ˆซ์ž ํŒ โ–ถ ์ˆซ์žํŒ / ์‹œ๊ฐ„ ๋‚ญ๋น„ โ–ถ ์‹œ๊ฐ„๋‚ญ๋น„ / ์—ฐ๊ฒฐ ์‹คํŒจ โ–ถ ์—ฐ๊ฒฐ์‹คํŒจ / ๊ฐ€์ƒ ๋„คํŠธ์›Œํฌ โ–ถ ๊ฐ€์ƒ๋„คํŠธ์›Œํฌ / ๋ฏธ ์„ฑ๋…„์ž โ–ถ ๋ฏธ์„ฑ๋…„์ž / ์ €๋ฒˆ ๋‹ฌ โ–ถ ์ €๋ฒˆ๋‹ฌ / ๊ฐ€์ƒ ๊ณ„์ขŒ โ–ถ ๊ฐ€์ƒ๊ณ„์ขŒ / ์ƒ๋‹ด ์‚ฌ โ–ถ ์ƒ๋‹ด์‚ฌ / ์œ„ ๋ณ€์กฐ โ–ถ ์œ„๋ณ€์กฐ / ์„ธ์…˜ ๋งŒ๋ฃŒ โ–ถ ์„ธ์…˜๋งŒ๋ฃŒ / ๋ฒ„ํŠผ ํ™œ์„ฑ โ–ถ ๋ฒ„ํŠผํ™œ์„ฑ / ํ™”๋ฉดํ„ฐ์น˜ โ–ถ ํ™”๋ฉดํ„ฐ์น˜ / ๋ฒ„ ์ ผ โ–ถ ๋ฒ„์ ผ / ใ„ด ใ„ด โ–ถ ใ„ดใ„ด / ๊ฐœ๋ฐœ ํŒ€ โ–ถ ๊ฐœ๋ฐœํŒ€ / ์„ค์ • ์กฐ๊ฑด โ–ถ ์„ค์ •์กฐ๊ฑด / ํ•„์ˆ˜ ํ•ญ๋ชฉ โ–ถ ํ•„์ˆ˜ํ•ญ๋ชฉ / ์ƒ์„ธ ์ฃผ์†Œ โ–ถ ์ƒ์„ธ์ฃผ์†Œ / ํ•ด์™ธ ์ถœ์žฅ โ–ถ ํ•ด์™ธ์ถœ์žฅ / ์ปด ํ„ฐ โ–ถ ์ปดํ„ฐ โ–ถ ์ปดํ“จํ„ฐ / ์ด๋ฒคํŠธ ํ•ดํƒ โ–ถ ์ด๋ฒคํŠธํ•ดํƒ / ๋„ค์ด๋ฒ„ ์›นํˆฐ โ–ถ ๋„ค์ด๋ฒ„์›นํˆฐ / ๋‚ฉ์ž… ํšŸ์ˆ˜ โ–ถ ๋‚ฉ์ž…ํšŸ์ˆ˜ / ํ˜„๋Œ€ ํ”ผํƒˆ โ–ถ ํ˜„๋Œ€ํ”ผํƒˆ  โ–ถ ํ˜„๋Œ€์บํ”ผํƒˆ / ํšŒ์› ํƒˆํ‡ด โ–ถ ํšŒ์›ํƒˆํ‡ด / ์ฝœ ์„ผํ„ฐ โ–ถ ์ฝœ์„ผํ„ฐ / ๊ฐค๋Ÿญ์‹œ ๋…ธํŠธ โ–ถ ๊ฐค๋Ÿญ์‹œ๋…ธํŠธ / ์ˆซ์ž ํŒจ๋“œ โ–ถ ์ˆซ์žํŒจ๋“œ / ์ด๋ฒˆ ๋‹ฌ โ–ถ ์ด๋ฒˆ๋‹ฌ 

 

 

N-gram

N-gram์„ ํ†ตํ•ด n๊ฐœ ๋‹จ์–ด์˜ ์—ฐ์‡„๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค. ๋‹จ์–ด1๊ณผ ๋‹จ์–ด2์˜ ๋นˆ๋„๊ฐ€ ๋†’๋‹ค๋Š” ๊ฒƒ์€ ๋‘ ๋‹จ์–ด๊ฐ€ ๋‚˜๋ž€ํžˆ ๋“ฑ์žฅํ•˜๋Š” ๋นˆ๋„๊ฐ€ ๋†’๋‹ค๋Š” ๊ฒƒ์„ ๋œปํ•œ๋‹ค. '๋ณธ์ธ'์€ '์ธ์ฆ'๊ณผ ๋‚˜๋ž€ํžˆ ๋“ฑ์žฅํ•˜๋Š” ๋นˆ๋„๊ฐ€ ๊ฐ€์žฅ ๋†’์œผ๋ฉฐ, '์‚ฌ์šฉ - ํŽธ๋ฆฌ', 'ํ™•์ธ - ์ˆ˜'๊ฐ€ ๋’ค๋”ฐ๋ฅด๊ณ  ์žˆ๋‹ค.  '์ธ์ฆ - ๋ฒˆํ˜ธ', '์ง€๋ฌธ - ์ธ์ฆ'์˜ ๊ฒฝ์šฐ ๋ณตํ•ฉ๋ช…์‚ฌ๋กœ ๋ณผ ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์— N-gram์„ ํ† ๋Œ€๋กœ ๋ณตํ•ฉ๋ช…์‚ฌ๋“ค์„ ์žฌํŽธ์ง‘ ํ•ด์ค€๋‹ค.

 

์ธ์ฆ ๋ฒˆํ˜ธ โ–ถ ์ธ์ฆ๋ฒˆํ˜ธ / ์ง€๋ฌธ ์ธ์ฆ โ–ถ ์ง€๋ฌธ์ธ์ฆ / ์‹ ์šฉ ์ •๋ณด โ–ถ ์‹ ์šฉ ์ •๋ณด / ํœด๋Œ€ํฐ ์ธ์ฆ โ–ถ ํœด๋Œ€ํฐ์ธ์ฆ / ๋Œ€์ถœ ์ •๋ณด โ–ถ ๋Œ€์ถœ์ •๋ณด / ๊ฐœ์ธ ์ •๋ณด โ–ถ ๊ฐœ์ธ์ •๋ณด / ์‹ ์šฉ ๋Œ€์ถœ โ–ถ ์‹ ์šฉ๋Œ€์ถœ / ์ธ์ฆ ์˜ค๋ฅ˜ โ–ถ ์ธ์ฆ์˜ค๋ฅ˜ / ๊ณต์ธ ์ธ์ฆ โ–ถ ๊ณต์ธ์ธ์ฆ / ํ•œ๋„ ์กฐํšŒ โ–ถ ํ•œ๋„์กฐํšŒ / ํ†ต์‹  ์˜ค๋ฅ˜ โ–ถ ํ†ต์‹ ์˜ค๋ฅ˜ / ์ง€๋ฌธ ์ธ์‹ โ–ถ ์ง€๋ฌธ์ธ์‹ / ์ธ์ฆ ๋ฌธ์ž โ–ถ ์ธ์ฆ๋ฌธ์ž 

 

์–ด๋””๊นŒ์ง€๋ฅผ '๋‹จ์–ด์˜ ์—ฐ์‡„', '๋ณตํ•ฉ๋ช…์‚ฌ'๋กœ ๋ณผ ๊ฒƒ์ธ์ง€ ๊ตฌ๋ถ„ํ•˜๋Š” ๊ณผ์ •์ด ๋‹ค์†Œ ๋ชจํ˜ธํ–ˆ๋‹ค.

์ด ์ ์„ ๋ณด์™„ํ•˜๊ธฐ ์œ„ํ•ด ๋ณตํ•ฉ๋ช…์‚ฌ ์‚ฌ์ „์„ ์ฐธ๊ณ ํ•˜๋Š” ๋“ฑ์˜ ๋ณด์•ˆ์ด ํ•„์š”ํ•  ๊ฒƒ ๊ฐ™๋‹ค.

 

 

๋‹จ์–ด ๋นˆ๋„๋ฅผ ์ฐธ๊ณ ํ•˜๋ฉด  '๊ฑฐ', '๊ฒƒ', '๋ฐ', '๋•Œ', '์ˆ˜', '์ค‘', 'ํ›„'์™€ ๊ฐ™์ด ํ•œ ๊ธ€์ž๋กœ ์ด๋ฃจ์–ด์ ธ ์œ ์˜๋ฏธํ•œ ๋œป์ด ์—†๋Š” ๋‹จ์–ด๋“ค์ด ์žˆ๋Š”๋ฐ,

๋นˆ๋„๊ฐ€ ๋†’๊ธฐ ๋•Œ๋ฌธ์— ๊ฒฐ๊ณผ ์˜ํ–ฅ์„ ๋ฏธ์น  ์ˆ˜ ์žˆ์–ด ํ•˜๋‚˜ํ•˜๋‚˜ ์ œ๊ฑฐํ•ด ์ฃผ์—ˆ๋‹ค.

๊ฑฐ โ–ถ  / ๊ฒƒ โ–ถ  / ๋ฐ โ–ถ  /๋•Œ โ–ถ  / ์ˆ˜ โ–ถ  / ์ค‘ โ–ถ  / ํ›„ โ–ถ  / ์ „ โ–ถ  / ใ…ˆ โ–ถ  / ์•ž โ–ถ  / ๋ถ€ โ–ถ  / ๋ถ„ โ–ถ  / ๊ธ€ โ–ถ  

 

ํ…์Šคํ†ฐ์˜ ๊ฒฝ์šฐ ์‚ญ์ œํ•˜๊ณ  ์‹ถ์€ ๋‹จ์–ด๋ฅผ ์ฐพ์•„์„œ ํ•˜๋‚˜ํ•˜๋‚˜ ์ œ๊ฑฐํ•ด์•ผ ํ•˜๊ณ , ๋‹จ์–ด ๋นˆ๋„๊ฐ€ ์ƒ์œ„ 200๊ฐœ๊นŒ์ง€ ๋ฐ–์— ์•ˆ ๋œจ๊ธฐ ๋•Œ๋ฌธ์—

ํŒŒ์ด์ฌ์œผ๋กœ ๋‹จ์–ด ๊ธธ์ด๊ฐ€ 2๊ฐœ ์ดํ•˜์ธ ๊ฒƒ๋“ค์„ ์ œ๊ฑฐํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒŒ ์ข‹์„ ๊ฒƒ ๊ฐ™๋‹ค.

 

๋‹จ์–ด๋นˆ๋„ / TF-IDF

๋‹จ์–ด๋นˆ๋„๋ฅผ ๋ณด๋ฉด '์•ฑ - ์‚ฌ์šฉ - ์ •๋ณด - ์ˆ˜ - ํŽธ๋ฆฌ ..'์˜ ์ˆœ์œผ๋กœ,

TF-IDF๋Š” '์•ฑ - ์‚ฌ์šฉ - ์ •๋ณด - ์ˆ˜ - ๋Œ€์ถœ ..' ์ˆœ์œผ๋กœ ๋งŽ์ด ์–ธ๊ธ‰๋์Œ์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค.

 

TF-IDF๋ž€ ์—ฌ๋Ÿฌ ๋ฌธ์„œ๋กœ ์ด๋ฃจ์–ด์ง„ ๋ฌธ์„œ๊ตฐ์ด ์žˆ์„ ๋•Œ ์–ด๋–ค ๋‹จ์–ด๊ฐ€ ํŠน์ • ๋ฌธ์„œ ๋‚ด์—์„œ ์–ผ๋งˆ๋‚˜ ์ค‘์š”ํ•œ ๊ฒƒ์ธ์ง€๋ฅผ ๋‚˜ํƒ€๋‚ด๋Š” ํ†ต๊ณ„์  ์ˆ˜์น˜์ด๋‹ค. ํ•ด๋‹น ๋ฌธ์„œ์—์„œ ๋นˆ๋„๊ฐ€ ๋†’์„ ์ˆ˜๋ก ๋‹จ์–ด์˜ ์ค‘์š”๋„๊ฐ€ ๋†’์•„์ง€๊ณ (TF), ๋‹ค๋ฅธ ์ „์ฒด ๋ฌธ์„œ์—์„œ ๋งŽ์ด ์“ฐ์ผ์ˆ˜๋ก ์ค‘์š”๋„๊ฐ€ ๋–จ์–ด์ง€๋„๋ก(IDF) ๊ณ„์‚ฐํ•œ๋‹ค.  TF-IDF ๊ฐ’์ด ๋†’์„ ์ˆ˜๋ก ๋‹จ์–ด๊ฐ€ ํ•ด๋‹น ๋ฌธ์„œ์—์„œ ์ค‘์š”ํ•˜๋‹ค๊ณ  ํ•ด์„ํ•  ์ˆ˜ ์žˆ๋‹ค.

 

TF-IDF์˜ ๊ฒฐ๊ณผ๊ฐ’์„ ๋ณด๋ฉด ๋‹จ์–ด๋นˆ๋„ ์ˆœ์œ„์™€ ๊ฑฐ์˜ ์œ ์‚ฌํ•œ ๊ฐ’์„ ๋ณด์ด๊ณ  ์žˆ๋‹ค.

์ฆ‰, ๋ชจ๋“  ๋ฌธ์„œ์—์„œ ์ž์ฃผ ๋“ฑ์žฅํ•˜์ง€ ์•Š์œผ๋ฉด์„œ๋„ ํŠน์ • ๋ฌธ์„œ์—์„œ๋งŒ ์ž์ฃผ ๋“ฑ์žฅํ•˜๋Š” ๋‹จ์–ด๋“ค์ด ๋งŽ๋‹ค๊ณ  ๋ณผ ์ˆ˜ ์žˆ๋‹ค.

 

 

์›Œ๋“œํด๋ผ์šฐ๋“œ(์ƒ์œ„ 30)
๋ฐ”์ฐจํŠธ(์ƒ์œ„ 25)
์—๊ณ ๋„คํŠธ์›Œํฌ(์ƒ์œ„ 25)

๋‹จ์–ด๋นˆ๋„๋ฅผ ๊ฐ€์‹œ์„ฑ ์ข‹๊ฒŒ ํ™•์ธํ•˜๊ธฐ ์œ„ํ•ด์„œ ์›Œ๋“œํด๋ผ์šฐ๋“œ, ๋ฐ”์ฐจํŠธ, ์—๊ณ ๋„คํŠธ์›Œํฌ๋กœ ์‹œ๊ฐํ™”ํ–ˆ๋‹ค.

ํ˜„๋Œ€์บํ”ผํƒˆ ๋ฆฌ๋ทฐ์— ๋Œ€ํ•œ ์—๊ณ ๋„คํŠธ์›Œํฌ ๋ถ„์„๊ฒฐ๊ณผ, '์•ฑ'์ด ๊ฐ€์žฅ ๋†’์€ ๋นˆ๋„๋ฅผ ๋‚˜ํƒ€๋ƒˆ๋‹ค.

๋’ค์ด์–ด  '์‚ฌ์šฉ', '์ •๋ณด', 'ํŽธ๋ฆฌ', '์ˆ˜' ์ˆœ์œผ๋กœ ๋„์ถœ๋๋‹ค.

 

 

 

๊ฐœ์ฒด๋ช… ์ธ์‹

๊ฐœ์ฒด๋ช… ์ธ์‹์€ ๋‹จ์–ด๋ฅผ 13๊ฐœ์˜ ๊ฐœ์ฒด๋ช… ๋ฒ”์ฃผ์— ๋”ฐ๋ผ ๋ถ„๋ฅ˜ํ•˜๊ณ  ๊ทธ ๋นˆ๋„์ˆ˜๋ฅผ ๋‚˜ํƒ€๋‚ธ๋‹ค.

(13๊ฐœ์˜ ๊ฐœ์ฒด๋ช… : ์‚ฌ๋žŒ, ํ•™๋ฌธ, ๋Œ€์ƒ๋ฌผ, ๊ธฐ๊ด€, ์ง€์—ญ, ๋ฌธ๋ช…, ๋‚ ์งœ, ์‹œ๊ฐ„, ์ˆซ์ž, ์‚ฌ๊ฑด/์‚ฌ๊ณ , ๋™๋ฌผ, ์‹๋ฌผ, ๊ธˆ์†, ์šฉ์–ด)

 

๊ฐœ์ฒด๋ช… ์ธ์‹

๋ฏธ๋ฆฌ ์ •์˜๋œ ๊ฐœ์ฒด๋ช… ๋ฒ”์ฃผ๋กœ ๋ถ„๋ฅ˜ํ•˜์—ฌ ํŠธ๋ฆฌ๋งต์œผ๋กœ ๋‚˜ํƒ€๋‚ธ ์‹œ๊ฐํ™”์ด๋‹ค.

๊ฐœ์ฒด๋ช… ์ธ์‹๊ธฐ์— ๊ธฐ๋ณธ ํƒ‘์žฌ๋œ ํ˜•ํƒœ์†Œ ๋ถ„์„๊ธฐ๋กœ ์ถœ๋ ฅ๋œ ํ‚ค์›Œ๋“œ์ด๋ฏ€๋กœ, ํ…์ŠคํŠธ๋งˆ์ด๋‹ ํŽ˜์ด์ง€์—์„œ ์ง์ ‘ ํŽธ์ง‘ํ•œ ๋ฐ์ดํ„ฐ์™€๋Š” ์ฐจ์ด๊ฐ€ ์žˆ๋‹ค๊ณ  ํ•œ๋‹ค.

 


๋งคํŠธ๋ฆญ์Šค

ํ…์Šคํ†ฐ์—์„œ๋Š” ์ •์ œ๋œ ๋‹จ์–ด๋“ค ๊ฐ„์˜ ๋™์‹œ์ถœํ˜„๋นˆ๋„(๊ณต์ถœํ˜„๋นˆ๋„)๋กœ ์ž‘์„ฑ๋œ ๋งคํŠธ๋ฆญ์Šค ๋ฐ์ดํ„ฐ๋ฅผ ์ œ๊ณตํ•œ๋‹ค.

 

โ— ๋งคํŠธ๋ฆญ์Šค mode

1-mode : ๋‹จ์–ด(๋ฉ”์ธ๋…ธ๋“œ)๊ฐ„์˜ ๊ด€๊ณ„ ๋ถ„์„, ํ–‰๊ณผ ์—ด์ด ๊ฐ™์€ ๋‹จ์–ด๋กœ ์ด๋ฃจ์–ด์ง„ ๋งคํŠธ๋ฆญ์Šค

2-mode : ๋‹จ์–ด(๋ฉ”์ธ๋…ธ๋“œ)์™€ ๋ฒ”์ฃผ(์„œ๋ธŒ๋…ธ๋“œ)๊ฐ„์˜ ๊ด€๊ณ„ ๋ถ„์„, ํ–‰๊ณผ ์—ด์ด ๋‹ค๋ฅธ ๋‹จ์–ด๋กœ ์ด๋ฃจ์–ด์ง„ ๋งคํŠธ๋ฆญ์Šค

 

๋„คํŠธ์›Œํฌ์˜ ๊ฐ€์žฅ ์ผ๋ฐ˜์ ์ธ ์œ ํ˜•์ธ 1-mode๋ฅผ ์„ ํƒํ–ˆ๋‹ค. ํ…์Šคํ†ฐ์—์„œ ๊ฐ€์‹œ์„ฑ ์ข‹์€ ์‹œ๊ฐํ™”๋ฅผ ์œ„ํ•ด ์ถ”์ฒœํ•˜๋Š” ๋‹จ์–ด ๊ฐœ์ˆ˜๋Š” 50~70๊ฐœ์ด๋‹ค. ๋”ฐ๋ผ์„œ ๋‹จ์–ด๋นˆ๋„ ์ˆœ์œผ๋กœ ์ƒ์œ„ 50๊ฐœ์˜ ๋‹จ์–ด๋ฅผ ์ ์šฉํ–ˆ๊ณ , ์„ ํƒ๋‹จ์–ด๋ˆ„์ ๋น„์œจ์€ 47.4% ์ •๋„์ด๋‹ค.

 

๋นˆ๋„

์ „์ฒด ๋ฌธ์„œ ๋‚ด์—์„œ ๋‹จ์–ด์˜ ์ถœํ˜„๋นˆ๋„๊ฐ€ ๋†’์€ ์ˆœ์„œ๋Œ€๋กœ ๋‹จ์–ด์™€ ๋นˆ๋„ ์ˆ˜๋ฅผ ํ‘œ์‹œํ•œ๋‹ค.

 

 

์—ฃ์ง€๋ฆฌ์ŠคํŠธ

๋‹จ์–ด์™€ ๋‹จ์–ด, ๋…ธ๋“œ์™€ ๋…ธ๋“œ๋ฅผ ์ง์ง€์–ด ๋ชฉ๋ก์œผ๋กœ ๋ณด์—ฌ์ค€๋‹ค.

 

๋งคํŠธ๋ฆญ์Šค

๋งคํŠธ๋ฆญ์Šค ๋ฐ์ดํ„ฐ(๊ณต์ถœํ˜„ ๋นˆ๋„)์˜ ๊ฒฐ๊ณผ๊ฐ’์„ ์‚ฌ์šฉํ•œ ๋งคํŠธ๋ฆญ์Šค ์ฐจํŠธ์ด๋‹ค.

 

 

๋„คํŠธ์›Œํฌ(์ƒ์œ„ 50)

๋„คํŠธ์›Œํฌ ๋ถ„์„ ๊ฒฐ๊ณผ โ‘  '๋ณธ์ธ ์ธ์ฆ ์˜ค๋ฅ˜ ๋ฐœ์ƒ'๊ณผ  โ‘ก'์‚ฌ์šฉ ํŽธ๋ฆฌ ์•ฑ ์„ค์ •' ๋“ฑ์ด ๊ฐ•๋„๊ฐ€ ๋†’๊ฒŒ ๋‚˜ํƒ€๋‚ฌ๋‹ค.

โ‘  ๋ณธ์ธ→ ์ธ์ฆ (์—ฐ๊ฒฐ๊ฐ•๋„: 92), ์ธ์ฆ → ์˜ค๋ฅ˜ (์—ฐ๊ฒฐ๊ฐ•๋„: 15), ์˜ค๋ฅ˜ → ๋ฐœ์ƒ (์—ฐ๊ฒฐ๊ฐ•๋„: 29)

โ‘ก ์‚ฌ์šฉ → ํŽธ๋ฆฌ (์—ฐ๊ฒฐ๊ฐ•๋„: 51), ํŽธ๋ฆฌ → ์•ฑ  (์—ฐ๊ฒฐ๊ฐ•๋„: 13), ์•ฑ → ์‹คํ–‰ (์—ฐ๊ฒฐ๊ฐ•๋„: 19)

 

 

 

 


๋ถ„๋Ÿ‰ ์ƒ์˜ ์ด์œ ๋กœ ๋‹ด๋ก ๋ถ„์„, ๊ฐ์„ฑ๋ถ„์„, ํ† ํ”ฝ๋ถ„์„์€ ๋‹ค์Œ ํฌ์ŠคํŒ…์—์„œ ๋‹ค๋ค„์•ผ๊ฒ ๋‹ค...!

๋ฐ˜์‘ํ˜•

BELATED ARTICLES

more