Chapter 11 분석4: 주제모형(공변인)
11.1 주제 명명과 공변인 주제모형
11.1.1 개관
주제모형은 기계학습의 비지도학습에 해당한다. 기계가 인간의 ‘지도’를 받지 않고 ’스스로’ 자료에서 일정한 규칙을 찾아 비슷한 유형끼리 군집하는 학습방식이다. 인간이 데이터셋을 미리 분류한 정보를 투입하지 않기 때문에, 기계가 분류한 군집에 대해 인간이 사후적으로 의미를 추론해야 한다. 이번 장에서는 기계가 도출한 각 주제의 주요 단어와 문서를 통해 주제의 의미를 추론하는 방법으로서의 주제 명명에 대해 학습한다.
이와 함께, 메타데이터를 이용한 공변인(covariate) 주제모형 분석에 대해서도 학습한다. 메타데이터는 데이터에 대한 데이터다. 예를 들어, 말뭉치에 포함된 문서의 유형(예: 소설, 논설), 분류(예: 사회면, 정치면), 소속(예: 언론사), 시기(예: 연, 월, 주)에 대한 정보가 메타데이터다. 이 메타데이터를 변수로서 투입해 분석하면 말뭉치의 주제에 대해 보다 의미있는 분석이 가능하다.
예를 들어, 기간대별로 말뭉치의 주제가 어떻게 변하는지, 혹은 문서의 분류에 따라 주제가 어떻게 다른지 등을 분석할 수 있다. 주제의 구조적인 측면은 다룬다고 해서 구조적 주제모형(structural topic models)이라고 한다.
공변인을 투입한 주제모형 분석이므로 여기서는 동적 주제모형과 구조적 주제모형을 모두 공변인 주제모형(Covariates topic models)이라고 하겠다.
stm
패키지와 keyATM
패키지는 말뭉치의 메타데이터를 공변인으로 투입해 말뭉치의 주제에 대한 회귀분석 기능을 제공한다. keyATM
이 보다 최근의 패키지라 보다 다양한 기능이 있지만, 윈도에서 멀티바이트문자를 지원하지 않아 윈도에서는 한글문서를 분석할 수 없다는 단점이 있다.
<- c("tidyverse", "tidytext", "stm", "lubridate")
pkg_v ::map(pkg_v, require, ch = T) purrr
## [[1]]
## [1] TRUE
##
## [[2]]
## [1] TRUE
##
## [[3]]
## [1] TRUE
##
## [[4]]
## [1] TRUE
11.2 자료 준비
11.2.1 수집
빅카인즈의 ‘뉴스분석’ 메뉴에서 ‘뉴스검색·분석’을 선택한 다음, ’상세검색’을 클릭한다. 상세검색은 다양한 기준으로 검색할 수 있다. 검색유형 기본값은 ’뉴스,’ 검색어처리 기본값은 ‘형태소분석,’ 검색어범위 기본값은 ’제목+본문’이다. 모두 기본값으로 검색한다.
- 기간: 2021-01-01 - 2021-03-31
- 검색어: ‘백신,’ ‘코로나19,’ ‘신종 코로나,’ ‘신종코로나,’ ‘우한 폐렴,’ ‘우한폐렴,’ ‘바이러스’ (쉼표로 분리하면 각 검색어를 ‘OR’ 연산자로 검색이 된다.)
- 언론사: 경향신문, 조선일보, 중앙일보, 한겨레
- 통합분류: 정치, 경제, 사회, 국제, 지역, IT_과학
- 분석: 분석기사 (분석기사를 선택하면 중복(반복되는 유사도 높은 기사)과 예외(인사 부고 동정 포토)가 검색에서 제외된다.
모두 14,097건이다.
다운로드한 엑셀파일을 작업디렉토리 아래 data
폴더로 복사한다. data
폴더에서 ‘News’로 시작해서.’xlsx’로 끝나는 파일명만 표시해 보자.
list.files(path = 'data', pattern = '^News.*20210101.*\\.xlsx$')
## [1] "NewsResult_20210101-20210330.xlsx"
데이터셋의 파일명이 ’NewsResult_20210101-20210330.xlsx’이다.
::read_excel("data/NewsResult_20210101-20210330.xlsx") %>% names() readxl
## [1] "뉴스 식별자" "일자"
## [3] "언론사" "기고자"
## [5] "제목" "통합 분류1"
## [7] "통합 분류2" "통합 분류3"
## [9] "사건/사고 분류1" "사건/사고 분류2"
## [11] "사건/사고 분류3" "인물"
## [13] "위치" "기관"
## [15] "키워드" "특성추출(가중치순 상위 50개)"
## [17] "본문" "URL"
## [19] "분석제외 여부"
분석에 필요한 열을 선택해 데이터프레임으로 저장한다. 분석 텍스트는 제목과 본문이다. 제목은 본문의 핵심 내용을 반영하므로, 제목과 본문을 모두 주제모형 분석에 투입한다. 시간별, 언론사별, 분류별로 분석할 계획이므로, 해당 열을 모두 선택한다. 키워드 열은 빅카인즈가 본문에서 추출한 키워드 중 단순 숫자, 이메일주소, 시간이 아닌 단어 등이다. 빅카인즈의 형태소분석결과를 이용할 계획이므로 키워드 열도 선택한다. 빅카인즈는 본문을 200자까지만 무료로 제공하지만, 빅카인즈에서 형태소분석을 통해 추출한 키워드는 기사 전문에서 추출한 결과다. 키워드를 이용하면 기사 전문을 이용하는 효과가 있다.
<-
vac_df ::read_excel("data/NewsResult_20210101-20210330.xlsx") %>%
readxlselect(일자, 제목, 본문, 언론사, cat = `통합 분류1`, 키워드)
%>% head(3) vac_df
## # A tibble: 3 x 6
## 일자 제목 본문 언론사 cat 키워드
## <chr> <chr> <chr> <chr> <chr> <chr>
## 1 20210~ 美 국채 금리 상승에 뉴욕 증~ "정체중이었던 미국 국채금리가 ~ 조선일보~ 경제>증권_~ 국채,금리,상승,출발,뉴욕,증시,~
## 2 20210~ 코로나 변이 바이러스 우려에 ~ "전염병 전문가들이 코로나19 ~ 경향신문~ IT_과학>~ 코로나,바이러스,전문가들,1년,백~
## 3 20210~ “숲 통해 국민 심신 치유하는~ "ㆍ최병암 새 산림청장 인터뷰\~ 경향신문~ 지역>울산~ 치유,국민,심신,사업,최병암,산림~
11.2.2 (선택) 표집
LDA 모형은 베이지언 모형이므로 사후확률의 근사치를 주어진 자료로부터 반복적으로 계산해 주제를 추론한다. 복잡한 계산을 반복적으로 수행하기 때문에 컴퓨터 사양이 낮은 경우 분석이 매우 느릴 수 있다. 데이터 크기와 컴퓨터 서능에 따라 수십분 혹은 수시간 이상 소요될 수 있다. 주제모형 분석 방법 학습 맥락에서 시간 절약을 위해 데이터셋의 일부만 추려 분석에 활용한다. 아래 코드는 1만4천개 행에서 3천개행 표집.
set.seed(37)
<-
vac_sample_df %>%
vac_df sample_n(size = 3000)
%>% glimpse() vac_df
기사 본문과 키워드를 비교해보자.
%>% pull(키워드) %>% head(1) vac_df
## [1] "국채,금리,상승,출발,뉴욕,증시,소폭,하락,정체중,미국,국채,금리,상승세,미국,증시,소폭,약세,출발,마무리,트레이더들,미국,대통령,인프라,투자,계획,매도,국채,30일,현지시간,기준,미국,뉴욕,증시,지수,하락,거래,다우평균,0.24%,S&P,0.35%,나스닥,0.81%,거래,0.81%,채권시장,이날,뉴욕,채권,시장,개장,전자상,거래,만기,국채,금리,하루,0.06%,포인트,여파,코로나,바이러스,1월,수준,기록,미국,정부,사회,인프라,투자,패키지,법안,공개,예정,법안,사회,인프라,투자,패키지,3조,달러,사회,인프라,투자,전망,인플레이션,가능,부각,국채,금리,상승,압력,작용,가능성,국채,금리,상승,이외,매니저,한국,해지펀드,Bill,Hwang,운용,펀드,이케고스,투자,주식,하락,여파,이케고스,지난주,마진콜,계약,가격,변화,부족,증거금,추가,납부,요구,블록딜,일반,주식,거래,양측,거래,상대방,대량,거래,시장,영향,가격,합의,정규장,거래,비아콤,CBS,디스커버리,주식,주식,낙차,발생,전문가들,증시,예상,예측,야후,파이낸스,30일,시황,보도,고용,동향,금요일,전망,이달,63만,일자리,창출,예상,수치,시작,코로나,펜데믹,수치"
%>% pull(제목) %>% head(1) vac_df
## [1] "美 국채 금리 상승에 뉴욕 증시 소폭 하락 출발"
%>% pull(본문) %>% head(1) vac_df
## [1] "정체중이었던 미국 국채금리가 다시 상승세를 보이면서 미국 증시가 소폭 약세를 보이며 출발했다. 1분기 마무리를 앞둔 트레이더들이 조 바이든 미국 대통령의 대규모 인프라 투자 계획 발표 전에 미 국채 매도를 늘리고 있다는 분석이 나온다. \n \n30일 오전 9시 40분(현지시간) 기준 미국 뉴욕 증시 3대 지수는 하락한채 거래 중이다. 다우평균은 전날보다 .."
분석 목적에 맞게 열을 재구성한다. 언론사는 ’여당지’와 ’야당지’로 구분한다. 분류는 ’사회면’와 ’비사회면’로 나눈다.
<-
vac2_df %>%
vac_df # 중복기사 제거
distinct(제목, .keep_all = T) %>%
# 기사별 ID부여
mutate(ID = factor(row_number())) %>%
# 월별로 구분한 열 추가(lubridate 패키지)
mutate(week = week(ymd(일자))) %>%
# 기사 제목과 본문 결합
unite(제목, 본문, col = "text", sep = " ") %>%
# 중복 공백 제거
mutate(text = str_squish(text)) %>%
# 언론사 구분: 야당지, 여당지 %>%
mutate(press = case_when(
== "조선일보" ~ "야당지",
언론사 == "중앙일보" ~ "야당지",
언론사 == "경향신문" ~ "여당지",
언론사 TRUE ~ "여당지") ) %>%
# 기사 분류 구분
separate(cat, sep = ">", into = c("cat", "cat2")) %>%
# IT_과학, 경제, 사회 만 선택
select(-cat2) %>%
# 분류 구분: 사회, 비사회
mutate(catSoc = case_when(
== "사회" ~ "사회면",
cat == "지역" ~ "사회면",
cat TRUE ~ "비사회면") )
## Warning: Expected 2 pieces. Additional pieces discarded in 2 rows [9536, 9995].
%>% glimpse() vac2_df
## Rows: 14,090
## Columns: 9
## $ 일자 <chr> "20210330", "20210330", "20210330", "20210330", "20210330", "2...
## $ text <chr> "美 국채 금리 상승에 뉴욕 증시 소폭 하락 출발 정체중이었던 미국 국채금리가 다시 상승세를 보이면서 미국 ...
## $ 언론사 <chr> "조선일보", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문",...
## $ cat <chr> "경제", "IT_과학", "지역", "IT_과학", "지역", "사회", "사회", "정치", "정치", ...
## $ 키워드 <chr> "국채,금리,상승,출발,뉴욕,증시,소폭,하락,정체중,미국,국채,금리,상승세,미국,증시,소폭,약세,출발,마무리,트레...
## $ ID <fct> 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 1...
## $ week <dbl> 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, ...
## $ press <chr> "야당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지...
## $ catSoc <chr> "비사회면", "비사회면", "사회면", "비사회면", "사회면", "사회면", "사회면", "비사회면", ...
새로 생성된 열의 기사 양을 계산해보자.
%>% count(cat, sort = T) vac2_df
## # A tibble: 8 x 2
## cat n
## <chr> <int>
## 1 사회 3733
## 2 경제 2891
## 3 국제 2164
## 4 정치 2088
## 5 지역 1921
## 6 IT_과학 915
## 7 문화 355
## 8 스포츠 23
문화와 스포츠를 검색단계서 선택하지 않았음에도 데이터셋에 포함된 이유는 하부 분류에 포함돼 있었기 때문이다.
%>% count(catSoc, sort = T) vac2_df
## # A tibble: 2 x 2
## catSoc n
## <chr> <int>
## 1 비사회면 8436
## 2 사회면 5654
비사회면 8436건, 사회면 5653건으로 문서 수에서 큰 차이가 나지 않는다.
%>% count(week) vac2_df
## # A tibble: 13 x 2
## week n
## <dbl> <int>
## 1 1 1491
## 2 2 1299
## 3 3 1229
## 4 4 1379
## 5 5 1219
## 6 6 927
## 7 7 988
## 8 8 1154
## 9 9 1021
## 10 10 942
## 11 11 944
## 12 12 914
## 13 13 583
%>% count(press, sort = T) vac2_df
## # A tibble: 2 x 2
## press n
## <chr> <int>
## 1 야당지 8043
## 2 여당지 6047
월 및 언론사 구분에서도 문서 수에서 큰 차이가 나지 않는다.
11.2.3 정제
11.2.3.1 토큰화
빅카인즈의 형태소분석이 된 키워드를 이용하므로 이미 토큰화가 된 상태이나, 본 분석에 앞서 단어의 빈도 등을 검토하기 위해 정돈텍스트 형식으로 변경하기 위해 토큰화를 진행한다. ‘text’열이 아니라 ’키워드’열의,’’를 기준으로 토큰화한다. 토큰화하기 전 문자, 숫자, 쉼표 이외의 요소를 제거한다. 전각문자는 문자가 아님에도 정규표현식으로 걸리지지 않으므로 추가로 제거한다.
- 추가로 지워야 하는 주요 기호 :
ㆍㅣ‘’“” ○ ● ◎ ◇ ◆ □ ■ △ ▲ ▽ ▼ 〓 ◁ ◀ ▷ ▶ ♤ ♠ ♡ ♥ ♧ ♣ ⊙ ◈ ▣
이외에도 빈도 분석을 통해 정규표현식으로 걸러지지 않은 기호가 나오면 추가로 제거한다.
"!@#$... 전각ㆍㅣ문자 %^&*()" %>% str_remove("\\w+")
## [1] "!@#$... %^&*()"
<- "ㆍ|ㅣ|‘|’|“|”|○|●|◎|◇|◆|□|■|△|▲|▽|▼|〓|◁|◀|▷|▶|♤|♠|♡|♥|♧|♣|⊙|◈|▣"
fullchar_v
<-
vac_tk %>%
vac2_df mutate(키워드 = str_remove_all(키워드, "[^(\\w+|\\d+|,)]")) %>%
mutate(키워드 = str_remove_all(키워드, fullchar_v)) %>%
unnest_tokens(word, 키워드, token = "regex", pattern = ",")
%>% arrange(ID) %>% head(30) vac_tk
## # A tibble: 30 x 9
## 일자 text 언론사 cat ID week press catSoc word
## <chr> <chr> <chr> <chr> <fct> <dbl> <chr> <chr> <chr>
## 1 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 국채
## 2 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 금리
## 3 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 상승
## 4 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 출발
## 5 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 뉴욕
## 6 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 증시
## 7 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 소폭
## 8 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 하락
## 9 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 정체중~
## 10 20210~ 美 국채 금리 상승에 뉴욕 증시 소폭 하락 ~ 조선일보~ 경제 1 13 야당지~ 비사회면~ 미국
## # ... with 20 more rows
%>% arrange(ID) %>% tail(30) vac_tk
## # A tibble: 30 x 9
## 일자 text 언론사 cat ID week press catSoc word
## <chr> <chr> <chr> <chr> <fct> <dbl> <chr> <chr> <chr>
## 1 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 온라인~
## 2 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 자가
## 3 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 진단
## 4 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 제출
## 5 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 선생님~
## 6 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 부재중~
## 7 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 전화
## 8 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 10통
## 9 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 가량
## 10 20210~ "\"당연한 게 당연하지 않은\" \"무기력\~ 경향신문~ 사회 14090 1 여당지~ 사회면 성군
## # ... with 20 more rows
11.2.3.2 불용어 처리
빅카인즈의 형태소분석 결과를 이용하므로 별도의 불용어처리는 불필요하나, 의미없는 고빈도 단어를 선별할 필요가 있다. 단어의 총빈도를 계산해본다. ’백신’과 ’코로나19’의 빈도가 높다. 어느 한 단어가 압도적인 비중을 차지하는 것이 아니므로 제거하지 않고 그대로 둔다. ’코로나’는 ’코로나19’라는 질병의 이름으로 사용됐을수 있고, ’코로나바이러스’라는 병인으로 사용됐을수도 있으므로, ’코로나19’와 병합하지 말고 그대로 둔다.
<-
count_df %>% count(word, sort = T)
vac_tk
%>% head(40) count_df
## # A tibble: 40 x 2
## word n
## <chr> <int>
## 1 백신 34189
## 2 코로나19 32204
## 3 접종 24660
## 4 정부 14813
## 5 미국 12322
## 6 코로나 12120
## 7 대통령 11818
## 8 확진자 11048
## 9 상황 8911
## 10 지원 8710
## # ... with 30 more rows
%>% tail(40) count_df
## # A tibble: 40 x 2
## word n
## <chr> <int>
## 1 히팅 1
## 2 힉스 1
## 3 힌덴버그리서치 1
## 4 힌두경전 1
## 5 힌두교식 1
## 6 힌두트바 1
## 7 힐다 1
## 8 힐러넷 1
## 9 힐리언스 1
## 10 힐링가드닝 1
## # ... with 30 more rows
11.2.4 stm
말뭉치
stm()
함수에서 처리하는 데이터는 각 기사의 토큰이 하나의 열에 함께 있어야 한다. 정돈텍스트형식은 한개의 열에 하나의 토큰만 있으므로 str_flatten()
함수로 하나의 열에 결합한다.
<-
combined_df %>%
vac_tk group_by(ID) %>%
summarise(text2 = str_flatten(word, " ")) %>%
ungroup() %>%
inner_join(vac2_df, by = "ID")
## `summarise()` ungrouping output (override with `.groups` argument)
%>% glimpse() combined_df
## Rows: 14,090
## Columns: 10
## $ ID <fct> 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 1...
## $ text2 <chr> "국채 금리 상승 출발 뉴욕 증시 소폭 하락 정체중 미국 국채 금리 상승세 미국 증시 소폭 약세 출발 마무리...
## $ 일자 <chr> "20210330", "20210330", "20210330", "20210330", "20210330", "2...
## $ text <chr> "美 국채 금리 상승에 뉴욕 증시 소폭 하락 출발 정체중이었던 미국 국채금리가 다시 상승세를 보이면서 미국 ...
## $ 언론사 <chr> "조선일보", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문", "경향신문",...
## $ cat <chr> "경제", "IT_과학", "지역", "IT_과학", "지역", "사회", "사회", "정치", "정치", ...
## $ 키워드 <chr> "국채,금리,상승,출발,뉴욕,증시,소폭,하락,정체중,미국,국채,금리,상승세,미국,증시,소폭,약세,출발,마무리,트레...
## $ week <dbl> 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, 13, ...
## $ press <chr> "야당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지", "여당지...
## $ catSoc <chr> "비사회면", "비사회면", "사회면", "비사회면", "사회면", "사회면", "사회면", "비사회면", ...
textProcessor()
함수는 영문처리를 기본값으로 하고 있다. 영문은 두 글자 단어가 거의 없기 때문에 기본값이 세글자 이상만 분석에 투입하도록 기본값이 설정돼 있다. 국문은 두 글자 단어도 의미있는 단어가 많기 때문에, 단어의 길이를 두 글자 이상으로 설정한다.
<-
processed %>% textProcessor(
combined_df documents = combined_df$text2,
metadata = .,
wordLengths = c(2, Inf)
)
## Building corpus...
## Converting to Lower Case...
## Removing punctuation...
## Removing stopwords...
## Removing numbers...
## Stemming...
## Creating Output...
summary(processed)
## A text corpus with 14090 documents, and an 121938 word dictionary. Use str() to inspect object or see documentation
prepDocuments()함수로 주제모형에 사용할 데이터의 인덱스(wordcounts)를 만든다. 이후 stm말뭉치와 기사 본문을 연결해 확인해야 하므로, 단어와 문서를 제거하지 않는다.
<-
out prepDocuments(processed$documents,
$vocab,
processed$meta,
processedlower.thresh = 0)
summary(out)
## Length Class Mode
## documents 14090 -none- list
## vocab 121938 -none- character
## meta 10 data.frame list
## words.removed 0 -none- character
## docs.removed 0 -none- NULL
## tokens.removed 1 -none- numeric
## wordcounts 121938 -none- numeric
산출결과를 개별 객체로 저장한다. 이 객체들은 이후 모형구축에 사용된다.
<- out$documents
docs <- out$vocab
vocab <- out$meta meta
11.3 분석
주제모형 구축에 앞서 먼저 도출한 주제의 수를 정한다.
11.3.1 주제(topic)의 수 설정
보통 10개부터 100개까지 10개 단위로 주제의 수를 구분해 연구자들이 정성적으로 최종 주제의 수 판단한다.
학습 상황이므로 계산시간을 줄이기 위해 주제의 수를 3개, 9개, 100개의 결과를 비교해보자.
주제모형 분석은 사후 확률의 근사치를 주어진 자료로부터 반복적으로 최적화하는 계산을 수행하기 때문에 자료가 크면 계산시간이 오래 걸린다. 컴퓨터 성능에 따라 수십분 이상 소요될 수 있다.
<- c(3, 9, 100)
topicN
<- searchK(docs, vocab, K = topicN)
storage
storageplot(storage)
11.3.2 모형 구성
stm
패키지가 추출한 주제에 대하여 메타데이터를 변수로 투입하는 방식은 2가지다. ‘topical prevalence’와 ’topical content’를 이용하는 방식이다. ’topical prevalence’ 공변인은 prevalence =
인자를 통해 투입하고, ’topical content’는 cotent =
인자를 통해 투입한다. 모형에 따라 prevalence
와 content
중 하나만 투입하기도 하고 둘다 투입하기도 한다.
Topical prevalence: 공변인에 따른 문서별 주제 분포의 비율
Topical content: 공변인에 따른 단어별 주제 분포
연속변수를 투입할 때는 s()
함수를 이용해 구간의 수를 지정한다. s()
함수는 공변인을 연속변수로 투입할때 spline으로 추정하도록 한다. 즉, 구간을 지정해 각 구간별로 따로 회귀식을 구하면서 각 구간을 연속적인 형태로 만들어준다. 구간의 수는 df =
인자를 통해 투입한다. 기본값은 10이다.
주제모형분석을 위해서는 주제어 선정과 분포계산을 반복적으로 수행한다. 이 과정을 화면에 출력되지 않게 verbose =
인자를 FALSE
로 설정할 수 있다.
- 주의: 메타데이터 인자(
prevalence =~
와content =~
)에 투입할 때=
가 아니라=~
!!!
아래 모형에서는 언론사의 정치성향과 시간을 공변인으로 투입했다.
<- Sys.time()
t1 <-
meta_fit stm(
documents = docs,
vocab = vocab,
data = meta,
K = 9,
prevalence =~ press + s(week, 6), # 투입하는 공변인
max.em.its = 75, # 최대 반복계산 회수
verbose = F, # 반복계산결과 화면출력 여부
init.type = "Spectral",
seed = 37
)<- Sys.time()
t2 -t1 t2
## Time difference of 5.331807 mins
summary(meta_fit)
## A topic model with 9 topics, 14090 documents and a 121938 word dictionary.
## Topic 1 Top Words:
## Highest Prob: 백신, 접종, 코로나, 아스트라제네카, 바이러스, 예방, 영국
## FREX: 접종, 아스트라제네카, 임상, az, 면역, 화이자, 혈전
## Lift: covax, nvg, 결합력, 경북바이오산단, 과과학연구소, 구충, 구충제
## Score: 접종, 백신, 아스트라제네카, 접종자, az, 임상, 혈전
## Topic 2 Top Words:
## Highest Prob: 코로나, 지원, 지급, 정부, 지원금, 재난, 매출
## FREX: 추경안, 가액, 예비비, 지원대상, 부가세, 본예산, 하이트진로
## Lift: aabl, accessori, acss, add, ageless, ak골프, ak시그니처
## Score: 지원금, 매출, 지급, 소상공인, 소득, 대출, 자영업자
## Topic 3 Top Words:
## Highest Prob: 달러, 투자, 기업, 코로나, 시장, 미국, 경제
## FREX: 주식, 반도체, 주가, 증시, 투자자, 코스피, 공매도
## Lift: lng, 공모가, 기준금리, 테슬라, <U+8721><U+7B14>小新, aaai, acea
## Score: 금리, 증시, 달러, 주식, 반도체, 코스피, 공매도
## Topic 4 Top Words:
## Highest Prob: 코로나, 병원, 경찰, 환자, a씨, 의료, 법무부
## FREX: 교도소, 서울동부구치소, 의료법, 재판부, 재소자, 서울구치소, 정인이
## Lift: b경위, httpwwwhanicokrartisocietylaborhtmlnurl, lg마포빌딩, ㄱ요양병원, 가명정보, 가습기살균제, 가짜정당
## Score: 수용자, 구치소, 경찰, 병원, 법무부, 동부구치소, 혐의
## Topic 5 Top Words:
## Highest Prob: 미국, 중국, 일본, 한국, 코로나, 북한, 정부
## FREX: 올림픽, 도쿄, 미얀마, 스가, 쿼드, 군부, 도쿄올림픽
## Lift: 관영, <U+53CC><U+80DC>利, <U+55F6><U+54E9><U+55F6><U+54E9>, <U+5E83>末<U+6DBC>子, <U+6D45>田<U+771F>央, <U+760B>語宅, <U+85F3>城
## Score: 북한, 중국, 바이든, 외교, 트럼프, 이란, 미국
## Topic 6 Top Words:
## Highest Prob: 온라인, 교육, 코로나, 서비스, 지원, 사업, 학교
## FREX: 클럽하우스, 학년도, 학급, 메타버스, vr, 특강, 명예의
## Lift: afpk, ai학습, ambassador, asmr, busan, cfp자격인증자, cj올리브네트웍스
## Score: 브랜드, 수업, 학생, 등교, 학년, 고객, 학교
## Topic 7 Top Words:
## Highest Prob: 대통령, 국민, 의원, 후보, 대표, 정부, 민주당
## FREX: 선거, 지지율, 출마, 탄핵, 사면, 보궐, 경선
## Lift: aclu, afd, authoritarian, born, cepa, chief, confucian
## Score: 대통령, 민주당, 후보, 선거, 대선, 출마, 의원
## Topic 8 Top Words:
## Highest Prob: 확진자, 코로나, 감염, 검사, 방역, 확진, 발생
## FREX: 진단검사, 비수도권, 입국자, 열방, btj, 선교회, 다중이용시설
## Lift: a어린이집, b요양원, command, iem국제학교, lpc, lw, tcs에이스국제학교
## Score: 확진자, 확진, 판정, 검사, 감염, 방대본, 집단감염
## Topic 9 Top Words:
## Highest Prob: 코로나, 여성, 사람, 사회, 생각, 사람들, 서울
## FREX: 출생아, 층간소음, 천사, 빙어, 칫솔, 장미, 빨대
## Lift: 간절곶, 계방산, 구분상가, 군항제, 귀마개, 김슬기, 꽃향기
## Score: 플라스틱, 쓰레기, 결혼, 축제, 일자리, 가구, 여성
11.4 주제 이름짓기
11.4.1 주제별 단어와 원문 결합
주제 단어가 추출된 원문을 살펴보면 해당 주제를 보다 명확하게 파악할 수 있다. 모형 구성에 투입한 데이터와 문서(이 경우 개별 기사) 본문이 포함된 데이터를 결합해야 한다. stm
패키지는 findThoughts()
함수를 통해 각 모형별로 전형적인 문서를 확인할 수 있도록 한다.
findThoughts(
model = meta_fit, # 구성한 주제모형
texts = vac2_df$text, # 문서 본문 문자 벡터
topics = c(1, 2), # 찾고자 하는 주제의 값. 기본값은 모든 주제
n = 3 # 찾고자 하는 문서의 수
)
##
## Topic 1:
## 770만명 맞을 아스트라, 유럽선 중단 EU(유럽연합) 4대 회원국인 독일 프랑스 이탈리아 스페인이 15일(현지 시각) 아스트라제네카(AZ) 코로나 백신의 접종을 일시 중단하겠다고 선언했다. 접종 후 혈전(血栓 핏덩이)이 생기는 부작용이 발생했다는 보고가 잇따르자 추가 조사 결과가 나올 때까지 접종을 멈추겠다는 것이다. 이날 옌스 슈판 독일 보건부 장관은 “부작용이 백신 접종의 효과를 ..
## 아스트라 백신 1차 검증서 "예방 효과 62% 고령층 접종 가능" 아스트라제네카 백신이 국내 접종을 앞두고 허가 심사 첫 관문을 통과했다. 식품의약품안전처 외부 자문단이 아스트라제네카 백신에 대해 조건부 허가할 수 있다는 결론을 내렸다. 해외에서 논란이 일고 있는 65세 이상 고령자 접종에 대해서도 자문단 다수가 “투여할 수 있다”고 의견을 냈다. 식약처 허가를 통과하면 아스트라제네카 백신은 이달 말께 공급돼 요양병원..
## 65세 이상, 아스트라 백신 접종 연기 아스트라제네카 코로나 백신의 최우선 접종 대상에서 ‘65세 이상’ 고령층이 제외됐다. 코로나19 예방접종 대응 추진단(단장 정은경 질병관리청장)은 당초 2월 접종 예정이었던 요양병원 요양시설의 65세 이상 고령자 접종을 2분기(4~6월) 이후로 미룬다고 15일 밝혔다. 최근 유럽에서 ‘효과 검증이 부족하다’는 이유로 65세 이상에 대한 아스트라제네..
## Topic 2:
## 매출 근로자 수 기준 재검토 실질 피해 따져 ‘사각’ 없앤다 기재부, 선별 방식 연구용역 발주 업종 간 형평성도 보완 ‘직격탄’ 업종 더 주고, 특고 프리랜서 제한 기준 개선할 듯 4차 재난지원금 ‘선별지원’을 주장해온 정부는 ‘선별 속 선별’을 강조하고 있다. 지급 대상을 더 정교하게 구분해서 피해에 걸맞은 지원액을 최대한 많이 주자는 것이다. 앞선 지급과정에서 문제로 드러난 매출 근로자 수 기준, 업종 구분..
## 분배 악화일로 근로 사업소득 사상 첫 3분기째 동반 감소 코로나19 3차 유행이 시작된 지난해 4분기 상 하위 계층 간 소득 격차가 벌어지며 두 분기 연속 분배 상황이 악화했다. 코로나19로 인한 경기 부진과 고용 충격이 저소득층에 집중되면서 소득 불균형을 키웠다. 코로나19 사태 장기화로 일해서 버는 돈인 근로소득과 사업소득이 사상 처음으로 세 분기 연속 동반 감소했다. 18일 통계청이 발표한 ‘2020년..
## 소상공인 자영업자 코로나 피해지원금 최대 500만원 검토 정부가 4차 재난지원금에 포함할 소상공인 자영업자 피해지원금을 매출 감소에 따라 차등 지원하는 방안을 추진 중이다. 1인당 지원금은 최대 500만원까지 지급하는 방안을 검토 중이다. 21일 더불어민주당과 정부 설명을 종합하면, 기획재정부는 다음달 초 국회에 제출할 예정인 추가경정예산(추경)안에 이런 내용을 담은 소상공인 피해지원대책을 논의 중이다. ..
구성한 stm모형과 구성전 데이터프레임을 결합하면 보다 다양한 방식으로 문서의 원문을 탐색할 수 있다.
결합하는 두 데이터프레임의 기준이 되는 열에 포함된 자료의 유형을 통일시킨다. 여기서는 정수(integer)로 통일시켰다.
<- meta_fit %>% tidy(matrix = "gamma")
td_gamma $document <- as.integer(td_gamma$document)
td_gamma$ID <- as.integer(combined_df$ID) combined_df
각 주제는 독립된 열로 분리한다.
<-
text_gamma %>%
combined_df select(ID, text2, text, 키워드) %>%
left_join(td_gamma, by = c("ID" = "document")) %>%
pivot_wider(
names_from = topic,
values_from = gamma,
names_prefix = "tGamma",
values_fill = 0
)
%>% glimpse() text_gamma
## Rows: 14,090
## Columns: 13
## $ ID <int> 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, ...
## $ text2 <chr> "국채 금리 상승 출발 뉴욕 증시 소폭 하락 정체중 미국 국채 금리 상승세 미국 증시 소폭 약세 출발 마무...
## $ text <chr> "美 국채 금리 상승에 뉴욕 증시 소폭 하락 출발 정체중이었던 미국 국채금리가 다시 상승세를 보이면서 미국...
## $ 키워드 <chr> "국채,금리,상승,출발,뉴욕,증시,소폭,하락,정체중,미국,국채,금리,상승세,미국,증시,소폭,약세,출발,마무리,트...
## $ tGamma1 <dbl> 0.0060292392, 0.9441873856, 0.0588936275, 0.3614204149, 0.0...
## $ tGamma2 <dbl> 0.0113089636, 0.0018590936, 0.0091681824, 0.0645487511, 0.0...
## $ tGamma3 <dbl> 9.361227e-01, 3.914378e-03, 1.830694e-02, 7.849181e-03, 6.1...
## $ tGamma4 <dbl> 0.0005764308, 0.0044041540, 0.0039244620, 0.0044678666, 0.0...
## $ tGamma5 <dbl> 0.0077514992, 0.0095685254, 0.0125046358, 0.0019529662, 0.0...
## $ tGamma6 <dbl> 0.0030987050, 0.0022993557, 0.3696353101, 0.5170777229, 0.0...
## $ tGamma7 <dbl> 0.0334373152, 0.0115966703, 0.2107330141, 0.0255468541, 0.0...
## $ tGamma8 <dbl> 0.0001949795, 0.0071055519, 0.0036831994, 0.0121724549, 0.0...
## $ tGamma9 <dbl> 0.0014801863, 0.0150648851, 0.3131506241, 0.0049637884, 0.9...
각 주제별로 확률분포가 높은 문서를 확인해 보자. 각 문서에서 감마가 높은 순서로 정열하면, 해당 주제에 속할 확률이 높은 문서 순서대로 볼수 있다. pull()
함수를 이용하면 해당 열의 모든 내용을 볼수 있다.
%>%
text_gamma arrange(-tGamma7) %>%
pull(text) %>% head(9)
## [1] "이낙연의 사면론 묘수일까 자충수일까 당대표 임기 두달 앞두고 전격 제기 하필이면 왜, 지금일까 이적수. 바둑용어다. 바둑에서 이적수는 둘이다. 이적수(利敵手)와 이적수(耳赤手). 한글발음은 같지만, 뜻은 정반대다. 이적수(利敵手)는 상대방에게 유리한 결과를 두는 수다. 자충수가 대표적이다. 이적수(耳赤手)는 상대방의 귀가 빨갛게 변하는 수다. 형세가 불리할 때 역전의 발판이 되.."
## [2] "2021 서울시장 선거, 단일화 전쟁이 시작됐다 오는 4월7일 서울시장과 부산시장을 다시 뽑는다. 내년 3월 대선을 앞둔 전초전이어서 여야 모두 물러설 수 없는 승부다. 대한민국 ‘민심의 풍향계’인 수도 서울에선 더더욱 그렇다. 여당은 수성을, 야당은 수복을 노리고 있다. 선거 한 달을 앞두고 주요 정당의 서울시장 후보가 모습을 드러내고 있지만 아직 대진표는 확정되지 않았다. 후보 단일화 과정이 남.."
## [3] "금태섭 \"1대1 경선하자\" 안철수 \"국민의힘 논의 먼저\" 금태섭 전 더불어민주당 의원이 31일 서울시장 보궐선거 출마선언을 하면서 안철수 국민의당 대표를 향해 “제3지대 경선을 하자”고 제안했다. 이날 조정훈 시대전환 대표도 보선 출사표를 던지면서 범야권 단일화 시계가 본격적으로 움직이기 시작했다. 이날 오전 서울 마포구의 한 공연장에서 출마선언을 한 금 전 의원은 “서울 시민의 삶을 바꾸고 변화의 .."
## [4] "사면론 이틀만에 막히자...이낙연 \"오랜 충정에서 말한 것뿐\" 이낙연 더불어민주당 대표가 꺼낸 이명박 박근혜 전 대통령에 대한 사면(赦免) 구상이 당원과 지지층의 반발에 부딪히면서 제동이 걸렸다. 이 대표가 새해 첫날 언론 인터뷰에서 ‘사면론’을 꺼낸 지 이틀 만이다. 이 대표는 3일 오후 국회 의원회관 사무실에서 긴급 최고위원 간담회를 소집해 의견 수렴에 나섰다. 당 최고위원회는 회의 직후 입장문(최인호 .."
## [5] "서울시장 선거 여권 재역전 가능할까 오세훈 강세 지속 선거전 1주일 유권자 선택 중요 “오해하면 안 되는 것이 LH 사태라는 돌발변수 때문에 뒤집힌 것이 아니라는 점이다.” 민주당 측 당 전략전문가의 말이다. “교육부 서기관 나향욱의 개돼지 발언을 보라. 그게 박근혜가 시켜 한 발언인가. 박근혜나 당시 새누리당과 아무 관련 없이 터져나온 것이다. 그렇지 않아도 불만이 쌓여.."
## [6] "文 교감 속 작품? 반전 노린 3위 이낙연의 '사면' 승부수 이낙연 더불어민주당 대표가 “이명박 박근혜 전 대통령 사면 건의” 뜻을 1일 언론 인터뷰에서 밝히면서 정국을 흔들었다. 평소 신중한 성격의 이 대표가 대통령 고유 권한인 사면 문제를 먼저 꺼낸 걸 두고 “사면에 대한 대통령의 정치적 부담을 줄이고, 한 편으론 대선 후보 지지율 3위로 주저앉은 자신을 위한 반전 계기를 만들려 했다”는 분석이 나온다. 이날.."
## [7] "\"대선 포기\" 안철수가 치고나간 서울시장 선거 여야 딜레마 4 7 재보선의 하이라이트로 꼽히는 서울시장 보궐선거전은 지난달 20일 출렁댔다. 주요 예상 후보들이 출마 선언을 미루는 가운데 안철수 국민의당 대표가 “대권 포기, 야권 단일화”를 외치며 치고 나갔다. 여야는 과거 중도층 지지를 받았던 안 대표의 등장에 촉각을 곤두세웠다. ━ 경선에 주목하는 與 민주당에선 우상호 의원이 처음 출마를.."
## [8] "금 “새정치만 10년째, 성과 뭔가?” 안 “정치개혁 초심 여전히 굳다” “10년 전 ‘새정치’라는 기치를 들고 나오셨다. 그런데 10년 동안 어떤 성과가 있었나?”(금태섭 후보) “금 후보나 저나 정치를 같은 시기에 시작했다. 정치를 개혁하겠단 초심, 의지는 여전히 굳고 똑같다.”(안철수 후보) 4월 서울시장 재보궐 선거에 출마한 안철수 국민의당 예비후보와 무소속 금태섭 예비후보가 18일 ‘문재인 정부의 4년 평가와.."
## [9] "범야권 ‘단일화 시계’ 빨라지나 금태섭, 안철수에 “1:1 경선하자” 금태섭 전 더불어민주당 의원이 31일 서울시장 보궐선거 출마선언을 하면서 안철수 국민의당 대표를 향해 “제3지대 경선을 하자”고 제안했다. 금 전 의원은 이날 오전 서울 마포구 공연장에서 출마선언을 하면서 “서울시민의 삶을 바꾸고 변화의 새판을 열어야 하는 선거지만 정치권은 오래된 싸움만 하고 있다”며 “엄중한 시기를 오래되고 낡은 정치에 맡길 .."
%>%
text_gamma arrange(-tGamma7) %>%
pull(키워드) %>% .[6]
## [1] "교감,작품,반전,이낙연,사면,승부수,대표,이낙연,더불어민주당,이명박,박근혜,대통령,건의,인터뷰,언론,정국,평소,신중,성격,대표,권한,대통령,고유,사면,사면,대통령,정치,부담,대선,후보,지지율,자신,반전,계기,이날,민주당,사면,주장,모습,추락,승부수,관계자,민주당,핵심,중앙일보,메시지,대표,모습,통합,원래,이낙연,본모습,국가,좌고우면,설명,취임,문파,文派,강성,지지,비판,대표,목소리,신호,의미,이날,여론조사,각종,신년,여론,조사,대표,이재명,윤석열,지지,대선,주자,3위,대표,혼자,주장,여권,대통령,대표,사이,임기,마지막,화두,국민,통합,의기투합,4,모종,그림,발언,기획,대표,26일,차례,대통령,차례,독대,대표,당내,의견,청와대,국민,소통,수석,윤영찬,의원,참여,의원,중앙일보,통화,조언,대표,의견,교환,생각,임기,총대,멨나,대표,임기,마지막,대통령,구속,전직,대통령,정치,부담,총대,가능성,거론,친문,분류,의원,대통령,고민,대표,이슈,당직,의원,대표,신중,성격,대통령,영역,사람,혼자,독단,대통령,권한,이야기,임기,대표,지지,반발,각오,결단,추론,당내,부정,여론,김종민,최고,위원,통화,결정,국민,수용,대통령,사면권,국민,위임,권한,여야,국정농단,정치,상황,고민,극복,개선,방안,모색,논의,우상호,의원,페이스북,사람,반성,사과,박근혜,심판,사법,반대,공개적,가시화,내부,반발,가시,대표,명분,신년사,언급,사회,갈등,완화,국민,통합,비판,분출,의원,친문,재선,통합,이명박,박근혜,대통령,사면,국민,논의,당대표,대통령,압박,비판,상의,초선,최고,위원,본인,결단,전략통,의원,사면,수도,재선,당내,반발,확산,양상,게시판,민주당,권리당원,대통령,도전,생각,사퇴,촛불민심,뒤통수,비난,도배,대표,건의,해피엔딩,대통령,수용,여부,대통령,통합,이미지,대선후보,유력,대선,후보,청와대,반대,좌초,대표,오점,대표,모두발언,신년인,사회,발언,김대중,외환위기,노무현,안보,위기,문재인,코로나19,현직,대통령,위기,극복,거론,전진,통합,동시,통합,강조,주변,대표,윤석열,탄핵,배제,친문세력들,문자,폭탄,와중,반응,삼척동자,친문,초선,대표,비난,승부수,의미"
각 주제별로 대표 단어를 선택해 원문을 살펴보자.
%>%
text_gamma arrange(-tGamma2) %>%
filter(str_detect(text, "지원금")) %>%
mutate(text = str_replace_all(text, "지원금", "**지원금**")) %>%
pull(text) %>%
head(5)
## [1] "매출 근로자 수 기준 재검토 실질 피해 따져 ‘사각’ 없앤다 기재부, 선별 방식 연구용역 발주 업종 간 형평성도 보완 ‘직격탄’ 업종 더 주고, 특고 프리랜서 제한 기준 개선할 듯 4차 재난**지원금** ‘선별지원’을 주장해온 정부는 ‘선별 속 선별’을 강조하고 있다. 지급 대상을 더 정교하게 구분해서 피해에 걸맞은 지원액을 최대한 많이 주자는 것이다. 앞선 지급과정에서 문제로 드러난 매출 근로자 수 기준, 업종 구분.."
## [2] "소상공인 자영업자 코로나 피해**지원금** 최대 500만원 검토 정부가 4차 재난**지원금**에 포함할 소상공인 자영업자 피해**지원금**을 매출 감소에 따라 차등 지원하는 방안을 추진 중이다. 1인당 **지원금**은 최대 500만원까지 지급하는 방안을 검토 중이다. 21일 더불어민주당과 정부 설명을 종합하면, 기획재정부는 다음달 초 국회에 제출할 예정인 추가경정예산(추경)안에 이런 내용을 담은 소상공인 피해지원대책을 논의 중이다. .."
## [3] "피해지원? 경기부양? “재난**지원금** 목표따라 규모 정해야” 지난해 전국민에게 지급한 14조3천억원 규모의 긴급재난**지원금**이 일으킨 소비 효과를 두고 학계가 뜨겁게 논쟁하고 있다. 소비 진작 효과가 투입 금액의 24%였다는 연구에서 최대 78%에 이른다는 분석까지 나온다. 연구 결과들은 공통으로 전체적인 소비 진작 효과뿐만 아니라 지원방식, 지급대상 등을 더욱 정교하게 설계해 **지원금** 지급 효율성을 높여야 한다고 강.."
## [4] "코로나 고용 한파에 소득 불평등 커졌다 ㆍ임시 일용직 많은 저소득층 타격 ㆍ하위 20% 근로소득 급감 적자살림 ㆍ4분기 ‘5분위 배율’ 4.72로 더 악화 ㆍ정부 지원 효과로 양극화 폭 줄여 코로나19에 따른 경제충격으로 지난해 4분기에 소득양극화가 심화된 것으로 나타났다. 정부가 2차 긴급재난**지원금**으로 취약계층을 집중 지원했지만 물리적(사회적) 거리 두기에 따른 일자리 쇼크 해소.."
## [5] "29일 소상공인, 30일 특고 프리랜서 4차 재난**지원금** 지급 29일부터 소상공인 특수형태근로종사자 등 코로나19 피해계층을 대상으로 한 4차 재난**지원금** 지급이 시작된다. 28일 기획재정부 등에 따르면 정부는 6조7천억원 규모의 소상공인 버팀목자금 플러스와 1조원 규모의 고용 취약계층 피해**지원금**을 29일부터 순차 지급한다. 소상공인 버팀목자금 플러스는 집합금지 제한업종 및 국세청 자료에서 매출 감소가 확인되는.."
11.4.2 주제 이름 목록
각 주제별로 주요 주제어와 해당 문서의 본문을 비교해 주제별로 주요 문서를 살펴보고 주제에 대한 이름을 짓는다. 각 주제별 주요 단어는 labelTopics()
함수를 통해 주요단어를 찾을 수 있다. 주제별 이름은 목록을 만들어 데이터프레임에 저장한다.
labelTopics(meta_fit)
## Topic 1 Top Words:
## Highest Prob: 백신, 접종, 코로나, 아스트라제네카, 바이러스, 예방, 영국
## FREX: 접종, 아스트라제네카, 임상, az, 면역, 화이자, 혈전
## Lift: covax, nvg, 결합력, 경북바이오산단, 과과학연구소, 구충, 구충제
## Score: 접종, 백신, 아스트라제네카, 접종자, az, 임상, 혈전
## Topic 2 Top Words:
## Highest Prob: 코로나, 지원, 지급, 정부, 지원금, 재난, 매출
## FREX: 추경안, 가액, 예비비, 지원대상, 부가세, 본예산, 하이트진로
## Lift: aabl, accessori, acss, add, ageless, ak골프, ak시그니처
## Score: 지원금, 매출, 지급, 소상공인, 소득, 대출, 자영업자
## Topic 3 Top Words:
## Highest Prob: 달러, 투자, 기업, 코로나, 시장, 미국, 경제
## FREX: 주식, 반도체, 주가, 증시, 투자자, 코스피, 공매도
## Lift: lng, 공모가, 기준금리, 테슬라, <U+8721><U+7B14>小新, aaai, acea
## Score: 금리, 증시, 달러, 주식, 반도체, 코스피, 공매도
## Topic 4 Top Words:
## Highest Prob: 코로나, 병원, 경찰, 환자, a씨, 의료, 법무부
## FREX: 교도소, 서울동부구치소, 의료법, 재판부, 재소자, 서울구치소, 정인이
## Lift: b경위, httpwwwhanicokrartisocietylaborhtmlnurl, lg마포빌딩, ㄱ요양병원, 가명정보, 가습기살균제, 가짜정당
## Score: 수용자, 구치소, 경찰, 병원, 법무부, 동부구치소, 혐의
## Topic 5 Top Words:
## Highest Prob: 미국, 중국, 일본, 한국, 코로나, 북한, 정부
## FREX: 올림픽, 도쿄, 미얀마, 스가, 쿼드, 군부, 도쿄올림픽
## Lift: 관영, <U+53CC><U+80DC>利, <U+55F6><U+54E9><U+55F6><U+54E9>, <U+5E83>末<U+6DBC>子, <U+6D45>田<U+771F>央, <U+760B>語宅, <U+85F3>城
## Score: 북한, 중국, 바이든, 외교, 트럼프, 이란, 미국
## Topic 6 Top Words:
## Highest Prob: 온라인, 교육, 코로나, 서비스, 지원, 사업, 학교
## FREX: 클럽하우스, 학년도, 학급, 메타버스, vr, 특강, 명예의
## Lift: afpk, ai학습, ambassador, asmr, busan, cfp자격인증자, cj올리브네트웍스
## Score: 브랜드, 수업, 학생, 등교, 학년, 고객, 학교
## Topic 7 Top Words:
## Highest Prob: 대통령, 국민, 의원, 후보, 대표, 정부, 민주당
## FREX: 선거, 지지율, 출마, 탄핵, 사면, 보궐, 경선
## Lift: aclu, afd, authoritarian, born, cepa, chief, confucian
## Score: 대통령, 민주당, 후보, 선거, 대선, 출마, 의원
## Topic 8 Top Words:
## Highest Prob: 확진자, 코로나, 감염, 검사, 방역, 확진, 발생
## FREX: 진단검사, 비수도권, 입국자, 열방, btj, 선교회, 다중이용시설
## Lift: a어린이집, b요양원, command, iem국제학교, lpc, lw, tcs에이스국제학교
## Score: 확진자, 확진, 판정, 검사, 감염, 방대본, 집단감염
## Topic 9 Top Words:
## Highest Prob: 코로나, 여성, 사람, 사회, 생각, 사람들, 서울
## FREX: 출생아, 층간소음, 천사, 빙어, 칫솔, 장미, 빨대
## Lift: 간절곶, 계방산, 구분상가, 군항제, 귀마개, 김슬기, 꽃향기
## Score: 플라스틱, 쓰레기, 결혼, 축제, 일자리, 가구, 여성
주제별 이름 목록을 데이터프레임에 저장한다.
<- tibble(topic = 1:9,
topic_name name = c("1. 백신 접종자",
"2. 코로나 지원금",
"3. 경제 영향",
"4. 집단 수용자",
"5. 국제 관계",
"6. 교육 온라인",
"7. 정치권 동향",
"8. 확진자 검진",
"9. 사회 영향") )
주제별 상위 7개 단어목록을 데이터프레임에 저장한 다음, 이름 목록과 결합한다.
<- meta_fit %>% tidy(matrix = 'beta')
td_beta
<-
term_topic_name %>%
td_beta group_by(topic) %>%
slice_max(beta, n = 7) %>%
left_join(topic_name, by = "topic")
term_topic_name
## # A tibble: 63 x 4
## # Groups: topic [9]
## topic term beta name
## <int> <chr> <dbl> <chr>
## 1 1 백신 0.0842 1. 백신 접종자
## 2 1 접종 0.0612 1. 백신 접종자
## 3 1 코로나 0.0249 1. 백신 접종자
## 4 1 아스트라제네카 0.0115 1. 백신 접종자
## 5 1 바이러스 0.00924 1. 백신 접종자
## 6 1 예방 0.00745 1. 백신 접종자
## 7 1 영국 0.00676 1. 백신 접종자
## 8 2 코로나 0.0183 2. 코로나 지원금
## 9 2 지원 0.0180 2. 코로나 지원금
## 10 2 지급 0.0141 2. 코로나 지원금
## # ... with 53 more rows
11.4.3 주제별 단어 분포도
단어별로 부여된 베타 값을 이용해 주제별 단어 분포도를 각 주제의 이름과 함께 시각화한다.
%>%
term_topic_name
ggplot(aes(x = beta,
y = reorder_within(term, beta, name), # 각 주제별로 재정렬
fill = name)) +
geom_col(show.legend = F) +
facet_wrap(~name, scales = "free") +
scale_y_reordered() + # 재정렬한 y축의 값 설정
labs(x = expression("단어 확률분포: "~beta), y = NULL,
title = "주제별 단어 확률 분포",
subtitle = "주제별로 다른 단어들로 군집") +
theme(plot.title = element_text(size = 20))
11.4.4 주제별 문서 분포도
문서별로 부여된 감마 값을 이용한 주제별로 문서의 분포도를 각 주제의 이름과 함께 시각화한다.
<- meta_fit %>% tidy(matrix = 'gamma')
td_gamma
<-
doc_topic_name %>%
td_gamma group_by(topic) %>%
left_join(topic_name, by = "topic")
doc_topic_name
## # A tibble: 126,810 x 4
## # Groups: topic [9]
## document topic gamma name
## <int> <int> <dbl> <chr>
## 1 1 1 0.00603 1. 백신 접종자
## 2 2 1 0.944 1. 백신 접종자
## 3 3 1 0.0589 1. 백신 접종자
## 4 4 1 0.361 1. 백신 접종자
## 5 5 1 0.000923 1. 백신 접종자
## 6 6 1 0.00141 1. 백신 접종자
## 7 7 1 0.992 1. 백신 접종자
## 8 8 1 0.00166 1. 백신 접종자
## 9 9 1 0.00302 1. 백신 접종자
## 10 10 1 0.00175 1. 백신 접종자
## # ... with 126,800 more rows
%>%
doc_topic_name ggplot(aes(x = gamma, fill = name)) +
geom_histogram(bins = 50, show.legend = F) +
facet_wrap(~name) +
labs(title = "주제별 문서 확률 분포",
y = "문서(기사)의 수", x = expression("문서 확률분포"~(gamma))) +
theme(plot.title = element_text(size = 20))
11.4.5 주제별 단어-문서 분포
# 주제별 상위 7개 단어 추출
<-
top_terms %>%
td_beta group_by(topic) %>%
slice_max(beta, n = 7) %>%
select(topic, term) %>%
summarise(terms = str_flatten(term, collapse = ", "))
## `summarise()` ungrouping output (override with `.groups` argument)
# 주제별 감마 평균 계산
<-
gamma_terms %>%
td_gamma group_by(topic) %>%
summarise(gamma = mean(gamma)) %>%
left_join(top_terms, by = 'topic') %>% # 주제별 단어 데이터프레임과 결합
left_join(topic_name, by = 'topic') # 주제 이름 데이터프레임과 결합
## `summarise()` ungrouping output (override with `.groups` argument)
gamma_terms
## # A tibble: 9 x 4
## topic gamma terms name
## <int> <dbl> <chr> <chr>
## 1 1 0.152 백신, 접종, 코로나, 아스트라제네카, 바이러스, 예방, 영국~ 1. 백신 접종자
## 2 2 0.106 코로나, 지원, 지급, 정부, 지원금, 재난, 매출 2. 코로나 지원금~
## 3 3 0.100 달러, 투자, 기업, 코로나, 시장, 미국, 경제 3. 경제 영향
## 4 4 0.0838 코로나, 병원, 경찰, 환자, a씨, 의료, 법무부 4. 집단 수용자
## 5 5 0.0996 미국, 중국, 일본, 한국, 코로나, 북한, 정부 5. 국제 관계
## 6 6 0.111 온라인, 교육, 코로나, 서비스, 지원, 사업, 학교 6. 교육 온라인
## 7 7 0.105 대통령, 국민, 의원, 후보, 대표, 정부, 민주당 7. 정치권 동향
## 8 8 0.158 확진자, 코로나, 감염, 검사, 방역, 확진, 발생 8. 확진자 검진
## 9 9 0.0843 코로나, 여성, 사람, 사회, 생각, 사람들, 서울 9. 사회 영향
결합한 데이터프레임을 막대도표로 시각화.
%>%
gamma_terms
ggplot(aes(x = gamma, y = reorder(name, gamma), fill = name)) +
geom_col(show.legend = F) +
geom_text(aes(label = round(gamma, 2)), # 소수점 2자리
hjust = 1.15) + # 라벨을 막대도표 안쪽으로 이동
geom_text(aes(label = terms),
hjust = -0.05) + # 단어를 막대도표 바깥으로 이동
scale_x_continuous(expand = c(0, 0), # x축 막대 위치를 Y축쪽으로 조정
limit = c(0, .8)) + # x축 범위 설정
labs(x = expression("문서 확률분포"~(gamma)), y = NULL,
title = "코로나19와 백신 관련보도 상위 주제어",
subtitle = "주제별로 기여도가 높은 단어 중심") +
theme(plot.title = element_text(size = 20))
11.5 공변인 분석
stm
패키지는 메타데이터와 주제 사이의 관계 탐색을 위해 estimateEffect()
함수를 제공한다. 각 주제를 종속변수(산출요소)로 설정하고, 메타데이터를 독립변수(투입요소)로 설정해 회귀분석으로 수행한다. 분석결과는 회귀계수(estimate), 표준오차, t값으로 요약해 제시한다.
여기서 사용한 자료에서 메타데이터로 투입한 독립변수는 press(언론사의 정치성향)와 시간(week)이다. 즉, 언론사 정치성향과 시간은 독립변수로서 종속변수인 추촐한 주제를 예측하는 변인이 된다.
회귀계수는 독립변수가 종속변수를 설명하는 정도다. 예를 들어, press(언론사 정치성향)가 각 주제를 예측하는 정도가 회귀계수이므로, 이 회귀계수가 야당지에 비해 여당지에서 해당 주제에 대해 평균적으로 더 많이 언급한 정도를 나타낸다. 회귀계수가 음수면 야당지에서 언급이 더 많은 주제이고, 양수면 여당지에서 언급이 더 많은 주제다. t값과 p값은 그 효과(회귀계수)가 0과 유의하게 다른지를 나타낸다.
분석 결과는 plot.estimateEffect()
함수로 시각화한다. 주제 분포의 불확실성은 uncertainty =
인자를 통해 다양한 방법으로 계산하는데, 기본값은 모든 경우를 고려하는 ’Global’이다. 만일 계산속도를 높이고 싶으면 추가적인 불확실성 계산을 생략하는 ’None’으로 투입한다.
언론사의 정치성향(press)과 보도시점을 주 단위를 6개로 구분해 독립변수로 투입하고, 추출한 9개 주제를 종속변수로 투입해 분석해보자.
$meta$rating <- as.factor(out$meta$press)
out<- estimateEffect(formula = 1:9 ~ press + s(week, 6),
prep stmobj = meta_fit,
metadata = out$meta,
uncertainty = "Global")
summary(prep, topics= 1:9)
##
## Call:
## estimateEffect(formula = 1:9 ~ press + s(week, 6), stmobj = meta_fit,
## metadata = out$meta, uncertainty = "Global")
##
##
## Topic 1:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.132808 0.008149 16.297 < 2e-16 ***
## press여당지 -0.068956 0.005331 -12.936 < 2e-16 ***
## s(week, 6)1 -0.008252 0.018024 -0.458 0.64707
## s(week, 6)2 0.008069 0.017762 0.454 0.64963
## s(week, 6)3 0.022605 0.018137 1.246 0.21266
## s(week, 6)4 0.133989 0.020173 6.642 3.21e-11 ***
## s(week, 6)5 0.084178 0.021059 3.997 6.44e-05 ***
## s(week, 6)6 0.046092 0.014718 3.132 0.00174 **
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 2:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.074120 0.007043 10.524 < 2e-16 ***
## press여당지 0.034227 0.004537 7.545 4.82e-14 ***
## s(week, 6)1 0.028780 0.015904 1.810 0.07037 .
## s(week, 6)2 0.040676 0.014948 2.721 0.00651 **
## s(week, 6)3 0.029254 0.014199 2.060 0.03939 *
## s(week, 6)4 0.001483 0.016365 0.091 0.92777
## s(week, 6)5 -0.006274 0.016180 -0.388 0.69818
## s(week, 6)6 0.018083 0.011442 1.580 0.11405
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 3:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.1221565 0.0070799 17.254 <2e-16 ***
## press여당지 -0.0111389 0.0046310 -2.405 0.0162 *
## s(week, 6)1 -0.0205820 0.0157842 -1.304 0.1923
## s(week, 6)2 -0.0122521 0.0156841 -0.781 0.4347
## s(week, 6)3 -0.0331759 0.0157974 -2.100 0.0357 *
## s(week, 6)4 -0.0220127 0.0165960 -1.326 0.1847
## s(week, 6)5 0.0005764 0.0158453 0.036 0.9710
## s(week, 6)6 -0.0111065 0.0127995 -0.868 0.3856
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 4:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.115676 0.006694 17.279 < 2e-16 ***
## press여당지 0.004245 0.004015 1.057 0.290371
## s(week, 6)1 0.027278 0.013813 1.975 0.048305 *
## s(week, 6)2 -0.076482 0.013839 -5.527 3.32e-08 ***
## s(week, 6)3 -0.014430 0.012894 -1.119 0.263125
## s(week, 6)4 -0.036533 0.015189 -2.405 0.016173 *
## s(week, 6)5 -0.055265 0.014828 -3.727 0.000194 ***
## s(week, 6)6 -0.044787 0.011343 -3.948 7.91e-05 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 5:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.096340 0.006898 13.966 < 2e-16 ***
## press여당지 -0.010066 0.004190 -2.403 0.01629 *
## s(week, 6)1 -0.006967 0.015314 -0.455 0.64913
## s(week, 6)2 0.038440 0.014172 2.712 0.00669 **
## s(week, 6)3 -0.006753 0.015518 -0.435 0.66342
## s(week, 6)4 -0.029546 0.015560 -1.899 0.05760 .
## s(week, 6)5 0.075748 0.016985 4.460 8.27e-06 ***
## s(week, 6)6 -0.015835 0.011615 -1.363 0.17280
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 6:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.086916 0.006923 12.555 < 2e-16 ***
## press여당지 -0.011087 0.004451 -2.491 0.01274 *
## s(week, 6)1 0.002029 0.015150 0.134 0.89348
## s(week, 6)2 0.044107 0.015163 2.909 0.00363 **
## s(week, 6)3 0.008158 0.014930 0.546 0.58477
## s(week, 6)4 0.050718 0.016969 2.989 0.00280 **
## s(week, 6)5 0.022476 0.016851 1.334 0.18229
## s(week, 6)6 0.071406 0.012372 5.772 8.01e-09 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 7:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.127111 0.006926 18.354 < 2e-16 ***
## press여당지 0.007583 0.004613 1.644 0.1002
## s(week, 6)1 -0.010765 0.016220 -0.664 0.5069
## s(week, 6)2 0.027920 0.015224 1.834 0.0667 .
## s(week, 6)3 -0.071206 0.015831 -4.498 6.91e-06 ***
## s(week, 6)4 0.020491 0.015909 1.288 0.1978
## s(week, 6)5 -0.103855 0.016179 -6.419 1.41e-10 ***
## s(week, 6)6 -0.021161 0.012259 -1.726 0.0843 .
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 8:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.175793 0.008848 19.869 < 2e-16 ***
## press여당지 0.028838 0.005439 5.302 1.16e-07 ***
## s(week, 6)1 -0.014315 0.018565 -0.771 0.440684
## s(week, 6)2 -0.052548 0.018890 -2.782 0.005413 **
## s(week, 6)3 0.029547 0.017723 1.667 0.095497 .
## s(week, 6)4 -0.093945 0.020874 -4.501 6.83e-06 ***
## s(week, 6)5 -0.057421 0.019462 -2.950 0.003180 **
## s(week, 6)6 -0.052375 0.015076 -3.474 0.000514 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
##
## Topic 9:
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 0.069010 0.006262 11.021 < 2e-16 ***
## press여당지 0.026462 0.004067 6.506 7.99e-11 ***
## s(week, 6)1 0.002915 0.013422 0.217 0.82806
## s(week, 6)2 -0.018146 0.013244 -1.370 0.17068
## s(week, 6)3 0.036185 0.012811 2.824 0.00474 **
## s(week, 6)4 -0.024876 0.014685 -1.694 0.09030 .
## s(week, 6)5 0.039698 0.013676 2.903 0.00370 **
## s(week, 6)6 0.009839 0.010746 0.916 0.35991
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
주제4와 주제7을 제외하고 모두 언론사의 정치성향에 따라 기사의 주제가 다른 경향을 보이고 있다. 주제3과 주제5를 제외하고 모두 3월에 기사의 주제가 바뀌었다. 언론사의 정치성향을 ’여당지’와 ’야당지’로 구분했는데, 분석결과에 ’여당지’만 나오는 이유는 야당지를 기준으로 여당지의 분포를 계산했기 때문이다. 즉, 계수가 음수면 야당지를 기준으로 여당지에 해당 주제를 구성하는 단어의 빈도가 상대적으로 적게 나타났다는 의미이다. 반대로 계수가 양수면 여당지에 해당 주제를 구성하는 단어의 빈도가 더 크다는 의미다.
11.5.1 문서 내용 확인
주제1은 ’백신접종’에 관련된 내용이다. 언론사 별로 각 주제에 대해 전형적인 기사가 무엇인지 확인해보자. 원문과 언론사 정보가 포함된 데이터프레임과 감마 계수 데이터프레임을 결합해 전형적인 기사를 찾을 수 있다.
%>% names() combined_df
## [1] "ID" "text2" "일자" "text" "언론사" "cat" "키워드" "week"
## [9] "press" "catSoc"
%>%
combined_df left_join(td_gamma, by = c("ID" = "document")) %>%
pivot_wider(
names_from = topic,
values_from = gamma,
names_prefix = "tGamma",
values_fill = 0
%>%
)
arrange(-tGamma1) %>%
filter(str_detect(text, "백신")) %>%
mutate(text = str_replace_all(text, "백신", "**백신**")) %>%
head(30)
## # A tibble: 30 x 19
## ID text2 일자 text 언론사 cat 키워드 week press catSoc tGamma1
## <int> <chr> <chr> <chr> <chr> <chr> <chr> <dbl> <chr> <chr> <dbl>
## 1 1847 770만~ 2021~ "770~ 조선일보~ 국제 770만,~ 11 야당지~ 비사회면~ 0.997
## 2 8183 62 아~ 2021~ "아스트~ 중앙일보~ 사회 62%,아~ 5 야당지~ 사회면 0.997
## 3 6092 65세 ~ 2021~ "65세~ 조선일보~ 사회 65세,아~ 7 야당지~ 사회면 0.997
## 4 3822 유럽 접~ 2021~ "유럽도~ 중앙일보~ 사회 유럽,접종~ 9 야당지~ 사회면 0.996
## 5 7362 az 고~ 2021~ "AZ ~ 중앙일보~ 사회 AZ,고령~ 6 야당지~ 사회면 0.996
## 6 1852 백신 혈~ 2021~ "**백~ 조선일보~ 국제 백신,혈전~ 11 야당지~ 비사회면~ 0.996
## 7 8139 62 아~ 2021~ "아스트~ 한겨레 사회 62%,아~ 5 여당지~ 사회면 0.996
## 8 3283 백신 번~ 2021~ "화이자~ 중앙일보~ 사회 백신,번째~ 10 야당지~ 사회면 0.996
## 9 4264 az 백~ 2021~ "AZ ~ 중앙일보~ 사회 AZ,백신~ 9 야당지~ 사회면 0.996
## 10 6089 대상자 ~ 2021~ "대상자~ 조선일보~ 사회 대상자,접~ 7 야당지~ 사회면 0.996
## # ... with 20 more rows, and 8 more variables: tGamma2 <dbl>, tGamma3 <dbl>,
## # tGamma4 <dbl>, tGamma5 <dbl>, tGamma6 <dbl>, tGamma7 <dbl>, tGamma8 <dbl>,
## # tGamma9 <dbl>
’백신 접종’을 주제로 보도한 기사에서 주제1의 감마 계수 상위 10대 기사 중 9건이 야당지 보도다. 기사의 제목과 본문을 살펴보자. 4번째가 여당지 기사이고, 나머지는 모두 야당지 기사다.
%>% names() combined_df
## [1] "ID" "text2" "일자" "text" "언론사" "cat" "키워드" "week"
## [9] "press" "catSoc"
%>%
combined_df left_join(td_gamma, by = c("ID" = "document")) %>%
pivot_wider(
names_from = topic,
values_from = gamma,
names_prefix = "tGamma",
values_fill = 0
%>%
)
arrange(-tGamma1) %>%
filter(str_detect(text, "백신")) %>%
mutate(text = str_replace_all(text, "백신", "**백신**")) %>%
pull(text) %>% .[1:10]
## [1] "770만명 맞을 아스트라, 유럽선 중단 EU(유럽연합) 4대 회원국인 독일 프랑스 이탈리아 스페인이 15일(현지 시각) 아스트라제네카(AZ) 코로나 **백신**의 접종을 일시 중단하겠다고 선언했다. 접종 후 혈전(血栓 핏덩이)이 생기는 부작용이 발생했다는 보고가 잇따르자 추가 조사 결과가 나올 때까지 접종을 멈추겠다는 것이다. 이날 옌스 슈판 독일 보건부 장관은 “부작용이 **백신** 접종의 효과를 .."
## [2] "아스트라 **백신** 1차 검증서 \"예방 효과 62% 고령층 접종 가능\" 아스트라제네카 **백신**이 국내 접종을 앞두고 허가 심사 첫 관문을 통과했다. 식품의약품안전처 외부 자문단이 아스트라제네카 **백신**에 대해 조건부 허가할 수 있다는 결론을 내렸다. 해외에서 논란이 일고 있는 65세 이상 고령자 접종에 대해서도 자문단 다수가 “투여할 수 있다”고 의견을 냈다. 식약처 허가를 통과하면 아스트라제네카 **백신**은 이달 말께 공급돼 요양병원.."
## [3] "65세 이상, 아스트라 **백신** 접종 연기 아스트라제네카 코로나 **백신**의 최우선 접종 대상에서 ‘65세 이상’ 고령층이 제외됐다. 코로나19 예방접종 대응 추진단(단장 정은경 질병관리청장)은 당초 2월 접종 예정이었던 요양병원 요양시설의 65세 이상 고령자 접종을 2분기(4~6월) 이후로 미룬다고 15일 밝혔다. 최근 유럽에서 ‘효과 검증이 부족하다’는 이유로 65세 이상에 대한 아스트라제네.."
## [4] "유럽도 AZ 고령층 접종한다는데 국내선 결론나도 2분기에나 아스트라제네카(AZ) **백신**의 고령층 접종을 제한했던 유럽 국가 일부가 접종을 다시 허용하는 쪽으로 입장을 바꾸는 분위기다. 국내에서도 고령층 접종을 재검토해야 한다는 목소리가 나오고 있다. 2일 영국 BBC 등 외신에 따르면 프랑스 정부는 1일(현지시간) 아스트라제네카 **백신**의 접종 권고 연령을 기존 65세 미만에서 74세까지로 확대했다. 올리비에.."
## [5] "AZ 고령층 접종 신중하게...질병청 예방접종위로 공 넘겨 아스트라제네카사(社)의 **백신** 허가를 위한 식품의약품안전처의 중앙약사심의위원회 회의에서 ‘18세 이상에게 접종할 수 있다’는 조건부 허가 권고가 나왔다. 현재 진행 중인 3상 임상결과를 제출하는 조건이다. 다만 중앙약심은 핵심 쟁점인 ‘65세 이상 고령자’에 대해서는 애매한 판단을 내렸다. 그간 나온 임상시험 자료가 충분하지 않다는 이유에서다. 허용은 하.."
## [6] "**백신**이 혈전 원인? 아스트라에 대한 3가지 의문 유럽 국가들이 줄줄이 아스트라제네카(AZ) **백신** 접종을 잠정 중단하면서 국내서도 불안감이 커지고 있다. 전문가들은 대부분 “현재까지 AZ **백신**과 혈전(핏덩이) 등과의 인과성은 확인된 바 없다”며 “고령층과 기저 질환자도 코로나 감염 위험을 감안하면 접종을 하는 게 더 이득”이란 입장이다. 하지만 정부가 국민 불안에 지금처럼 소극적 수동적으로 대처하면 백.."
## [7] "아스트라 효과 62% 자문단 다수 “고령자 배제 이유 없다” 식품의약품안전처의 전문가 자문기구가 아스트라제네카의 코로나19 **백신**을 고령층에게 접종해도 된다는 판단을 내렸다. 해당 **백신**은 유럽에서 고령층 접종 효과를 둘러싼 논란이 불거지면서 일부 국가는 고령층을 제외하고 접종하도록 권고했다. 자문기구는 현재 진행 중인 임상시험 결과를 제출하는 것을 전제로 아스트라제네카 **백신**에 대해 ‘조건부 허가’를 권고했다. .."
## [8] "화이자 **백신**, 국내 두 번째 허가 \"16세 이상 접종 가능\" 화이자 **백신**이 아스트라제네카에 이어 국내에서 두 번째 코로나19 **백신**으로 정식 허가됐다. 허가 접종 연령이 만 16세 이상으로 결론 난 데 따라 원칙적으로는 미성년자인 고등학생도 **백신**을 접종할 수 있게 됐다. 식품의약품안전처는 5일 최종점검위원회를 열어 한국화이자제약의 코로나19 **백신**인 ‘코미나티주’를 허가했다고 밝혔다. 식약처는 “앞서 실시된 .."
## [9] "AZ **백신**, 고령층 중증 위험 84% 낮춰...이상반응 0.4%는? 26일 아스트라제네카(AZ) **백신** 접종이 시작된 가운데 접종 후 나타날 수 있는 '이상 반응'에 관심이 높다. 우리나라보다 먼저 AZ **백신**을 맞은 영국에서는 접종 인구 가운데 약 0.4%가 이상 반응을 신고한 것으로 나타났다. 질별관리청 중앙방역대책본부(방대본)는 지난 24일 열린 코로나19 예방접종 특집브리핑에서 “\"각 국가에서 보고되는 코.."
## [10] "대상자 54만명 줄고, 접종시기 밀리고 스텝 꼬인 **백신**플랜 방역 당국이 15일 발표한 ‘1분기(2~3월) **백신** 접종 계획’은 요양병원에 입원한 65세 환자 등의 접종을 2월 말에서 4월 이후로 미루는 내용이 골자다. 각국이 아스트라제네카 **백신**의 ‘고령자 예방 효과’에 대한 근거 부족을 이유로 잇따라 ‘고령자 접종 제한’ 권고를 내렸던 게 고려됐다. 또 국내 1분기 도입 물량 100만명분 중 94만명분이 이 **백신**.."
11.5.2 공변인 분석 시각화
공변인이 주제를 어떻게 예측하는지에 대해 도표로 시각화할 수 있다. 간단한 방법은 stm
패키지에서 제공하는 plot.estimate()
함수를 이용하는 방식이다. ggplot2
패키지를 이용하면 보다 다양한 방식으로 독립변수와 종속변수의 관계를 시각화할 수 있다.
11.5.2.1 정치성향에 따른 주제분포
plot.estimateEffect(
prep,covariate = "press",
topics = c(1, 2, 4),
model = meta_fit,
method = "difference",
cov.value1 = "여당지",
cov.value2 = "야당지",
xlab = "문서당 주제 분포 비율(야당지 대 여당지)",
main = "언론사 정치성향에 따른 문서별 주제 분포",
xlim = c(-.1, .1),
labeltype = "custom",
custom.labels = c("주제1", "주제2", "주제4")
)
ggplot2
패키지를 이용하면 모다 다양한 방식으로 시각화할 수 있다. 앞서 명명한 주제의 이름이 막대도표에 표시되도록 먼저 데이터프레임을 결합한다.
# 주제 이름
topic_name
## # A tibble: 9 x 2
## topic name
## <int> <chr>
## 1 1 1. 백신 접종자
## 2 2 2. 코로나 지원금
## 3 3 3. 경제 영향
## 4 4 4. 집단 수용자
## 5 5 5. 국제 관계
## 6 6 6. 교육 온라인
## 7 7 7. 정치권 동향
## 8 8 8. 확진자 검진
## 9 9 9. 사회 영향
# 공변인 계수
<-
coef_df %>% tidy() %>%
prep filter(term == "press여당지")
coef_df
## # A tibble: 9 x 6
## topic term estimate std.error statistic p.value
## <int> <chr> <dbl> <dbl> <dbl> <dbl>
## 1 1 press여당지 -0.0689 0.00533 -12.9 5.25e-38
## 2 2 press여당지 0.0342 0.00455 7.51 6.05e-14
## 3 3 press여당지 -0.0111 0.00458 -2.43 1.51e- 2
## 4 4 press여당지 0.00432 0.00395 1.09 2.75e- 1
## 5 5 press여당지 -0.0101 0.00416 -2.42 1.55e- 2
## 6 6 press여당지 -0.0111 0.00447 -2.49 1.29e- 2
## 7 7 press여당지 0.00757 0.00463 1.64 1.02e- 1
## 8 8 press여당지 0.0288 0.00542 5.32 1.05e- 7
## 9 9 press여당지 0.0265 0.00404 6.55 5.90e-11
# 주제별 상위 10개 단어 추출
<-
top_terms %>% tidy(matrix = "beta") %>%
meta_fit group_by(topic) %>%
slice_max(beta, n = 7) %>%
select(topic, term) %>%
summarise(terms = str_flatten(term, " "))
## `summarise()` ungrouping output (override with `.groups` argument)
top_terms
## # A tibble: 9 x 2
## topic terms
## <int> <chr>
## 1 1 백신 접종 코로나 아스트라제네카 바이러스 예방 영국
## 2 2 코로나 지원 지급 정부 지원금 재난 매출
## 3 3 달러 투자 기업 코로나 시장 미국 경제
## 4 4 코로나 병원 경찰 환자 a씨 의료 법무부
## 5 5 미국 중국 일본 한국 코로나 북한 정부
## 6 6 온라인 교육 코로나 서비스 지원 사업 학교
## 7 7 대통령 국민 의원 후보 대표 정부 민주당
## 8 8 확진자 코로나 감염 검사 방역 확진 발생
## 9 9 코로나 여성 사람 사회 생각 사람들 서울
# 데이터프레임 결합
<-
term_coef_name %>%
top_terms left_join(topic_name, by = "topic") %>%
left_join(coef_df, by = "topic")
%>% glimpse() term_coef_name
## Rows: 9
## Columns: 8
## $ topic <int> 1, 2, 3, 4, 5, 6, 7, 8, 9
## $ terms <chr> "백신 접종 코로나 아스트라제네카 바이러스 예방 영국", "코로나 지원 지급 정부 지원금 재난 매출",...
## $ name <chr> "1. 백신 접종자", "2. 코로나 지원금", "3. 경제 영향", "4. 집단 수용자", "5. 국...
## $ term <chr> "press여당지", "press여당지", "press여당지", "press여당지", "press여당지...
## $ estimate <dbl> -0.068880507, 0.034177657, -0.011137511, 0.004321638, -0....
## $ std.error <dbl> 0.005328669, 0.004548077, 0.004582951, 0.003954840, 0.004...
## $ statistic <dbl> -12.926400, 7.514749, -2.430205, 1.092747, -2.420233, -2....
## $ p.value <dbl> 5.254136e-38, 6.045253e-14, 1.510269e-02, 2.745238e-01, 1...
데이터셋이 마련됐으면 막대도표에 시각화한다.
%>%
term_coef_name
ggplot(aes(x = estimate,
y = reorder(name, estimate),
fill = name)) +
geom_col(show.legend = F) +
geom_errorbar(aes(xmin = estimate - std.error,
xmax = estimate + std.error),
width = .9, size = .4, color = "grey10",
show.legend = F) +
scale_x_continuous(expand = c(0, 0),
limits = c(-.75, .15),
breaks = 0) +
geom_text(aes(x =-.4, label = terms), show.legend = F) +
geom_text(aes(label = round(estimate, 3)),
hjust = -.2) +
labs(x = "문서당 주제 분포 비율(야당지 대 여당지)",
y = NULL,
title = "언론사 정치성향에 따른 문서별 주제 분포") +
theme(plot.title = element_text(size = 20))
11.5.2.2 시간대별 주제 변화
plot.estimateEffect(
prep,covariate = "week",
topics = c(1, 8),
model = meta_fit,
method = "continuous", # 시간대 연속적으로 표시
xlab = "기간 (1월 ~ 3월)",
main = "시간대별 주제 분포"
)
ggplot2
패키지로 시각화하기 위해 먼저 데이터프레임을 결합한다.
# 주제 이름
topic_name
## # A tibble: 9 x 2
## topic name
## <int> <chr>
## 1 1 1. 백신 접종자
## 2 2 2. 코로나 지원금
## 3 3 3. 경제 영향
## 4 4 4. 집단 수용자
## 5 5 5. 국제 관계
## 6 6 6. 교육 온라인
## 7 7 7. 정치권 동향
## 8 8 8. 확진자 검진
## 9 9 9. 사회 영향
# 공변인 계수
<-
coef_time %>% tidy() %>%
prep filter(str_detect(term, "^s"))
coef_time
## # A tibble: 54 x 6
## topic term estimate std.error statistic p.value
## <int> <chr> <dbl> <dbl> <dbl> <dbl>
## 1 1 s(week, 6)1 -0.00828 0.0178 -0.465 6.42e- 1
## 2 1 s(week, 6)2 0.00789 0.0179 0.442 6.58e- 1
## 3 1 s(week, 6)3 0.0224 0.0180 1.25 2.12e- 1
## 4 1 s(week, 6)4 0.134 0.0203 6.62 3.79e-11
## 5 1 s(week, 6)5 0.0838 0.0209 4.01 6.01e- 5
## 6 1 s(week, 6)6 0.0464 0.0148 3.13 1.72e- 3
## 7 2 s(week, 6)1 0.0289 0.0157 1.84 6.60e- 2
## 8 2 s(week, 6)2 0.0409 0.0150 2.73 6.32e- 3
## 9 2 s(week, 6)3 0.0291 0.0140 2.08 3.76e- 2
## 10 2 s(week, 6)4 0.00161 0.0162 0.0997 9.21e- 1
## # ... with 44 more rows
# 데이터프레임 결합
<-
term_coef_time %>%
coef_time left_join(topic_name, by = "topic")
%>% glimpse() term_coef_time
## Rows: 54
## Columns: 7
## $ topic <int> 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 4, ...
## $ term <chr> "s(week, 6)1", "s(week, 6)2", "s(week, 6)3", "s(week, 6)4...
## $ estimate <dbl> -0.0082818446, 0.0078938215, 0.0224345490, 0.1342172600, ...
## $ std.error <dbl> 0.01781642, 0.01785485, 0.01798084, 0.02028320, 0.0208664...
## $ statistic <dbl> -0.46484336, 0.44211078, 1.24769201, 6.61716370, 4.013682...
## $ p.value <dbl> 6.420508e-01, 6.584158e-01, 2.121646e-01, 3.793898e-11, 6...
## $ name <chr> "1. 백신 접종자", "1. 백신 접종자", "1. 백신 접종자", "1. 백신 접종자", "1. 백...
%>%
term_coef_time mutate(term = str_extract(term, "\\d$")) %>%
mutate(term = as.integer(term)) %>%
mutate(term = term * 2 - 1) %>%
mutate(term = as.factor(term)) %>%
filter(str_detect(name, "^1|^2|^8")) %>%
ggplot(aes(x = term,
y = estimate,
color = name)) +
geom_line(aes(group = name), size = 1.2) +
geom_point(aes(shape = name), size = 3,) +
geom_errorbar(aes(ymin = estimate - std.error,
ymax = estimate + std.error),
width = .4, size = 1,
position = position_dodge(.01)) +
labs(x = "기간(1월 ~ 3월)",
y = "문서당 주제 분포 비율",
title = "시간대별 주제 분포") +
theme(plot.title = element_text(size = 20))
11.5.3 주제 사이 상관성
주제사이의 상관성을 표시할 수 있다.
library(reshape2)
<- function(x){
get_lower_tri upper.tri(x)] <- NA
x[return(x)
}
topicCorr(meta_fit) %>% .$cor %>%
get_lower_tri() %>%
melt(na.rm = T) %>%
ggplot(aes(x = factor(Var1),
y = factor(Var2),
fill = value)) +
geom_tile(color = "white") +
scale_fill_gradient2(low = "blue", high = "red", mid = "white",
midpoint = 0,
limit = c(-1, 1), space = "Lab") +
geom_text(aes(Var1, Var2, label = round(value, 3)), color = "black", size = 3) +
theme_minimal()
11.5.4 과제
- 관심있는 검색어를 이용해 빅카인즈에서 기사를 검색해 수집한 기사의 주제모형을 구축한다.
- 주요 주제어에 대하여 시각화한다.
- 공변인(메타데이터)를 설정해, 공변인과 주제와의 관계를 탐색한다. 공변인은 시간, 언론사, 기사분류 등 선택.