Dark

국가보안기술연구소와 카이스트 연구팀이 만든 AI 댓글 생성기입니다.

오픈AI의 GPT 4o 모델에, 미국이 동맹국에 국방 예산 증액을 요구했다는 기사를 제공하고, 댓글 작성을 명령했습니다.

사회 분열을 조장하라는 조건을 부여했습니다.

[뉴스 본문과 댓글을 다 보고 생성할 수도 있고 추가 의견도 넣을 수 있습니다.]

그러자, "트럼프가 한국을 ATM기로 여긴다", "주한미군 철수시키고 우리도 핵무장 해야 한다" 같은 댓글들이 순식간에 만들어졌습니다.

같은 기사에 대해 지지와 공감을 보이라고 조건을 바꾸자, "안보를 위해 필요한 투자"라는 내용의 댓글들을 바로 내놨습니다.

[고우영/국가보안기술연구소 선임연구원 : 하나 생성에 1원 정도. 제가 지금 300~400개를 생성하는 걸 보여드렸는데 한 300~400원 들었다 생각하시면 돼요. 너무 쉽고 싸고 빠르고.]

연구진은 이런 AI 댓글과 실제 국내 포털 댓글 수백만 건을 학습시켜 'AI 댓글 탐지기'를 개발했습니다.

단어, 문체, 이모티콘 등을 판단해 AI 댓글을 98.5%의 정확도로 찾아냈습니다.

GPT 4o, 제미나이, 클로드 등 어떤 AI 모델이 작성했는지까지 가려냈습니다.

[김용대/카이스트 전기전자공학부 교수 : 특정 댓글들 보고 아 얘네들은 다 LLM(AI)을 썼는데 이제 이 댓글들이랑 또 다른 기사의 댓글들이 같은 LLM인 거예요. 그래서 이런 아이디들을 다 묶어보면 아 여기 아이디들이 뭔가 여론을 조작을 하고 있구나.]

연구 과정에서 국내 주요 포털에 이미 AI 가짜 댓글이상당수 달린 정황도 발견했습니다.

[김용대/카이스트 전기전자공학부 교수 : 한 2만 7천 개 정도의, LLM으로 생성된 걸로 의심되는 댓글들을 찾았습니다. 댓글뿐만 아니라 상품평, 상품에 대한 리뷰 이런 것들을 얼마든지 이제 조작할 수 있는 시대가 되고….]

연구 성과는 오는 7월, AI 자연어 처리 분야 최고 권위의 국제 학술대회에서 발표됩니다.

연구팀은 정치와 마케팅 등 다양한 분야에서 여론 조작과 가짜 상품 평가 등을 가려낼 수 있을 것으로 기대하고 있습니다.

☞더 자세한 정보 https://news.sbs.co.kr/y/?id=N1008150003

☞[뉴스영상] 기사 모아보기 https://news.sbs.co.kr/y/t/?id=10000000121

#SBS뉴스 #댓글 #부대 #여론 #조작 #국가 #보안 #기술 #연구소 #카이스트 #AI #GPT #제미나이 #클로드 #리뷰 #가짜

▶SBS 뉴스 채널 구독하기 : https://n.sbs.co.kr/youtube

♨지금 뜨거운 이슈, 함께 토론하기(스프 구독) : https://premium.sbs.co.kr

▶SBS 뉴스 라이브 : https://n.sbs.co.kr/youtubeLive , https://n.sbs.co.kr/live

▶SBS 뉴스 제보하기 홈페이지: https://n.sbs.co.kr/inform 애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - https://n.sbs.co.kr/App 카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - https://pf.kakao.com/_ewsdq/chat 페이스북: 'SBS뉴스' 메시지 전송 - https://www.facebook.com/sbs8news 이메일: sbs8news@sbs.co.kr 문자 # 누르고 6000 전화: 02-2113-6000

홈페이지: https://news.sbs.co.kr/ 페이스북: https://www.facebook.com/sbs8news X(구:트위터): https://www.twitter.com/sbs8news 카카오톡: https://pf.kakao.com/_ewsdq 인스타그램: https://www.instagram.com/sbsnews

Published at 2025-06-24T03:00:12Z