SNS에서 AI가 작성한 댓글을 사람이 구별해내는 비율이 절반도 안 된다는 연구 결과가 나왔습니다. 특히 친근하고 긍정적인 말투를 쓰는 AI 봇일수록 탐지율이 38%까지 떨어져, 악의적 목적으로 활용되기 더 쉬운 것으로 나타났습니다. 이런 봇들은 단순한 댓글 조작을 넘어 개인 대화(DM)로 유도하거나 악성 링크를 클릭하게 만드는 사회공학(사람의 심리를 이용한 속임수 공격) 수단으로 악용될 수 있습니다. 연구를 진행한 서프샤크(Surfshark)는 계정 생성일·프로필·과거 게시물 등 계정 자체의 특성을 함께 확인할 것을 권고했습니다. 자동화된 AI 탐지 도구도 정교하게 만들어진 콘텐츠를 완벽히 가려내지 못하므로, 이용자 스스로 비판적 시각을 유지하는 것이 중요합니다.
서프샤크가 전 세계 1,722명을 대상으로 진행한 시뮬레이션 'Bot or Not'에서 참가자들이 SNS AI 봇을 평균 절반 이하로 탐지했으며, 긍정·친근형 봇의 탐지율은 38%에 불과했다.
탐지가 어려운 AI 봇이 허위정보 확산, 여론 조작, 사회공학적 피싱(DM 유도·악성 링크 클릭) 등에 활용될 수 있으며, 국내 응답자 59%가 온라인 허위정보를 우려하는 상황과 맞닿아 있다.
긍정적·논리적 말투는 이용자의 경계심을 낮추고, 이모지를 사용하지 않거나 평범한 문체를 사용하는 봇은 인간과 구별하기 어렵다. 자동화 탐지 도구도 정교하게 생성된 콘텐츠를 완벽히 식별하지 못한다.
서프샤크는 계정 생성 시점·프로필 사진·자기소개·과거 게시물 검토와 함께, 짧은 시간 내 비슷한 내용의 댓글 집중 여부를 확인하도록 권고했다. 또한 자신에게 동의한다는 이유만으로 상대를 실제 이용자로 단정하지 말 것을 강조했다.
보안 담당자는 임직원 대상 SNS 사회공학 공격 인식 교육에 AI 봇 식별 훈련을 포함하고, 업무 관련 SNS 계정에서 출처 불명의 링크·DM 클릭을 정책으로 제한하는 것을 검토해야 한다.
본문
소셜미디어(SNS)에서 인공지능(AI)이 작성한 댓글을 이용자가 구별해내는 비율이 40% 수준에 불과한 것으로 나타났다. 특히 공격적이거나 부정적인 댓글보다 긍정적이고 친근한 말투를 사용하는 AI 봇 정체를 파악하기가 더 어려운 것으로 조사됐다.
사이버보안 기업 서프샤크(Surfshark)가 전 세계 참가자 1,722명을 대상으로 진행한 AI 봇 식별 시뮬레이션 분석 결과, 참가자들은 SNS에서 활동하는 AI 봇을 평균적으로 절반도 채 구별하지 못했다. 긍정적이고 친근하며 논리적인 말투를 사용하는 봇에 대한 탐지율은 38%까지 떨어졌다.
루이스 코스타(Luis Costa) 서프샤크 리서치·인사이트 책임자는 "정교한 조작 캠페인에 활용되는 AI 기반 계정은 상대 의견에 쉽게 동조하거나 논리적이고 평범한 방식으로 행동하는 경우가 많다"며 "이런 계정은 실제 이용자 의견에 힘을 보태고 댓글 수를 늘리는 것만으로도 소수 의견을 마치 다수 의견인 것처럼 보이게 만들 수 있다"고 설명했다.
반면에 부정적이고 공격적인 성향을 보이는 AI 봇은 상대적으로 쉽게 식별됐다. 시뮬레이션 참가자들은 부정적인 AI 봇의 50.2%를 가려냈다. 코스타 책임자는 "SNS에서 화난 악플러는 누구나 알아보기 때문에 자주 들통나는 것도 이런 유형"이라고 말했다.
긍정적이고 친근한 방식으로 접근하는 봇은 탐지율이 38%로 떨어졌다. 두 유형 사이에는 12%포인트(P) 이상 차이가 발생했다. 이용자 경계심을 자극하지 않고 자연스럽게 대화에 참여하는 방식이 AI 봇 식별을 어렵게 만드는 요인으로 분석된다.
문제는 이 같은 AI 봇이 단순히 댓글을 늘리는 수준을 넘어 사회공학적 공격이나 허위정보 확산에 활용될 수 있다는 점이다. 이용자는 자신에게 우호적인 상대를 위협적인 존재로 인식하지 않는 경향이 있어 개인 메시지(DM)로 대화를 옮기거나 개인정보를 공유하고, 상대방이 게시한 링크를 클릭할 가능성이 높아질 수 있다.
특히 논리적이고 자연스러운 방식으로 전달되는 허위정보는 이용자가 상대방이 AI라는 사실을 인지하기 전에 정치·사회적 견해에 영향을 미칠 가능성도 있다. 한국언론진흥재단의 '디지털 뉴스 리포트 2026'에서도 국내 응답자 59%가 온라인 허위정보를 우려한다고 답했다. 이는 전년보다 4%P 증가한 수치다.
AI 봇을 판별하는 단서로 알려진 이모지 사용 역시 결정적인 기준이 되기는 어려운 것으로 나타났다. 시뮬레이션에서는 이모지를 많이 사용하는 봇 탐지율이 60%를 넘었지만, 이모지를 거의 사용하지 않는 봇 탐지율은 35%에 그쳤다. 이모지 사용량에 따라 탐지율이 30.6%P 차이를 보인 셈이다.
플랫폼별로는 텍스트 중심 SNS 이용자의 봇 식별 능력이 상대적으로 높았다. X(옛 트위터) 이용자의 AI 봇 탐지율은 49%로 가장 높았으며, 페이스북은 39%, 틱톡은 38%로 조사됐다. 텍스트 기반으로 다른 이용자 표현과 논리를 접할 기회가 많은 플랫폼 이용자가 AI 봇 특성을 상대적으로 더 쉽게 파악한 것으로 분석된다.
서프샤크는 AI가 생성한 콘텐츠를 사람의 눈으로 완벽하게 식별하기는 갈수록 어려워지고 있다고 지적했다. 자동화된 AI 콘텐츠 탐지 도구 역시 정교하게 생성·수정된 콘텐츠를 정확하게 구분하는 데 한계가 있다는 설명이다.
코스타 책임자는 SNS 이용자에게 콘텐츠 자체뿐만 아니라 게시물을 작성한 계정의 특성을 함께 살펴볼 것을 권고했다. 계정 생성 시점과 프로필 사진, 자기소개, 과거 게시물 등을 확인하고, 최근 만들어진 계정이 비슷한 메시지를 반복적으로 게시하거나 짧은 시간에 동일한 유형 댓글을 집중적으로 남기는 경우 주의할 필요가 있다는 것이다.
또 자신의 의견에 동의하거나 응원한다는 이유만으로 상대방을 실제 이용자라고 단정해서는 안 된다고 강조했다. 짧은 시간에 비슷한 내용의 긍정적인 댓글이 집중적으로 올라오는 경우 AI 봇에 의해 만들어진 반응일 가능성도 살펴봐야 한다.
이번 시뮬레이션 'Bot or Not'은 스웨덴 말뫼대 인터랙션 디자인 전공 학생들이 제작했다. 서프샤크는 이 프로젝트를 계기로 사이버보안 인식 제고를 지원하기 위한 'Cybersecurity Advocacy Fund'를 출범했다. 연간 최대 10만 유로 규모로 운영되는 이 기금은 전 세계 학생과 연구자, 사이버보안 인식 제고 활동 등을 지원할 예정이다.
