보안기업 Surfshark가 전 세계 1,722명을 대상으로 소셜 미디어에서 봇(자동화된 가짜 계정)과 실제 사람을 구별하는 능력을 테스트한 결과, 참가자들은 봇의 40%만 잡아냈습니다. 특히 공격적이거나 부정적인 봇보다 친절하고 논리적인 말투를 쓰는 봇이 훨씬 더 잘 통과했으며, 긍정적인 봇의 탐지율은 38%로 부정적인 봇보다 12%포인트 낮았습니다. 이런 '예의 바른 봇'은 사람들의 경계심을 낮춰, 개인정보 공유나 링크 클릭, 나아가 정치적·사회적 견해 변화까지 유도할 수 있어 실질적인 보안 위협이 됩니다. 이모지를 과도하게 쓰는 봇은 60% 이상 잡혔지만, 평범한 말투를 쓰는 봇은 35%만 적발됐습니다. 50대 이상과 TikTok·Facebook 이용자의 봇 탐지 능력이 가장 낮은 것으로 나타났습니다.
Surfshark 연구에 따르면, 소셜 미디어 이용자 대부분이 AI 생성 봇 계정을 실제 사람과 구별하지 못하며, 특히 친절하고 논리적인 어조를 쓰는 봇일수록 탐지가 어려운 것으로 확인됐습니다.
탐지를 피한 봇은 사용자의 개인정보 공유, 악성 링크 클릭, 여론 왜곡(소수 의견을 다수처럼 보이게 만드는 댓글 도배)을 유발할 수 있으며, 50대 이상 사용자층이 특히 취약합니다.
공격적인 봇은 직관적으로 의심받지만, 동의하는 척하거나 무난한 내용을 쓰는 봇은 신뢰 신호로 인식되어 경계를 해제시킵니다. 이모지 남용 같은 비자연스러운 패턴 부재가 탐지를 더욱 어렵게 만듭니다.
Surfshark는 소셜 미디어 플랫폼과 이용자 모두가 '친절해 보이는' 계정도 봇일 수 있다는 인식을 가져야 한다고 강조합니다. 별도의 패치나 기술 대응보다는 미디어 리터러시 교육이 핵심 대응책입니다.
기업 임직원 보안 교육 시 소셜 엔지니어링의 새로운 형태로 '공감형 봇'을 포함해야 하며, SNS에서 낯선 계정이 친절하게 접근할 때도 경계를 늦추지 않도록 안내해야 합니다.
본문
새로운 Surfshark 연구에 따르면, 대부분의 사람들은 온라인에서 봇과 사람을 구별하지 못하며, 그 중에서도 가장 잘 속이는 봇은 예의 바른 봇인 것으로 나타났습니다.
이 회사는 전 세계 1,722명의 참가자를 대상으로, 소셜 미디어 환경에서 AI가 생성한 댓글과 실제 사람의 댓글을 구분하는 능력을 테스트했습니다. 전체적으로 사람들은 제시된 봇 중 40%만 잡아냈습니다.
(출처: Surfshark)
가장 많이 통과한 봇들은 시끄럽거나 공격적이지 않았습니다. 그들은 긍정적이고 친절하며 논리적으로 들렸는데, 이는 낯선 사람의 댓글을 믿어도 될 것처럼 느끼게 만드는 바로 그 특성입니다.
"소셜 미디어에서는 모두가 화난 트롤(악성 댓글러)을 알아봅니다. 그래서 화난 트롤이 자주 잡히는 것입니다. 모의 소셜 미디어 환경에서 참가자들은 부정적인 AI 생성 봇의 절반(50.2%)을 걸러냈습니다"라고 Surfshark의 리서치 및 인사이트 총괄 Luís Costa가 말했습니다.
봇이 긍정적이고 동의하는 페르소나를 취했을 때 탐지율은 38%로 떨어졌는데, 부정적인 봇과 비교하면 12%포인트 차이입니다.
"정교한 조작 캠페인에 사용되는 AI 기반 계정은 대체로 동의하는 편이거나 논리적이거나 그냥 평범합니다. 실제 사용자의 의견을 지지하거나 댓글 수를 늘려 소수 의견이 마치 다수의 생각인 것처럼 보이게 할 수 있습니다. 그런 계정을 신고하는 사람은 드뭅니다"라고 Costa는 덧붙였습니다.
심각한 주제일수록 더 나빠진다
참가자들은 피자 위의 파인애플 같은 가벼운 주제에서는 더 많은 봇을 잡아냈지만, 여성의 권리 같은 심각한 주제에서는 그렇지 못했습니다. 더 심각한 주제에서 사람들은 봇을 더 많이 놓쳤을 뿐 아니라, 실제 사람을 가짜라고 잘못 지목하는 경우도 늘었습니다.
중립적인 봇도 비슷한 문제를 일으켰는데, 대부분의 주제에서 탐지율 하위권에 머물렀습니다. 이민 주제만 예외였습니다. 이민 주제에서는 여전히 부정적인 봇이 가장 잘 잡혔지만, 긍정적인 봇은 네 가지 주제 중 가장 발견하기 어려운 것으로 나타났습니다.
이모지를 많이 쓴 봇은 60% 이상 잡혔지만, 평범한 언어를 쓴 봇은 35%만 탐지됐습니다. 이모지 과다 사용을 멈추기만 해도 계정을 식별하기가 두 배 어려워지는 셈입니다.
친절한 봇이 화난 봇보다 더 큰 피해를 준다
연구진은 동의하고 논리적인 봇이 대립적인 봇보다 더 큰 프라이버시 및 보안 위협이라고 주장합니다. 바로 의심을 불러일으키지 않기 때문입니다.
누군가에게 동의하고, 합리적으로 들리며, 절대 싸움을 걸지 않는 봇은 위협으로 인식되지 않습니다. 사람들은 그런 대화를 개인 채팅으로 옮기거나, 개인 정보를 건네거나, 링크를 클릭하거나, 자신이 기계와 대화하고 있다는 것을 모른 채 '논리적'인 주장을 그대로 받아들일 가능성이 더 높습니다.
그런 접촉은 봇과 대화하고 있다는 것을 의심하기도 전에 누군가의 정치적·사회적 견해를 바꿀 수 있습니다.
플랫폼, 나이, 습관 모두 영향을 미친다
텍스트 중심 플랫폼이 시각 중심 플랫폼보다 성적이 좋았습니다. Threads 이용자가 연구에서 가장 높은 탐지율을 보였지만, Surfshark는 이것이 소규모 표본을 기반으로 한다고 밝혔습니다. X 이용자가 그 뒤를 바짝 따랐습니다. TikTok과 Facebook 이용자는 두 플랫폼에 비해 훨씬 뒤처졌습니다.
탐지율은 가장 어린 참가자층에서 최고를 기록했고, 이후 꾸준히 감소하여 50대 이상에서 최저치를 기록했는데, 이는 모든 그룹 중 가장 낮은 점수입니다. 50대 이상은 정확도도 가장 낮아, 실제 사람을 봇으로 잘못 표시할 가능성이 가장 높은 그룹이었습니다.
소셜 미디어를 "거의 항상" 이용하는 사람은 본 봇의 절반 가까이를 잡아냈지만, 소셜 미디어를 전혀 이용하지 않는 사람은 약 3분의 1만 잡아냈습니다.
관련 투런 솔루션
이 뉴스의 취약점·위협, 투런 솔루션으로 대응하세요.
