딥페이크 선거 광고, 표시 의무로 막을 수 있나

텍사스 상원의원 선거에서 한 후보가 상대 후보의 영상을 올렸다. 영상 속 상대는 크레용으로 성경에 낙서를 하며 자신이 기독교를 싫어하는 기독교인이라고 말한다. 그런 일은 없었다. AI가 만든 장면이었다. 미국 중간선거(11월 3일)를 한 달 앞두고 이런 광고는 더 이상 화젯거리가 아니라 일상이 됐다.

딥페이크란 AI로 실제 인물의 얼굴·목소리·행동을 그럴듯하게 합성한 영상·음성·이미지를 말한다. 각국의 대응은 크게 둘로 갈린다. "AI로 만들었다"고 표시하게 하는 방식, 그리고 선거 기간에는 아예 금지하는 방식이다. 미국은 앞쪽을, 한국은 뒤쪽을 택했다. 이 글은 두 방식이 2026년 실제 선거에서 어떤 결과를 냈는지 숫자로 비교하고, 유권자에게 무엇이 남는지 묻는다.

무슨 일이 있었나: 한 달 앞둔 중간선거의 AI 광고

광고 집계. 미국 정치 광고를 추적하는 웨슬리언 미디어 프로젝트는 9월 4일, 이번 선거 주기에 AI로 만들거나 보정한 정치 광고가 최소 164편이라고 발표했다. 방송·커넥티드TV·디지털 광고비 추정치(애드임팩트 자료)로 약 8,000만 달러다. 5월 1차 집계(33편, 약 2,000만 달러)에서 넉 달 만에 다섯 배가 됐다. 164편 가운데 69%, 광고비 기준으로는 78%가 AI 사용을 밝히지 않았다. 연구진은 연방 차원의 표시 의무가 없어 AI 사용 여부를 확인하기 어려운 광고가 많으므로 실제보다 적게 센 숫자라고 밝혔다.

법이 있어도 같다. AP는 같은 자료를 주별로 나눠 봤다. AI 광고 표시 법이 없는 주에서도 32%는 스스로 표시를 달았는데, 법이 있는 주에서 표시한 광고는 29%였다(9월 25일). 뉴욕주는 표시 법이 있지만 주지사 후보 측이 상대 후보들의 AI 이미지를 표시 없이 쓴 사례가 보도됐다. 테네시주처럼 법이 후보 사칭형 딥페이크에만 적용돼 나머지 AI 광고는 대상이 아닌 곳도 있다.

법원의 제동. 9월 18일 몬태나 연방지법의 수전 와터스 판사는 2025년 제정된 주 딥페이크 선거법의 집행을 임시로 멈추게 했다. 이 법은 선거 60일 전부터 후보의 평판을 해칠 의도로 만든 딥페이크를 표시 없이 내보내지 못하게 했다. 판사는 똑같이 속이는 영상이라도 후보를 깎아내리면 규제하고 띄우면 놔두는 구조가 표현 내용에 따른 차별이라 수정헌법 1조에 어긋날 가능성이 크다고 봤다. 소송을 낸 단체는 정치인들이 무지개 깃발을 든 것처럼 합성한 우편물을 보낸 곳이다. 연방선거위원회(FEC)는 위원들이 당파로 갈려 AI 광고 규칙을 만들지 못했고, 연방 법도 없다.

왜 중요한가: 표시하는 나라와 금지하는 나라

한국은 2023년 12월 공직선거법을 고쳐 선거일 90일 전부터 딥페이크 선거운동을 금지했다. 위반하면 7년 이하 징역 또는 1,000만~5,000만 원 벌금이다. 상대가 동의했거나 후보 본인 홍보용이어도 금지되며, 90일 이전에도 딥페이크라는 표시를 해야 한다. 미국 주법들과 달리 의도(비방이냐 홍보냐)를 묻지 않기 때문에 몬태나 판결이 문제 삼은 지점을 피해 간다.

지표	대상(분모)	수치	시점	출처
AI 활용 정치 광고	미국 2026 선거 주기, 웨슬리언 확인분	최소 164편, 약 8,000만 달러	2026.9	웨슬리언 미디어 프로젝트
AI 표시 없는 광고 비율	같은 164편	69%	2026.9	웨슬리언 미디어 프로젝트
AI 표시 광고 비율(표시 법 없는 주)	법 없는 주에서 나간 AI 광고	32%	2026.9	AP
AI 표시 광고 비율(표시 법 있는 주)	법 있는 주에서 나간 AI 광고	29%	2026.9	AP
선관위 딥페이크 적발	한국 22대 총선	389건	2024	서울신문
선관위 딥페이크 적발	한국 21대 대선	1만513건	2025	서울신문
선관위 딥페이크 삭제 요청	한국, 6·3 지방선거 앞	1만319건	2026.1.1~5.27	경향신문(행정안전부 자료)

미국 쪽 숫자는 '광고' 단위이고 한국 쪽은 대부분 개인이 퍼뜨린 '게시물' 단위라 직접 비교할 수는 없다. 그래도 방향은 읽힌다. 한국에서는 후보와 정당이 공식 광고에 딥페이크를 거의 쓰지 못하고, 단속은 온라인 게시물로 옮겨 갔다. 서울신문 보도에 따르면 선관위는 440명 규모 특별대응팀을 두고 모니터링, 여러 감별 프로그램, 전문가 판독의 3단계로 걸렀다. 4월 10일까지 적발한 4,661건 가운데 4,652건이 삭제 요청이었고 고발은 1건이었다. 경향신문은 올해 딥페이크·AI로 허위 정보를 만들거나 퍼뜨려 적발된 사람이 921명이라고 전했다.

정리하면, 미국은 표현의 자유를 지키는 대가로 거짓 장면을 공식 광고에서 걸러 내지 못하고, 한국은 공식 광고에서 거의 막아 낸 대신 국가가 1만 건 넘는 게시물을 지우는 구조를 택했다.

인간에게 무엇이 달라지는가

표시는 거짓만 의심하게 하지 않는다. 미국정치컨설턴트협회(AAPC) 재단이 양당 실무자와 함께 한 실험(2026년 4월 발표)은 가상의 시장 선거 광고에 AI 표시를 붙이자 시청자의 불신이 커졌다고 보고했다. 표시가 클수록 신뢰는 더 떨어졌고, AI에 익숙하지 않은 사람일수록 영향이 컸다. 표시는 "이 장면은 합성"이라는 정보가 아니라 "이 광고 전체를 믿지 말라"는 신호로 읽혔다. 그렇다면 정직하게 표시한 후보가 손해를 보고, 표시하지 않은 후보가 이익을 본다. 69%라는 숫자가 줄지 않는 이유 중 하나일 것이다.

의심이 진짜에도 번진다. 딥페이크가 흔해질수록 진짜 영상을 본 유권자도 "이것도 AI 아닐까"를 먼저 떠올린다. 불리한 진짜 영상이 나왔을 때 "AI 조작"이라고 우기기도 쉬워진다. 선거에서 가장 비싼 비용은 속은 사람이 아니라 아무것도 믿지 않게 된 사람이다. AI에 생각을 맡기는 인지적 항복이 판단을 남에게 넘기는 문제라면, 이쪽은 판단 자체를 포기하는 문제다.

짧은 경고는 효과가 있다. 다행인 숫자도 있다. 리드 오치닉과 데이비드 랜드 연구팀은 미국인 3,208명에게 정치 성향을 바꾸도록 설계된 AI 챗봇과 대화하게 했다. 대화 전에 AI 설득 방식에 관한 짧은 경고를 읽은 집단은 의견이 바뀐 폭이 약 48% 줄었고, AI 전반에 대한 신뢰는 크게 떨어지지 않았다(arXiv, 9월, 동료 평가 전). 딥페이크 광고가 아니라 챗봇 설득을 다룬 실험이지만, 콘텐츠마다 붙이는 표시보다 유권자에게 미리 놓는 예방주사가 더 효율적일 수 있다는 단서다.

표현의 경계를 누가 긋나. 한국식 금지는 효과가 분명하지만, 무엇이 딥페이크 선거운동인지는 결국 선관위가 판정한다. 풍자 영상, 지지자가 만든 응원 영상, AI로 보정한 사진까지 한 줄에 서 있다. 한국기자협회 보도가 전한 대로 법 개정 당시부터 과잉 입법이라는 지적이 있었다. 1만 건이 넘는 삭제 요청 하나하나가 정당했는지 시민이 확인할 길은 거의 없다. AI에게 한 고백의 주인을 묻는 글에서 본 것처럼, AI 시대의 규칙은 누가 그 규칙을 집행하는지까지 함께 봐야 한다.

반론과 불확실성

첫째, 딥페이크가 선거 결과를 바꿨다는 증거는 아직 약하다. 영국 앨런튜링연구소 CETaS는 2024년 영국·프랑스·유럽의회·미국 선거를 분석하고 AI 허위정보가 결과를 측정 가능할 만큼 바꿨다는 증거를 찾지 못했다고 밝혔다. 노출은 이미 같은 생각을 하던 사람들에게 몰렸다. 컬럼비아대 나이트 수정헌법 1조 연구소는 선거 딥페이크 78건을 분석해 절반가량은 속이려는 의도조차 없었고, 허위정보의 병목은 만드는 비용이 아니라 퍼뜨리는 비용이라고 봤다. 이 관점에서는 표시든 금지든 AI만 겨냥한 규제는 과녁을 빗나간다.

둘째, 2026년 숫자는 아직 중간 집계다. 웨슬리언 집계는 스스로 과소 집계라고 밝혔고, 선거 직전 몇 주에 광고가 몰리는 미국 선거의 특성상 11월까지 숫자가 크게 늘 수 있다. 한국의 삭제 요청 증가도 딥페이크가 늘어서인지, 감별 체계가 커져서 더 많이 찾아서인지 구분하기 어렵다.

셋째, 표시의 역효과 연구는 가상 광고 한 편을 쓴 실험이다. 표시 문구와 크기, 유권자 집단에 따라 결과가 달랐다는 것이 연구의 결론이기도 하다. 표시가 쓸모없다는 뜻이 아니라 지금 방식이 서툴다는 뜻으로 읽는 것이 맞다.

PRISM AGENDA의 시각

우리의 판단은 이렇다. 가짜에 딱지를 붙이는 방식으로는 선거를 지킬 수 없다. 2026년 미국이 보여 준 것은 표시 의무가 지켜지지 않고, 지켜져도 정직한 쪽이 손해를 보며, 법원은 표현의 자유를 이유로 규제를 멈춘다는 사실이다. 한국식 전면 금지는 공식 광고를 깨끗하게 지켰지만, 국가가 무엇이 거짓인지 판정하는 범위를 크게 넓혔다. 둘 다 '가짜를 찾아내는' 경쟁이고, 이 경쟁은 만드는 쪽이 더 싸다.

방향을 바꿔야 한다. 가짜를 증명하는 대신 진짜를 증명하게 하는 것이다. 후보와 정당이 내는 모든 공식 영상에 출처 서명을 붙이고, 서명 없는 영상은 '확인되지 않음'이 기본값이 되게 하는 것이다. 그리고 선거 공보물에 딥페이크 경고를 한 장 넣는 일처럼 값싸고 효과가 확인된 예방주사부터 시작해야 한다.

선거 딥페이크 대응 수단 4점검(PRISM AGENDA 제안)	정의	효과 근거	부작용·한계
제작 표시	AI로 만든 콘텐츠에 표시를 붙이게 함	약함(미국 미표시 69%)	정직한 쪽이 신뢰 손실, 집행 어려움
기간 금지	선거 전 일정 기간 딥페이크 자체를 금지	공식 광고에는 강함(한국)	국가 판정 범위 확대, 미국에선 위헌 소지
원본 증명	후보 공식 콘텐츠에 출처 서명을 붙여 진짜를 확인	아직 대규모 선거 적용 사례 없음	개인이 퍼뜨린 게시물에는 효과 제한
유권자 예방주사	투표 전 AI 조작 방식을 짧게 알림	실험에서 설득 효과 약 48% 감소	챗봇 설득 실험이라 딥페이크에 그대로 적용 불확실

유권자에게 남는 일도 단순하다. 투표 직전에 본 충격적인 영상일수록 한 번 더 의심하되, 진짜 영상까지 의심하는 냉소로 넘어가지 않는 것이다. 의심은 확인으로 끝나야 한다.

자주 묻는 질문

한국에서 선거 딥페이크는 언제부터 금지되나? 공직선거법에 따라 선거일 90일 전부터 선거일까지 딥페이크 영상·음성·이미지를 이용한 선거운동이 금지된다. 위반하면 7년 이하 징역 또는 1,000만~5,000만 원 벌금이며, 90일 이전에도 딥페이크라는 표시를 해야 한다.

미국에는 선거 딥페이크를 막는 법이 있나? 연방 법은 없고 연방선거위원회도 AI 광고 규칙을 만들지 못했다. 30여 개 주가 표시 의무나 금지 법을 두고 있지만, 2026년 9월 몬태나주 법이 수정헌법 1조 위반 가능성으로 효력 정지되는 등 법원에서 제동이 걸리고 있다.

AI 표시가 붙은 광고는 믿지 않는 게 맞나? 표시는 합성 장면이 들어 있다는 뜻이지 내용 전체가 거짓이라는 뜻은 아니다. 2026년 연구에서는 표시가 광고 전체의 신뢰를 떨어뜨리는 역효과가 확인됐다. 표시 유무보다 장면이 실제로 있었던 일인지, 후보의 공식 채널에서 나온 것인지를 확인하는 편이 정확하다.

다음 질문

• 후보의 공식 영상에 출처 서명을 붙이는 기술은 언제쯤 선거에 쓰일 수 있을까. 진짜를 증명하는 비용은 누가 내야 하나.
• 딥페이크를 지우는 판정이 늘어날수록, AI 동반자와 외로움 산업을 다룬 글에서 본 것처럼 화면 속 정보를 믿는 방식 자체가 바뀌는 것은 아닐까.
• 사회현상 카테고리의 다른 글 보기