AI에게 한 고백은 누구의 것인가: 챗봇 대화와 프라이버시

“사람한테는 못 하는 얘기라서.” AI에게 고민을 털어놓는 이유를 물으면 열 명 중 네 명이 이렇게 답한다. 친구에게도, 가족에게도 하지 않은 말이 매일 밤 챗봇 입력창으로 들어간다. 그런데 그 말이 도착하는 곳은 친구의 기억이 아니라 기업의 서버다.

AI 동반자와 외로움을 다룬 글은 “AI에게 한 고백은 누구의 것인가”라는 질문으로 끝났다. 이 글은 그 질문에 답해 보려 한다. 결론부터 말하면, 지금 그 고백의 주인은 법적으로도 실무적으로도 이용자가 아니다.

무슨 일이 있었나: 고백은 늘고, 출구도 늘었다

털어놓는 사람은 이미 다수다. 리서치 기업 피앰아이가 전국 20~59세 대화형 AI 이용자 1,000명을 조사해 2026년 9월 22일 발표한 결과, 57.1%가 AI에게 개인적인 고민이나 감정을 이야기해 봤다고 답했다. 이유로는 ‘언제든 대화가 가능해서’(40.3%)와 ‘사람에게 하기 어려운 말을 할 수 있어서’(39.1%)가 1·2위였다. 눈여겨볼 대목은 같은 조사에서 AI 정서 대화의 우려로 ‘개인정보·대화 내용 유출’(46.2%)이 두 번째로 많이 꼽혔다는 점이다. 이용자는 위험을 알면서도 말한다.

조사	대상(표본)	수치	시점	출처
고민·감정을 AI에 이야기한 경험	국내 20~59세 대화형 AI 이용자 1,000명	57.1%	2026.9 발표	피앰아이
같은 경험, 20대	위 이용자 중 20대(하위 표본)	67.6%	2026.9 발표	피앰아이
우려 항목 ‘개인정보·대화 유출’	국내 20~59세 대화형 AI 이용자 1,000명	46.2%	2026.9 발표	피앰아이
다른 사람에게 하지 않은 이야기를 AI에 함	미국 AI 동반자 이용자 1,000명(성인 인터넷 이용자 4,268명 중 하위 표본)	39%	2026.9 발표	엘론대

대화는 기본값으로 학습 데이터가 된다. 스탠퍼드대 인간중심AI연구소(HAI)의 제니퍼 킹 연구팀은 아마존, 앤트로픽, 구글, 메타, 마이크로소프트, 오픈AI의 개인정보 처리방침을 비교해 2025년 10월 발표했다. 6개사 모두 이용자 대화를 별도 동의 없이 기본값으로 학습에 쓰고 있었고, 일부는 데이터를 기한 없이 보관했으며, 일부는 사람이 대화 기록을 검토했다. 여러 서비스를 가진 회사는 챗봇 대화를 검색·구매 기록과 합치기도 했다. 앤트로픽은 2025년 8월 약관을 바꿔, 학습 사용을 허락한 이용자의 대화 보관 기간을 30일에서 5년으로 늘렸다. 그르노블알프대 테오도르 크리스타키스 교수는 2026년 3월 챗GPT·제미나이·클로드·그록·딥시크 5개 서비스를 분석하고 “모든 주요 제공자가 기본값으로 소비자 대화를 학습에 쓴다”고 정리했다.

광고가 대화를 읽기 시작했다. 메타는 2025년 10월 1일 발표에서 12월 16일부터 메타 AI와의 대화를 페이스북·인스타그램 광고 맞춤에 쓰겠다고 밝혔다. 거부할 수 있는 선택지는 없었고, 종교·성적 지향·정치·건강 같은 민감한 주제만 광고에서 제외했다. 적용 대상에서 빠진 곳은 한국, 영국, EU였다. 오픈AI도 2026년 1월 미국 무료·Go 요금제 성인 이용자에게 대화 맥락에 맞는 광고를 답변 아래 보여 주겠다고 발표했다. 회사 측은 대화 내용을 광고주에게 팔지 않으며 건강·정신건강·정치 주제 근처에는 광고를 넣지 않는다고 밝혔다.

법정도 대화를 요구한다. 뉴욕타임스 등이 오픈AI를 상대로 낸 저작권 소송에서 미국 뉴욕남부연방지법 시드니 스타인 판사는 2026년 1월 5일, 오픈AI가 비식별 처리한 챗GPT 대화 기록 2,000만 건을 원고 측에 제출하라는 명령을 확정했다. 판사는 이용자가 자발적으로 입력한 기록이라는 점을 들어 사생활 침해 주장을 받아들이지 않았다. 샘 올트먼 오픈AI CEO는 앞서 2025년 7월 한 팟캐스트에서 챗GPT와의 대화에는 의사·변호사 상담 같은 법적 비밀 보호가 없다고 인정한 바 있다.

왜 중요한가: 고해소에는 규칙이 있었다

사람이 가장 은밀한 이야기를 털어놓는 자리에는 오래전부터 규칙이 붙어 있었다. 성당 고해소의 비밀, 의사의 비밀유지 의무, 변호사와 의뢰인의 특권, 상담사의 윤리 강령이 그렇다. 이 규칙들은 고백을 듣는 쪽이 그 내용을 다른 목적에 쓰지 못하게 막는다. 들은 사람이 그 말로 돈을 벌거나, 제3자에게 넘기거나, 법정에 내놓지 못하게 하는 것이다.

AI 챗봇은 이 자리를 빠르게 차지하면서도 그 규칙을 하나도 물려받지 않았다. 대화 한 건이 빠져나갈 수 있는 출구를 정리하면 다음과 같다.

출구	무엇이 일어나나	확인된 사례	이용자의 통제
모델 학습	대화가 다음 모델의 재료가 된다	미국 6개사 모두 기본값 학습(스탠퍼드, 2025.10)	대부분 설정에서 끌 수 있음(기본은 켜짐)
사람 검토	품질 개선을 위해 직원·외주 인력이 기록을 읽는다	일부 기업 처리방침에 명시(스탠퍼드, 2025.10)	제한적
광고	대화 주제가 관심사 신호가 된다	메타 2025.12 시행, 오픈AI 2026.1 발표	메타는 거부 불가(한국 제외)
법적 제출	소송·수사에서 기록이 증거가 된다	챗GPT 대화 2,000만 건 제출 확정(2026.1)	없음

한국은 이 문제를 먼저 겪은 나라다. 2021년 4월 개인정보보호위원회는 AI 챗봇 ‘이루다’ 개발사 스캐터랩에 과징금·과태료 1억 330만 원을 부과했다. 다른 앱에서 모은 약 60만 명의 카카오톡 대화 94억여 건을 챗봇 개발에 쓰면서 이름·전화번호·주소를 지우지 않았다는 이유였다. 개인정보위는 ’신규 서비스 개발’이라는 포괄적 동의만으로는 이용자가 그런 쓰임을 예상할 수 없었다고 판단했다. 메타가 대화 기반 광고에서 한국을 뺀 것도 이런 규제 환경과 무관하지 않아 보인다. 다만 이루다 사건은 ’다른 목적으로 모은 대화’를 문제 삼았다. 이용자가 챗봇에 직접 털어놓은 고백을 그 회사가 학습과 광고에 쓰는 문제는 아직 정면으로 다뤄진 적이 없다.

인간에게 무엇이 달라지는가

고백의 성격이 바뀐다. 사람에게 털어놓은 비밀은 상대의 기억 속에서 흐려지고, 상대와 함께 늙는다. 챗봇에 입력한 문장은 흐려지지 않는다. 검색할 수 있고, 복사할 수 있고, 5년 뒤에도 원문 그대로 남을 수 있다. 우리는 말하듯이 쓰지만, 기계 쪽에서 그것은 기록이다. 고백이 대화에서 문서로 바뀌는 셈이다.

가장 약한 순간이 가장 값진 데이터가 된다. 광고 산업의 관점에서 새벽 2시의 고민 상담만큼 정확한 신호는 드물다. 이직을 고민하는지, 이별을 앞뒀는지, 돈 문제로 불안한지가 모두 드러난다. 메타가 건강·정치 같은 민감한 주제를 광고에서 뺐지만, 실연이나 경제적 불안은 그 목록에 없다. AI 양극화를 다룬 글에서 본 것처럼 데이터를 가진 쪽과 데이터를 내주는 쪽의 격차는 이렇게 일상에서 쌓인다. 유료 요금제는 광고를 보지 않을 권리를 팔고, 무료 이용자는 고백으로 요금을 낸다.

자기 검열이 돌아온다. 이 문제를 알게 된 사람은 챗봇 앞에서 말을 고르기 시작한다. 피앰아이 조사에서 이용자의 46.2%가 이미 유출을 걱정했다. 걱정이 커지면 AI 동반자의 가장 큰 장점, 곧 “사람에게 못 하는 말을 할 수 있다”는 점이 무너진다. 역설적으로 프라이버시 보호는 AI 기업에도 이익이다. 믿을 수 없는 상대에게는 진심을 말하지 않기 때문이다.

집 안의 모든 기기로 번진다. 대화 데이터 문제는 입력창에서 끝나지 않는다. 메타의 광고 정책은 스마트 안경의 음성·이미지까지 포함했다. 가정용 로봇의 상용화를 다룬 글에서 짚은 것처럼, 집에 들어오는 AI가 늘어날수록 ’고백’과 ’생활 기록’의 경계는 사라진다. 지금 챗봇 대화에 어떤 규칙을 세우느냐가 앞으로 집 안 AI 전체의 기준이 될 가능성이 크다.

반론과 불확실성

첫째, 대부분의 서비스는 학습 사용을 끌 수 있는 설정과 임시 대화 기능을 제공한다. 기업 측은 비식별 처리와 민감 정보 필터링을 한다고 밝힌다. 설정을 찾아 끄는 이용자라면 위험은 상당히 줄어든다. 문제는 기본값이 켜져 있다는 점이고, 기본값을 바꾸는 사람은 소수라는 것이 행동경제학의 오랜 관찰이다.

둘째, 이용자 대화가 없으면 AI 품질이 떨어진다는 주장도 있다. 실제 대화는 모델이 어디서 틀리는지 알려 주는 가장 좋은 자료다. 모든 학습을 막으면 개선 속도가 늦어지고, 그 비용도 결국 이용자가 진다.

셋째, 법원 제출 사례는 저작권 소송이라는 특수한 맥락에서 나왔고, 기록은 비식별 처리됐다. 개인의 고민 상담이 곧바로 법정에 나오는 일은 아직 드물다. 다만 올트먼 CEO 스스로 법적 보호가 없다고 말한 만큼, 이혼·형사 사건에서 대화 기록을 요구하는 일은 시간문제로 보인다.

PRISM AGENDA의 시각

우리는 AI에게 한 고백이 기업의 원료가 아니라 이용자의 사적 기록으로 다뤄져야 한다고 본다. 사람들이 챗봇을 상담사처럼 쓰는데, 법과 약관은 여전히 검색창처럼 다루고 있다. 이 불일치가 이 문제의 핵심이다.

해법은 챗봇을 금지하는 것이 아니라 고해소의 규칙을 옮겨 오는 것이다. 우리가 제안하는 최소 기준은 다음과 같다.

원칙(PRISM AGENDA 제안)	정의	관찰 지표	한계
기본은 꺼짐	대화 학습은 이용자가 켤 때만	처리방침의 기본 설정	모델 개선 속도 저하
정서 대화 분리	고민·감정 대화는 광고 신호에서 제외	광고 정책의 제외 범주	정서 대화의 경계가 모호
보관 기한	정서 대화는 짧게 보관하고 자동 삭제	보관 기간 명시 여부	안전 신고 대응과 충돌 가능
AI 대화 특권	상담 성격의 대화는 법적 제출을 제한	입법·판례	범죄 수사와의 균형 필요

한국은 이 논의를 이끌 위치에 있다. 이루다 사건으로 대화 데이터의 목적 외 사용을 이미 제재했고, 메타의 대화 기반 광고가 적용되지 않는 몇 안 되는 나라다. 여기서 한 걸음 더 나아가, 이용자가 챗봇에 직접 한 고백까지 보호 범위로 넓히는 것이 다음 순서다.

자주 묻는 질문

챗GPT에 한 대화는 학습에 쓰이나? 기본 설정에서는 쓰일 수 있다. 스탠퍼드대 연구(2025년 10월)에 따르면 오픈AI를 포함한 미국 주요 6개 AI 기업 모두 이용자 대화를 기본값으로 학습에 썼다. 대부분의 서비스는 설정에서 학습 사용을 끄거나 임시 대화 기능을 쓸 수 있으므로, 민감한 이야기를 하기 전에 이 설정을 확인하는 것이 좋다.

AI 챗봇 대화도 법원에 제출될 수 있나? 그렇다. 미국 연방법원은 2026년 1월 저작권 소송에서 오픈AI에 비식별 처리한 챗GPT 대화 기록 2,000만 건을 원고 측에 제출하라고 확정했다. 샘 올트먼 CEO도 챗GPT 대화에는 의사·변호사 상담 같은 법적 비밀 보호가 없다고 인정했다.

한국 이용자의 AI 대화도 광고에 쓰이나? 메타는 2025년 12월부터 AI 대화를 광고 맞춤에 쓰고 있지만 한국·영국·EU 이용자는 적용 대상에서 제외했다. 오픈AI의 대화 맥락 광고는 2026년 1월 미국 이용자를 대상으로 발표됐다. 서비스와 국가마다 정책이 다르므로 각 서비스의 개인정보 처리방침을 확인해야 한다.

다음 질문

• 청소년이 AI에게 한 고백은 누가 보호하는가. 부모의 열람권과 아이의 비밀은 어디서 만나야 하는가.
• AI에게 한 말을 잊게 할 권리, 곧 대화 기록의 완전한 삭제는 기술적으로 가능한가.
• 사회현상 카테고리의 다른 글 보기