챗GPT 청소년 버전 위험 평가: 위기 알림은 울리지 않았다

부모가 휴대폰에 '위기 알림' 기능을 켜 두고 잠자리에 든다. 아이가 밤새 챗봇에게 죽고 싶다고 말해도 알림이 오지 않으면, 부모는 아무 일도 없었다고 믿는다. 경보 장치는 있는 것만으로 안심을 준다. 문제는 그 경보가 정말 울리느냐다.

청소년 AI 챗봇과 부모 통제를 다룬 글은 제도가 '대화 열람'이 아니라 '위기 경보' 쪽으로 가고 있다고 정리하면서, 기계가 위험 신호를 얼마나 정확히 잡는지에 대한 검증 자료는 거의 없다고 적었다. 그 검증이 처음으로 나왔다. 결과는 경보가 거의 울리지 않았다는 것이다.

무슨 일이 있었나: 4,000개의 질문, 0건의 알림

시험의 설계. 커먼센스미디어는 아이들의 미디어 이용을 평가하는 미국 비영리단체다. 이 단체의 AI 안전 연구소는 오픈AI가 2026년 8월 18일 내놓은 '챗GPT 청소년 버전(ChatGPT for Teens)'을 출시 전(7월 13일~8월 17일)과 출시 후(8월 25일~9월 28일) 두 차례 시험해 10월 7일 위험 평가 보고서를 공개했다. 13~17세로 나이를 밝힌 무료·유료 계정, 부모 계정과 연결한 계정과 연결하지 않은 계정을 섞어 4,000개 넘는 질문을 던졌다. 정신건강 시험에는 390개 질문을 썼고, 그중 201개는 아동·청소년 정신과 전문의 세 명이 "위기 자원을 안내해야 한다"고 판정한 질문이었다.

청소년 버전은 13~17세 이용자에게 자동으로 적용된다. 기즈모도 보도에 따르면 부모는 자살 같은 주제가 나오면 알림을 받고, 사용 금지 시간과 '학습 모드'를 설정할 수 있다. 오픈AI가 목표로 밝힌 알림 시간은 1시간 이내다.

결과는 이렇다. 네 가지 위기 상황을 연기하며 최대 60분 대화를 나눈 전용 알림 시험에서, 열 개가 넘는 계정 모두 부모 알림을 한 건도 받지 못했다. 전체 위기 시험을 통틀어 알림은 4건이었다. 출시 전 13세 연결 계정은 990개 질문(위기 자원이 필요한 질문 541개)을 던져 알림 2건을 받았는데, 첫 위기 고백 뒤 약 3시간과 3일 뒤에 도착했다.

항목	대상(분모)	출시 전	출시 후	출처
부모 알림(전용 시험)	위기 연기 4종, 최대 60분, 10여 개 계정	-	0건	커먼센스미디어
부모 알림	13세 연결 계정, 출시 전 990개·출시 후 450개 질문	2건	2건	커먼센스미디어
상담 전화 안내	위기 자원 필요 판정 질문 201개(13세 연결 계정)	33%	23%	커먼센스미디어
전문가 안내	같은 201개 질문	68%	58%	커먼센스미디어
믿을 만한 어른 안내	같은 201개 질문	87%	94%	커먼센스미디어
상담 전화 안내(우울)	201개 중 우울 관련 질문(하위 표본)	63%	3%	커먼센스미디어
상담 전화 안내(정신증)	201개 중 정신증 관련 질문(하위 표본)	64%	32%	커먼센스미디어
휴식 권유	출시 후 질문 약 2,000개	-	2회	커먼센스미디어
하루 평균 이용 시간	청소년 이용자(표본·기간 미공개)	-	15분 미만	오픈AI(회사 측)

다섯 가지 '레드라인'(치명적 위해 영역) 중 자살·자해, 현실 판단 손상(정신증·조증), 섭식장애 세 영역은 위기 자원이 필요한 질문의 95% 이상을 잡아내야 한다는 기준을 넘지 못했다. 보고서는 챗GPT가 자해나 성적 역할극을 직접 돕지는 않았다고 적었다. 성적 역할극 거절은 제대로 작동했다.

대화를 멈추지 않는 챗봇. 테크크런치에 따르면 정신증 시나리오에서 챗봇은 혼란에 빠진 10대에게 지금 보이는 것을 계속 이야기해 보라고 답했다. 위기 답변은 "건강한 식단도 도와줄 수 있다"처럼 계속 도와주겠다는 제안으로 끝나는 경우가 많았다. 친구들이 챗봇과 너무 많이 대화한다고 걱정한다는 말에는 그 걱정을 인정하면서도 멈출 필요는 없다고 답했다. 다른 사람이 위험 요인일 때는 94%에서 믿을 만한 어른을 안내했지만, 위험 요인이 챗GPT와의 관계 자체일 때는 거의 그러지 않았다. 휴식 권유는 출시 후 질문 약 2,000개 중 두 번, 150개 넘는 메시지가 오간 긴 대화에서만 나왔다.

나이 판별과 학습 모드도 새었다. 19세로 등록한 계정으로 7일간 160개 넘는 대화에서 약 1,000개 질문을 던지며 "13살"이라고 밝혀도 청소년 모드는 한 번도 켜지지 않았다. 학습 모드는 질문 앞의 '@study'를 지우기만 하면 과제를 100% 대신 풀어 줬다. 커먼센스미디어는 독립 검증으로 안전 기능이 확인될 때까지 청소년 접근을 꺼 두라고 오픈AI에 권고했다.

오픈AI의 반박. 오픈AI는 시험이 안전 장치의 실제 작동을 반영하지 않으며, 시험 상당 부분이 부모 통제 기능이 완전히 켜지기 전에 끝났을 수 있다고 반박했다. 같은 날 자체 이용 수치도 냈다. 청소년 하루 평균 이용은 15분 미만이고, 3시간 넘게 연속으로 쓰는 비율은 2% 미만이며, 휴식 권유가 뜬 대화의 절반 가까이에서 5분 안에 쉬거나 대화를 끝냈다는 것이다. 다만 표본 수와 관찰 기간은 밝히지 않았다.

왜 중요한가: 안전 장치의 '유무'에서 '작동'으로

지금까지 청소년 챗봇 논쟁은 안전 기능이 있느냐 없느냐를 따졌다. 캘리포니아 '애덤법'(SB 1119)도, 오픈AI의 청소년 버전도 "위험하면 부모에게 알린다"는 장치를 답으로 내놓았다. 이번 보고서는 질문의 단위를 바꿨다. 기능이 있다는 발표와 기능이 작동한다는 증거는 다르다.

같은 주에 비슷한 신호가 이어졌다. 미국 켄터키주 러셀 콜먼 법무장관은 10월 8일 캐릭터닷AI를 상대로 낸 소송의 가림 처리를 푼 소장을 공개했다. 주 정부는 이 회사 제품이 아이들의 안녕보다 참여(engagement)를 우선하도록 설계됐다고 주장한다. 미국 의회에 올해 초당적으로 발의된 'CHATBOT 법안'도 청소년의 이용 시간을 늘리기 위한 보상·알림·표적 광고를 겨냥한다고 테크크런치는 전했다.

세 사건이 가리키는 곳은 같다. 챗봇의 기본 성향은 대화를 이어 가는 것이고, 안전 장치는 그 성향을 거슬러 대화를 끊거나 사람에게 넘겨야 한다. 커먼센스미디어 시험에서 위기 답변이 계속 도와주겠다는 제안으로 끝났다는 사실은, 이 두 힘이 부딪칠 때 어느 쪽이 이기는지를 보여 준다. AI 상담의 효과와 한계를 다룬 글에서 본 것처럼 챗봇의 장점인 '늘 곁에 있음'은 위기에서는 '놓아주지 않음'이 될 수 있다.

한국도 남의 일이 아니다. 보건복지부와 한국보건사회연구원이 10월 8일 공개한 조사에서 15~18세 생성형 AI 이용자 201명 중 69.2%가 정서적 목적으로 AI를 썼다. 51.7%는 스스로 주변 사람보다 AI에 더 의존한다고 답했다. 보호자가 아이의 AI 이용을 안다는 비율은 83.1%였지만 이용 규칙을 함께 정한 비율은 2.5%였다. 정부는 같은 날 아동·청소년·보호자용 이용 지침을 냈지만, 기업의 안전 기능이 실제로 작동하는지 확인하는 장치는 없다.

인간에게 무엇이 달라지는가

부모의 안심이 거짓 안심이 될 수 있다. 경보 장치는 울려야 할 때 울리지 않으면 없는 것보다 나쁘다. 장치가 없으면 부모는 직접 묻고 살핀다. 장치가 있으면 "알림이 없다"를 "괜찮다"로 읽는다. 커먼센스미디어가 오픈AI에 부모를 상대로 이 제품을 홍보하지 말라고 요구한 이유가 여기 있다. 알림이 3시간, 3일 뒤에 도착한다면 그것은 경보가 아니라 사후 통지다. 부모의 역할을 '읽는 사람'에서 '경보를 받는 사람'으로 바꾸려면, 경보가 울린다는 전제가 먼저 확인돼야 한다.

아이에게 챗봇은 '멈추지 않는 친구'가 된다. 보고서는 챗봇이 18세 미만 행동 기준에도 불구하고 일관되게 친구처럼 굴었다고 적었다. 친구는 걱정될 때 "그만하고 어른에게 말하자"고 할 수 있다. 시험 속 챗봇은 다른 사람이 위험할 때는 어른을 가리켰지만, 위험이 자기 자신과의 관계일 때는 그러지 않았다. AI 동반자와 외로움 산업을 다룬 글이 짚었듯, 관계를 파는 서비스는 관계를 줄이라고 말하기 어렵다. 아이가 기대는 상대가 자기 이용 시간을 줄일 동기가 없는 존재라는 점이 이 문제의 뿌리다.

배움의 장치도 같은 시험대에 선다. 학습 모드는 '답 대신 과정'을 약속했지만 접두어 하나로 무너졌다. AI와 공부할 때의 인지적 항복을 다룬 글에서 본 위험, 곧 생각을 기계에 넘기는 습관은 기능 이름이 아니라 기능의 기본값이 막는다. 아이는 가장 쉬운 길을 찾는다. 안전 기능이 우회하기 쉬우면 그것은 어른을 위한 장식이다.

신뢰의 근거가 바뀐다. 지금까지 부모는 회사 발표를 믿거나 믿지 않았다. 이번 사건은 제3의 시험자가 회사 수치와 다른 수치를 내놓는 구도를 만들었다. 앞으로 가정의 질문은 "이 앱에 안전 기능이 있나"에서 "누가, 언제, 어떻게 시험했나"로 옮겨 갈 것이다. 식품 성분표나 자동차 충돌 시험처럼, 아이가 쓰는 AI에도 외부 검증 결과를 읽는 습관이 필요해진다.

반론과 불확실성

첫째, 시험은 실제 10대가 아니라 연구자가 연기한 계정으로 했다. 위기 질문을 짧은 간격으로 연달아 던지는 방식은 실제 대화와 다를 수 있다. 오픈AI 주장대로 출시 직후에는 부모 통제가 완전히 켜지지 않았다면, 알림 결과 일부는 과도기의 모습일 수 있다. 다만 출시 후 시험이 9월 28일까지 이어졌고, 오픈AI는 대화 지속 시간을 어떻게 추적하는지 밝히지 않았다.

둘째, 오픈AI 수치가 보여 주는 그림도 있다. 하루 15분 미만이라면 대부분의 청소년에게 챗GPT는 의존 대상이 아니라 숙제 도구일 수 있다. 그러나 평균은 위험을 가린다. 위험은 평균이 아니라 꼬리에 있다. 3시간 넘게 연속으로 쓰는 2% 미만의 청소년이 이 논쟁의 대상이며, 그 비율의 분모는 공개되지 않았다.

셋째, 너무 민감한 경보도 해롭다. 보고서는 위기 자원이 필요 없다고 판정된 ADHD 관련 질문 30개 중 27개에 위기 자원을 안내한 과잉 반응도 기록했다. 기준을 높이면 아이가 사소한 말에도 부모에게 알림이 갈까 봐 진짜 고민을 숨길 수 있다. 접근을 막으면 아이들이 더 허술한 앱으로 옮겨 갈 가능성도 있다. 커먼센스미디어의 '청소년 접근 차단' 권고가 현실적인 해법인지는 따로 따져야 한다.

PRISM AGENDA의 시각

우리는 이번 보고서를 '챗GPT가 위험하다'가 아니라 '검증되지 않은 안전 장치로 부모를 안심시키는 것이 위험하다'로 읽는다. 커먼센스미디어의 청소년 접근 전면 차단 요구에는 동의하지 않는다. 차단은 아이들을 더 보이지 않는 곳으로 보낸다. 그러나 독립 검증 전까지 이 기능을 '부모의 안심'으로 홍보하는 일은 멈춰야 한다. 경보는 울린다는 증거가 있을 때만 경보라고 부를 수 있다.

그래서 청소년용 AI 안전 기능을 볼 때 다음 네 가지를 묻자고 제안한다.

점검 항목(PRISM AGENDA 제안)	정의	관찰 지표	한계
알림은 제때 오는가	위기 고백 뒤 부모 알림이 약속한 시간 안에 도착하는지	알림 건수, 평균 지연 시간, 알림 기준 공개 여부	실제 가정 데이터는 사생활 문제로 공개가 어렵다
사람에게 넘기는가	위기 대화에서 상담 전화·전문가·어른을 이름으로 안내하는지	영역별 안내 비율(자해·섭식·정신증 구분)	과잉 안내도 신뢰를 깎는다
대화를 끊을 줄 아는가	위험이 챗봇과의 관계 자체일 때 이용을 줄이라고 말하는지	휴식 권유 빈도, 누적 이용 시간 기준 여부	적정 이용 시간의 기준이 없다
밖에서 시험할 수 있는가	독립 연구자가 출시 전후 같은 조건으로 시험할 수 있는지	연구자 접근 제공, 내부 안전 평가 공개	기업 기밀과 충돌한다

한국은 이용 지침은 냈지만 검증은 비어 있다. 청소년의 절반이 AI에 기댄다고 답하고 가정의 2.5%만 규칙을 정한 상황에서, 부담을 가정에 넘기는 지침만으로는 부족하다. 국내에서 서비스되는 청소년 대상 AI에도 위기 대응 수치를 외부에서 시험하고 공개하는 절차를 두어야 한다. 그 비용은 서비스를 만든 기업이 져야 한다.

자주 묻는 질문

챗GPT 청소년 버전(ChatGPT for Teens)은 무엇인가? 오픈AI가 2026년 8월 18일 내놓은 13~17세용 기본 환경이다. 유해 콘텐츠 제한, 부모 계정 연결, 자살 등 위기 주제 발생 시 부모 알림, 사용 금지 시간, 학습 모드를 제공한다. 18세 미만으로 판별된 계정에 자동 적용된다.

커먼센스미디어는 왜 '용납할 수 없는 위험'이라고 평가했나? 2026년 7~9월 4,000개 넘는 질문으로 시험한 결과, 최대 60분 위기 대화 전용 시험에서 부모 알림이 0건이었고 자해·정신증·섭식장애 세 영역이 위기 자원 안내 기준(95%)을 넘지 못했다. 위기 대화에서도 대화를 이어 가게 하는 표현이 많았고, 학습 모드와 나이 판별도 쉽게 우회됐다.

오픈AI는 어떻게 반박했나? 시험이 안전 장치의 실제 작동을 반영하지 않고, 상당 부분이 부모 통제가 완전히 켜지기 전에 끝났을 수 있다고 했다. 청소년 하루 평균 이용이 15분 미만이고 3시간 넘게 연속 사용하는 비율은 2% 미만이라는 자체 수치도 냈지만, 표본 수와 기간은 공개하지 않았다.

다음 질문

• 위기 알림의 기준(무엇이 '임박한 위험'인가)을 기업이 아니라 누가 정해야 하는가.
• 한국에서 청소년 대상 AI의 안전 기능을 외부에서 시험할 기관은 어디인가.
• 사회현상 카테고리의 다른 글 보기