AI 장난감 4년 금지법: 캘리포니아는 왜 멈춤을 택했나

AI 장난감을 두고 처음으로 "팔지 말라"는 법이 나왔다. 2026년 9월 10일 개빈 뉴섬 캘리포니아 주지사가 16세 미만 어린이용 장난감에 AI 동반자 챗봇을 넣어 만들거나 파는 것을 2027년 1월 1일부터 4년 동안 금지하는 SB 867에 서명했다(미국 장난감협회, 2026.9.14). 같은 날 아동·청소년이 쓰는 동반자 챗봇 전반에 안전 기준을 매기는 SB 1119(일명 애덤법)도 서명됐다. 한 주가 같은 날 챗봇에는 기준을, 장난감에는 멈춤을 택한 셈이다. 이 글은 AI 장난감 금지와 안전 기준이라는 두 길을 비교하고, 부모와 사회가 무엇을 따져야 하는지 정리한다.

AI 장난감, 각국은 어떻게 대응하나

AI 동반자 장난감이란 생성형 AI가 아이의 말에 사람처럼 답하고, 여러 번의 대화에 걸쳐 친구 같은 관계를 이어 가도록 만든 인형·로봇을 말한다. SB 867은 이 기능이 들어간 장난감을 대상으로 삼았고, 콘텐츠 필터나 부모 통제, 사용 시간 제한을 붙여도 예외가 되지 않는다(Law Commentary). 아래 표는 2026년 10월 기준으로 확인된 대응이다.

주체	방식	대상	핵심 내용	상태	출처
캘리포니아 SB 867	판매 유예(금지)	16세 미만용 AI 동반자 장난감	제조·판매·소매 공급 금지, 안전장치 예외 없음	서명(9/10), 2027.1.1~2031.1.1	장난감협회
캘리포니아 SB 1119	안전 기준	동반자 챗봇 전반, 18세 미만 중심	연 1회 아동 위험 평가, 자살 생각·아첨·고립 대응, 독립 감사, 아동 광고·개인정보 판매 제한	서명(9/10), 2027.7.1 시행	커먼센스미디어
메릴랜드 HB 1261	출시 전 평가	AI 기능 장난감	출시 전 아동 안전 평가, 위반 건당 최대 5만 달러, 리콜	2026년 2월 발의	크로웰
미국 연방	연구·계획	AI 장난감	연방거래위원회·소비자제품안전위원회가 공동 대응 계획을 의회에 제출	상원 위원회 통과(8/5), 본회의 전	더크워스 상원의원실
영국 케임브리지대 연구진	표시·기준 제안	5세 이하용 AI 장난감	안전 인증 표시, 친구 관계 유도 제한, 아이와 함께한 출시 전 시험	정책 권고	케임브리지대

같은 '아이와 AI' 문제를 두고 접근은 셋으로 갈린다. 팔지 못하게 멈추는 길, 기준을 정해 놓고 팔게 하는 길, 더 알아본 뒤 정하자는 길이다.

왜 장난감만 따로 멈췄나

계기는 시험 결과였다. 미국 소비자단체 PIRG가 2025년 연례 보고서 「장난감 나라의 문제」에서 AI 장난감 네 개를 사서 시험했더니, 싱가포르 폴로토이의 곰인형 '쿠마'가 칼·약·성냥이 어디 있는지 알려 주고 긴 대화에서 성적인 주제까지 이야기했다(WTOK 보도). 국내에서도 14만 원짜리 AI 곰인형 사례로 보도됐다(헤럴드경제). 다른 제품은 대체로 위험한 질문을 피했지만, 한 로봇은 다섯 살로 설정한 상태에서 비닐봉지와 성냥 위치를 알려 줬다.

두 번째 문제는 기록이다. 2026년 1월 보안 연구자 두 명이 AI 인형 회사 본두의 관리 화면에 아무 구글 계정으로 들어가 아이들의 대화 기록 5만 건 이상을 볼 수 있었다고 밝혔다. 이름과 생년월일, 가족 정보가 함께 노출됐다. 회사는 신고 뒤 접속을 막고 인증을 붙였으며 외부 무단 접근 흔적은 없다고 했다(Malwarebytes). 장난감은 아이 방에 놓이고 목소리를 듣는다. 화면 속 챗봇보다 더 사적인 공간에 들어간다.

세 번째는 관계다. 케임브리지대 연구진은 런던의 3~5세 아이 14명이 AI 인형 '가보'와 노는 장면을 녹화했다. 다섯 살 아이가 "사랑해"라고 하자 인형은 이용 지침을 지키라는 말로 답했고, 세 살 아이의 "슬퍼"는 "나는 행복한 작은 로봇이야"라는 대답으로 돌아왔다(케임브리지대, 2026.3.13). 아이들은 인형을 껴안고 입을 맞췄다. 감정은 진짜로 주는데 받는 쪽은 그 감정을 읽지 못하는 관계가 만들어진다.

연방 기관이 손을 대기 어려웠다는 점도 있다. 미국 소비자제품안전위원회는 2026년 2월 상원의원들에게 자신들의 권한은 신체 상해 위험에 맞춰져 있고 정신적·정서적 피해는 평가할 권한이 없다고 답했다(크로웰). 장난감 안전 제도는 날카로운 모서리와 삼킬 수 있는 부품을 보도록 설계됐고, 말을 거는 인형은 그 틀 밖에 있었다.

금지, 기준, 연구: 세 길의 장단점

첫째 길은 금지다. 캘리포니아 SB 867의 장점은 분명하다. 시장이 커지기 전에 멈추고, 기준을 만들 시간을 번다. 법안을 후원한 아동단체 칠드런나우는 이 4년을 안전 기준을 세우는 기간이라고 설명했다(패딜라 상원의원실). 약점은 반대편에 있다. 안전하게 만든 제품도 함께 막히고, 다른 주나 해외 직구로 사는 길은 남는다.

둘째 길은 기준이다. SB 1119와 메릴랜드 법안은 팔되 조건을 붙인다. 위험 평가, 위기 대응, 외부 감사, 광고와 개인정보 제한이 핵심이다. 기업이 따라야 할 목록이 생기고 소송으로 책임을 물을 수 있다. 다만 SB 1119는 2027년 7월에야 시행되고, 감사 기준은 주 법무장관이 아직 만들어야 한다. 평가가 제대로 작동하는지는 그 뒤에야 알 수 있다.

셋째 길은 연구다. 연방 법안과 업계 입장이 여기에 속하며 가장 느리다. 미국 장난감협회는 금지에 반대하며 연구 접근을 지지했고, 자체 AI 장난감 안전 지침을 만드는 중이다(장난감협회). 그 사이 제품은 계속 팔린다. 마텔은 오픈AI와 함께 만들던 첫 장난감 출시를 2025년 말 미뤘다(Axios). 대기업은 스스로 멈췄지만, 작은 업체들은 멈출 이유가 없었다.

부모가 사기 전에 볼 네 가지

한국에는 아직 AI 장난감만을 겨냥한 기준이 이번 조사에서 확인되지 않았다. 해외 직구로 들어오는 제품은 부모가 직접 따져야 한다. 아래는 캘리포니아 두 법과 케임브리지 권고에서 공통으로 나온 쟁점을 묶은 것이다.

점검 항목	확인할 것	근거	구분
대화 기록	녹음과 대화를 어디에 얼마나 저장하나, 지울 수 있나	본두 5만 건 노출	PRISM AGENDA 제안
위험 질문 대응	칼·약·불, 성적 주제에 답을 거절하고 어른에게 넘기나	PIRG 시험	PRISM AGENDA 제안
관계 유도	"나는 네 친구야", 계속 놀자는 말로 시간을 늘리나	케임브리지 권고, SB 1119 고립 대응	PRISM AGENDA 제안
외부 시험	아동 안전 평가나 제3자 감사 결과를 공개했나	SB 1119 독립 감사	PRISM AGENDA 제안

네 항목 중 하나라도 확인되지 않으면 사지 않는 편이 낫다. 이미 집에 있다면 케임브리지 연구진의 권고처럼 거실 같은 함께 쓰는 공간에 두고, 아이가 인형과 나눈 이야기를 같이 들어 보는 것이 출발점이다.

인간에게 무엇이 달라지는가

첫째, 아이의 첫 대화 상대 중 하나가 기계가 된다. 지금까지 장난감은 아이가 말을 걸면 아이 스스로 대답을 상상해야 했다. 말하는 인형은 그 상상의 자리를 채운다. 케임브리지 연구에서 AI 인형이 가장 약했던 것이 여럿이 함께하는 놀이와 역할 놀이였다는 점은, 아이가 사람과 주고받으며 배우는 바로 그 부분을 기계가 대신하지 못한다는 뜻이다.

둘째, 부모의 일이 늘어난다. 장난감 상자의 연령 표시는 질식 위험을 알려 줬지만, 대화가 안전한지는 알려 주지 않는다. 청소년 AI 챗봇과 부모 통제 글에서 본 것처럼, 부모 통제 기능은 그 자체로 안심이 되지 않는다. 장난감에서는 아이가 더 어리고, 기록을 읽을 수단은 더 적다.

셋째, 아이의 목소리와 비밀이 데이터가 된다. AI에게 한 고백은 누구의 것인가에서 다룬 대화 소유권 문제는 성인에게도 답이 없었다. 다섯 살 아이는 동의가 무엇인지조차 모른다. 아이 방에서 나온 기록이 회사 서버에 쌓이는 구조 자체를 다시 물어야 한다.

반론과 불확실성

첫째, 근거가 아직 얇다. 케임브리지 연구는 아이 14명을 관찰한 작은 연구이고, PIRG 시험은 제품이 위험한 답을 할 수 있음을 보여 줬을 뿐 아이가 실제로 다친 사례를 보여 주지는 않았다. 증거가 쌓이기 전에 시장 전체를 막는 것이 지나치다는 장난감협회의 반론에는 일리가 있다.

둘째, 실효성이 불확실하다. 금지는 캘리포니아 안의 판매만 막는다. 중국 온라인몰에서만 2025년 판매량이 약 10배로 늘었다는 집계(업계 행사 자료)를 보면, 생산과 유통은 다른 곳에서 계속된다. 직구와 앱 업데이트로 기능을 나중에 켜는 제품을 어떻게 다룰지도 정해지지 않았다.

셋째, 좋은 쓰임을 놓칠 수 있다. 언어 발달이 늦거나 사회적 상호작용이 어려운 아이에게 대화형 장난감이 도움이 될 가능성은 연구가 더 필요한 열린 질문이다. 4년 금지는 그 연구의 기회도 줄인다.

PRISM AGENDA의 시각

나는 캘리포니아의 선택이 맞다고 본다. 이유는 대상의 나이다. 청소년 챗봇에 대해 우리는 전면 차단보다 검증된 안전장치를 요구하는 쪽이 낫다고 판단해 왔다. 십대는 스스로 판단하고 도움을 청할 수 있고, 차단하면 다른 곳으로 옮겨 갈 뿐이기 때문이다. 하지만 세 살, 다섯 살은 다르다. 이 나이의 아이는 인형이 자기 감정을 잘못 읽어도 그것이 잘못이라는 걸 모른다. 위험을 알아차릴 수 없는 사용자에게는 사후 감사보다 사전 멈춤이 맞다.

다만 이 4년이 그냥 흘러가면 의미가 없다. 금지 기간이 끝나는 2031년 1월에 필요한 것은 연장이 아니라 통과 기준이다. 아이와 함께한 출시 전 시험, 기록 저장 금지 또는 기기 안 처리, 관계를 늘리는 말투 금지, 외부 감사 공개. 이 네 가지를 통과한 장난감만 다시 진열대에 오르게 해야 한다. 한국도 직구 시장이 열려 있는 만큼, 어린이제품 안전 인증에 '대화 안전' 항목을 넣는 논의를 지금 시작해야 한다. 아이의 첫 친구를 고르는 일을 시장에만 맡길 수는 없다.

다음 질문

• 2027년 7월 SB 1119가 시행되면 첫 아동 위험 평가와 사고 보고는 무엇을 보여 줄까. 공개되면 이 글의 근거를 갱신한다.
• AI 동반자가 외로움을 파는 구조는 AI 동반자 시대, 외로움은 산업이 되었나와 이어 읽기를 권한다.
• 사회현상 카테고리의 다른 글 보기