Jev AI란 무엇인가: 글을 쓰지 않고 결정만 내리는 AI

고객 문의 한 건이 들어온다. 환불 요청인가, 단순 질문인가, 화가 난 고객인가, 어느 팀으로 보낼 것인가. 지금까지 이런 판단을 AI에 맡기려면 대형 언어 모델에 글로 물어보고, 글로 된 답을 받아, 그 글을 다시 프로그램이 해석해야 했다. 수 초가 걸렸고, 가끔 형식이 틀린 답이 돌아왔다.

9월 셋째 주에 공개된 Jev는 이 과정에서 ’글’을 통째로 없앴다. 개발자 커뮤니티의 반응은 뜨거웠고, 공개 직후에는 접속이 몰려 서비스가 한때 요청을 받지 못했다. 이 글은 Jev가 무엇이고 왜 주목받는지, 그리고 이런 종류의 AI가 늘어날 때 사람에게 무엇이 달라지는지를 정리한다.

무슨 일이 있었나: 사람이 아닌 기계를 위한 AI

만든 곳. TypeSafe AI는 2024년에 설립되어 2년간 비공개로 개발하다가 이번에 4천만 달러의 초기 투자 유치 사실과 함께 모습을 드러냈다. 공동 창업자 디오고 알메이다는 OpenAI 연구원 출신으로, ChatGPT를 가능하게 한 학습 기법인 인간 피드백 기반 강화학습(RLHF)의 공동 발명자다. 테크크런치에 따르면 그는 언어 모델이 뛰어나지만 자동화에 쓰기에는 실용적이지 않다는 불만 때문에 회사를 나왔다.

작동 방식. 기존 언어 모델은 단어 조각을 하나씩 이어 붙여 답을 만든다. 답이 길수록 오래 걸린다. Jev는 이 순차 생성을 하지 않는다. 입력으로 현재 상황(애플리케이션 상태)과 질문 목록을 받고, 모든 질문의 답을 한 번의 계산으로 동시에 내놓는다. 질문은 세 종류만 허용된다.

질문 유형	하는 일	예시
Choice	주어진 보기 중 하나를 고른다	이 문의를 어느 팀으로 보낼까
Score	정해진 단계로 점수를 매긴다	이 고객의 불만 수준은 1~5 중 몇인가
Noul	어떤 진술이 참일 확률을 0~1로 답한다	이 메시지는 환불 요청인가

답에는 항상 확률이 따라붙는다. 한 보기가 압도적이면 확신도가 높고, 보기들이 팽팽하면 확신도가 낮게 나온다. 그래서 “확신도 높음은 자동 처리, 중간은 검토, 낮음은 사람에게 전달” 같은 규칙을 코드로 짤 수 있다. 회사는 이 학습 방식을 ’보정된 결정을 위한 강화학습’이라 부르며, 학습 데이터는 전부 합성 데이터라고 밝혔다.

이름의 뜻. Jev는 19세기 경제학자 윌리엄 스탠리 제번스에서 따왔다. 자원의 이용 효율이 좋아져 값이 내려가면 소비가 줄기는커녕 오히려 늘어난다는 ’제번스의 역설’로 알려진 인물이다. 이 작명은 회사의 사업 가설을 그대로 드러낸다. 결정의 값이 폭락하면 세상은 지금보다 훨씬 많은 결정을 기계에 맡기게 된다는 것이다.

특장점: 빠르고, 싸고, 형식이 틀리지 않는다

항목	일반 언어 모델	Jev
출력	자연어 문장	형식이 정해진 결정과 확률
처리 방식	단어 조각을 순서대로 생성	모든 답을 한 번에 병렬 계산
응답 시간	수 초에서 수 분	0.07~0.5초
가격(입력 100만 토큰)	0.2~10달러 선	0.042달러, 출력 무료
형식 오류	발생한다	구조상 발생하지 않는다
판단 근거 설명	가능	불가능
개방형 작업(글쓰기, 코딩, 추론)	가능	불가능

속도. 회사 측 시연에서 같은 과제를 GPT-5.6 Terra는 8.566초, Jev는 0.114초에 처리했다. 게임 둠(Doom)의 상태 정보를 받아 초당 약 10회의 판단으로 게임을 진행하는 시연도 공개했다. 실시간성이 필요한 곳에 AI 판단을 넣을 수 있게 된다는 뜻이다.

비용. 회사는 자체 평가에서 GPT-5.6 Terra 대비 약 194배 빠르고 445배 싸다고 주장한다. 외부 사용자의 수치는 그보다 낮지만 여전히 크다. 버셀의 엔지니어는 518배 빠르면서 더 정확했다고 밝혔고, 브리오 AI의 기술 책임자는 이메일 분류에서 제미나이보다 1020배 저렴했다고 전했다.

신뢰성. 답의 형식을 사용자가 미리 정하기 때문에 엉뚱한 형식의 답이 나올 수 없다. 도구 호출 과제에서 일부 소형 언어 모델의 형식 오류율이 17~45%로 보고된 것과 대비되는 지점이다. 회사가 “환각이 없다”고 말하는 근거가 이것이다.

에이전트와의 궁합. 랭체인은 Jev를 AI 에이전트의 부품으로 쓰는 방법을 소개했다. 들어온 요청이 쉬운지 어려운지 판단해 알맞은 모델로 보내는 교통정리 역할, 그리고 에이전트가 도구를 실행하기 직전에 그 행동이 위험한지 검사해 차단하는 안전장치 역할이다. 질문을 여러 개 추가해도 응답 시간이 거의 늘지 않는다는 점이 이 용도에 잘 맞는다.

왜 중요한가: AI에도 ’빠른 생각’과 ’느린 생각’이 나뉜다

TypeSafe는 Jev를 ’시스템 1 모델’이라 부른다. 심리학자 대니얼 카너먼의 구분에서 온 말이다. 시스템 1은 빠르고 직관적인 판단, 시스템 2는 느리고 의식적인 추론이다. 지난 2년간 AI 업계의 경쟁은 시스템 2 쪽으로 쏠려 있었다. 더 오래 생각하고, 더 길게 추론하는 모델이 최전선이었다.

Jev는 반대편 빈자리를 겨냥한다. 실제 업무에서 필요한 판단의 대부분은 깊은 추론이 아니라 빠른 분류다. 이 메일은 급한가, 이 거래는 수상한가, 이 요청은 어느 부서 일인가. 이런 판단에 추론 모델을 쓰는 것은 서류 분류에 변호사를 앉히는 것과 같았다.

앞으로의 AI 시스템은 사람의 인지 구조를 닮아 갈 가능성이 높다. 대부분의 판단은 값싼 직관 모델이 즉시 처리하고, 확신이 서지 않는 소수만 비싼 추론 모델로 올라간다. 그리고 그 위에 사람이 있다. Jev 한 종의 성패와 별개로, 이 계층 구조가 이번 발표에서 읽어야 할 기술 트렌드다.

인간에게 무엇이 달라지는가

눈에 보이지 않는 결정이 폭증한다. 챗봇과의 대화는 사람이 보는 앞에서 일어난다. Jev가 내리는 결정은 프로그램과 프로그램 사이에서 0.1초 만에 끝나고 어떤 화면에도 나타나지 않는다. 제번스의 역설대로라면 결정의 값이 수백분의 일이 될 때 결정의 양은 그 이상으로 늘어난다. 내 문의가 어느 창구로 갈지, 내 글이 검토 대상이 될지, 내 지원서가 다음 단계로 갈지를 정하는 판단이, 내가 모르는 사이에 지금보다 훨씬 자주 내려진다. 공개된 활용 사례 목록에는 이미 지원자 선별과 신뢰·안전 심사가 들어 있다.

이유를 말하지 않는 판단이 늘어난다. Jev는 확률은 주지만 근거는 주지 않는다. 고객 문의 배정이라면 문제가 없다. 그러나 같은 방식이 대출, 채용, 계정 정지처럼 사람의 삶에 영향을 주는 결정에 쓰이면 “왜 그렇게 판단했는가”라는 질문에 답할 수 없게 된다. 설명을 요구할 권리를 담은 규제와 가장 먼저 부딪칠 지점이다.

사람의 일이 ’예외 처리’로 옮겨 간다. 확신도에 따라 일을 나누는 구조에서 사람에게 오는 것은 기계가 확신하지 못한 사례뿐이다. 쉬운 건은 사라지고 애매하고 까다로운 건만 남는다. 업무의 밀도는 높아지고, 쉬운 건을 처리하며 감을 익히던 과정은 없어진다. 경력의 첫 계단이 사라진다는 문제와 직업의 이름은 남고 내용이 바뀐다는 전망이 이 기술에서 구체적인 모습을 얻는다.

AI를 감시하는 AI가 현실적인 비용이 된다. 긍정적인 면도 분명하다. 에이전트의 모든 행동을 실행 전에 검사하는 일은 지금까지 너무 느리고 비쌌다. 검사 비용이 0에 가까워지면 위험한 행동을 막는 안전장치를 기본으로 넣을 수 있다. 사람이 직접 볼 수 없는 속도의 세계에서는 빠른 감시자가 필요하다.

반론과 불확실성

첫째, 핵심 수치는 대부분 회사가 직접 만든 평가에서 나왔다. 평가 과제를 회사가 설계했고, 정답 기준도 다른 최상위 모델 두 개의 답을 평균한 것이다. 대규모 독립 검증은 아직 없다. 그 평가에서도 Jev의 일치율은 67.8%로 GPT-5.6 Terra(67.9%)와 비슷한 수준이었고, 최상위 모델들은 5~6%p 더 높았다.

둘째, “환각이 없다”는 말은 형식이 틀리지 않는다는 뜻이지 답이 틀리지 않는다는 뜻이 아니다. 잘못된 분류에 높은 확신도가 붙어 나올 수 있고, 자동화된 흐름에서는 그 오류가 사람 눈을 거치지 않고 실행된다. 더 레지스터도 이 비교가 동등하지 않다고 지적했다.

셋째, 지속 가능성이다. 회사는 현재 가격이 보조금 없이 유지 가능한 수준인지 증명할 수 없다고 스스로 인정했다. 모델 구조는 공개하지 않았고, 공개 가중치 언어 모델을 기반으로 했으리라는 추측이 있다. 지금은 API로만 쓸 수 있다.

넷째, 새롭지 않다는 시각도 있다. 분류 모델은 수십 년 된 기술이다. Jev의 새로움은 분류 자체가 아니라, 과제마다 따로 학습시킬 필요 없이 질문만 바꾸면 되는 범용성과 보정된 확률에 있다. 그 범용성이 실제 현장에서 전용 분류기를 이길지는 더 지켜봐야 한다.

PRISM AGENDA의 시각

Jev가 1년 뒤에도 살아남을지는 알 수 없다. 큰 회사들이 같은 방식의 모델을 내놓으면 스타트업의 선점 효과는 빠르게 사라진다. 그러나 이 모델이 보여 준 방향은 되돌아가지 않을 것이다. AI가 사람과 대화하는 도구에서 기계끼리 주고받는 판단의 단위로 넘어가고 있다.

우리는 지난 몇 년간 AI의 위험과 가능성을 ’대화’를 기준으로 이야기해 왔다. 챗봇이 거짓말을 하는가, 편향된 답을 하는가. 그런 문제는 적어도 사람이 읽을 수 있는 문장으로 나타났다. 다음 단계의 AI는 문장을 남기지 않는다. 0.1초짜리 확률값이 하루에 수십억 번 오가면서 누구에게 무엇을 보여 줄지, 누구를 통과시킬지를 정한다.

기술 자체는 중립적이고 쓸모도 크다. 다만 사회가 준비해야 할 질문은 분명해졌다. 기계가 내린 결정에 이유를 물을 수 없다면, 이유를 물어야 하는 결정의 범위를 기술이 아니라 제도가 먼저 정해 두어야 한다. 결정의 값이 0에 가까워지는 시대에 비싸게 지켜야 할 것은 “왜”라고 물을 권리다.

자주 묻는 질문

Jev AI는 ChatGPT 같은 챗봇인가? 아니다. Jev는 문장을 생성하지 않는다. 프로그램이 상황과 질문을 보내면 보기 선택, 점수, 참일 확률이라는 세 가지 형식으로만 답한다. 사람과 대화하는 용도가 아니라 다른 소프트웨어나 AI 에이전트가 빠른 판단을 맡기는 용도다.

Jev는 왜 그렇게 빠르고 싼가? 언어 모델은 답을 단어 조각 단위로 하나씩 만들어 내지만, Jev는 모든 질문의 답을 한 번의 계산으로 동시에 낸다. 글을 생성하는 단계가 없어서 응답이 0.07~0.5초에 끝나고, 입력 100만 토큰당 0.042달러에 출력은 무료라는 가격이 가능하다. 다만 이 가격이 장기적으로 유지될지는 회사도 확언하지 않았다.

Jev가 기존 언어 모델을 대체하는가? 대체가 아니라 분업이다. 글쓰기, 코딩, 복잡한 추론은 여전히 언어 모델의 영역이다. Jev는 분류, 점수화, 경로 지정처럼 답의 범위가 정해진 판단을 맡고, 확신도가 낮은 사례만 더 강한 모델이나 사람에게 넘기는 구조로 쓰인다.

다음 질문

• 에이전트가 도구에서 동료가 되는 순간: 기계의 판단을 어디까지 실행에 연결해도 되는가.
• 설명할 수 없는 결정과 설명을 요구할 권리: 각국 AI 규제는 이 문제를 어떻게 다루는가.
• 기술동향 카테고리의 다른 글 보기