Jev: 판단 전용 모델로 LangGraph 에이전트 강화하기

Jev란 무엇인가?

Jev는 TypeSafe가 2025년 9월 공개한 판단 전용 모델입니다. 일반적인 LLM과 달리 텍스트를 생성하지 않고, 주어진 선택지 중에서 타입이 정해진 답과 확률만 반환합니다.

핵심 컨셉: 역할 분리

"판단은 Jev에게, 말은 LLM에게"

주요 활용 사례

1. 도구 선택 (Tool Selection)

Jev가 choice 질문으로 사용할 도구 후보를 먼저 좁힌 후, LLM은 선택된 도구의 인자만 작성합니다.

2. 가드레일 (Guardrails)

사용자 입력이나 에이전트 동작이 안전 정책을 위반하는지 Jev가 먼저 판단합니다.

3. 위험 작업 게이트

민감한 작업(결제, 데이터 삭제 등) 실행 전 Jev가 안전성을 검증합니다.

프로젝트 구성

기술 스택

예제: 테디마켓 고객지원 에이전트

이 저장소는 샘플 쇼핑몰 '테디마켓'의 고객지원 에이전트를 통해 Jev와 LLM의 협업 구조를 실습할 수 있습니다.

# 예시: Jev를 활용한 도구 선택
# 1. Jev가 적절한 도구 판단
tool_choice = jev.choose(
    question="사용자 요청에 적합한 도구는?",
    choices=["주문조회", "환불처리", "상품문의"]
)

# 2. LLM이 선택된 도구의 인자 생성
if tool_choice == "주문조회":
    args = llm.generate_args(tool="주문조회")

학습 자료

왜 Jev를 사용해야 할까?

장점

시작하기

프로젝트는 MIT 라이선스로 공개되어 있으며, GitHub 저장소에서 빠른 시작 가이드를 확인할 수 있습니다.

이 접근법은 에이전트의 신뢰성과 안전성을 높이면서도 LLM의 자연어 생성 능력을 최대한 활용하는 하이브리드 아키텍처를 제시합니다.