Jev의 독특한 응답 방식
Jev는 일반적인 AI처럼 문장을 생성하지 않고, 선택지에 대한 확률값을 반환하는 독특한 구조를 가지고 있습니다.
역분석 결과
약 1만 번의 API 호출을 통해 다음과 같은 아키텍처가 밝혀졌습니다:
핵심 구조
▸
공통 입력 처리: 모든 질문에 공통되는 입력은 한 번만 처리
▸
질문 격리: 각 질문을 독립적으로 격리하여 병렬로 판단
▸
병렬 처리: 여러 선택지를 동시에 평가 가능
흥미로운 발견
선택지의 순서를 바꾸거나 무관한 항목을 추가하는 것만으로도 기존 확률값이 달라질 수 있다는 점이 확인되었습니다.
이는 모델이 선택지들 간의 상대적 관계를 고려한다는 것을 의미합니다.
시사점
이러한 구조는 효율성과 확장성 측면에서 장점이 있지만, 선택지 구성에 따라 결과가 달라질 수 있다는 점을 고려해야 합니다.