AI 기업 Liquid AI가 10월 7일 d1-3B와 d1-omni-600M의 모델 파일을 공개했다. 고객 문의를 담당 부서로 나누거나 사진 속 상태를 판별하는 ‘의사결정 모델’이다. 긴 답변을 쓰는 대신 정해진 선택지와 확률을 반환하며, 개발자가 내려받아 자체 컴퓨터에서 실행할 수 있다. 공식 발표
문장을 쓰는 AI와 무엇이 다른가?
Liquid AI는 작은 기기에서도 실행할 수 있는 AI 모델을 만드는 회사다. 회사의 LFM 계열이 글을 생성하는 모델이라면, d1은 프로그램이 다음에 무엇을 할지 정하는 데 쓰는 모델이다. 예를 들어 “배송은 언제 오나요?”라는 문의에 답장을 작성하는 역할과, 그 문의를 배송 담당 부서로 보내는 역할을 나눠 생각하면 이해하기 쉽다. d1은 문의를 분류하는 판단을 맡는다. 모델 계열과 설계
입력에는 판단할 자료와 질문, 선택지의 의미를 함께 넣는다. 출력은 크게 세 종류다. 예·아니오 질문의 확률, 여러 항목 중 하나를 고른 결과, 정해둔 단계에 따른 점수다. 문의의 주제를 결제·기술·배송 중에서 고르게 하거나, 긴급도를 ‘기다려도 됨·오늘 처리·즉시 처리’로 정의하는 식이다. 출력 형식과 활용 범위
분류할 항목을 자연어로 설명하므로 새로운 작업마다 별도로 모델을 학습시킬 필요 없이 질문과 선택지를 바꿔 시험할 수 있다. 다만 선택지에 없는 상황을 자유롭게 설명하는 챗봇은 아니다. 문의 내용을 요약하거나 고객에게 보낼 답장을 만들려면 생성 모델을 함께 사용해야 한다. NVIDIA의 실행 안내 · 생성 모델이 필요한 작업
하나의 문의에서 여러 판단을 얻는다
공식 실행 예시는 “이번 달 요금이 두 번 청구됐으니 하나를 환불해달라”는 문장을 입력한다. 같은 입력에 환불 요청인지, 어느 부서가 처리할지, 얼마나 급한지 세 가지를 묻는다. 모델의 판단 결과를 받은 프로그램은 문의를 적절한 대기열에 넣거나 처리 순서를 정할 수 있다. d1이 직접 환불을 실행하는 것은 아니다. 문의 분류 예제
검색 결과를 정리하는 데도 쓸 수 있다. 먼저 찾아낸 문서 조각마다 “이 자료가 사용자의 질문에 답하는 데 관련 있는가?”를 물어 확률이 높은 순으로 재정렬하는 방식이다. 자료를 찾는 검색 단계와 최종 답변을 쓰는 단계 사이에서, 참고할 내용을 좁혀주는 역할이다. 검색 결과 재정렬 예제
확률은 실제 업무에서 처리 기준을 정할 때도 유용하다. 애매한 분류 결과를 사람이 검토하도록 보내거나, 관련성이 낮은 자료를 제외할 수 있다. 어느 값부터 자동 처리할지는 자신의 데이터로 정해야 한다. 모델이 반환한 0.9라는 숫자가 모든 현장에서 90%의 정답률을 보장하는 것은 아니다.
입력을 한 번 처리해 결과를 내는 구조
일반적인 생성 모델은 다음에 올 문장 조각을 예측하고, 그 결과를 이어 붙이며 답변을 만든다. d1은 자료와 질문을 한 번 처리한 뒤 가능한 답의 확률을 계산한다. 이 계산을 ‘한 번의 순전파’라고 부른다. 답변을 길게 생성하는 과정이 없고, 같은 자료에 대한 여러 질문도 한 번에 처리할 수 있다. d1의 작동 원리
d1-3B는 글과 이미지를 함께 받는다. 사진은 비전 인코더라는 부분에서 모델이 읽을 수 있는 수치 정보로 바뀌며, 이후 질문과 함께 판단에 쓰인다. 예를 들어 사진에 고양이가 몇 마리 있는지 묻고 ‘한 마리·두 마리·그 이상’ 중에서 고르게 할 수 있다. 입력 사진에서 무엇을 판별할지 개발자가 정하는 구조다. 모델 구성과 이미지 예제
더 작은 d1-omni-600M은 글과 이미지, 또는 글과 음성을 처리한다. 이미지와 음성을 한 요청에 동시에 넣는 방식은 지원하지 않는다. 음성은 최대 30초이며, 영어 화자가 어시스턴트에게 말하는 요청을 바탕으로 학습했다. 따라서 음성 명령의 의도를 나누는 용도로 시험할 수 있지만 한국어 음성에서도 같은 수준으로 동작한다고 볼 근거는 없다. 현재는 실험적 모델로 공개돼 있다. 입력 조건과 학습 범위
판단 품질과 속도는 어느 정도인가?
Liquid AI는 공개된 Decision Index 0.2.1 평가에서 d1-3B가 48.57점을 받았다고 밝혔다. 아래는 회사가 공개한 비교 중 대표 모델 세 개다. 지식·언어·검색·도구 등 여러 영역의 판단 과제를 묶은 종합 점수이며 높을수록 좋다.
큰 모델인 Decider와 비슷한 종합 점수를 얻었지만, 모든 종류의 판단에서 우세한 것은 아니다. 링크된 모델 카드의 세부 평가 중 지식 영역에서는 d1-3B가 더 낮다. 이 결과는 회사가 공개 자료로 측정한 판단 성능이며, 현장 이미지 검사나 한국어 문의의 정확도를 직접 검증한 결과와는 구분해야 한다. 평가 결과와 조건
처리 속도도 입력에 따라 달라진다. 예열을 마친 Jetson AGX Thor에서 단일 질문은 16ms, 384픽셀 이미지는 35ms, 약 3,400토큰의 긴 입력은 220ms로 보고됐다. 토큰은 모델이 글을 처리하기 위해 나눈 작은 단위다. 짧은 질문의 최저 지연 시간을 긴 문서나 카메라 처리 전체의 속도로 읽어서는 안 된다. 입력별 지연 시간
지금 어떻게 사용할 수 있나?
두 모델의 가중치는 Hugging Face에서 받을 수 있다. 가중치는 모델이 학습한 내용을 담은 수치 파일이다. Python과 Transformers로 실행하는 예제가 제공되며, Jetson에서는 GPU를 사용할 수 있도록 시스템과 실행 환경을 준비해야 한다. 완성된 상담 앱을 설치하는 형태가 아니라 개발자가 판단 기능을 자신의 프로그램에 연결하는 방식이다. 모델 안내 · Jetson 실행 조건
API로 제공되는 기존 d1과 이번에 내려받는 두 공개 모델은 구분할 필요가 있다. 기존 API의 가격이나 비교 결과를 d1-3B의 이용료·성능으로 옮겨 읽을 수는 없다. 로컬 실행은 사용자가 컴퓨터와 실행 비용을 부담하며, 다운로드 모델에는 LFM Open License v1.0이 적용된다. 제공 형태
이 라이선스는 모델의 사용·수정·배포를 허용하지만 상업 이용에는 매출 조건이 있다. 연 매출 1,000만 달러 이상인 기업의 상업 이용은 별도 라이선스가 필요하다. 파일이 공개됐다는 사실과 모든 기업이 제한 없이 무료로 쓸 수 있다는 뜻은 다르다. 공식 라이선스
답글 남기기
댓글을 달기 위해서는 로그인해야합니다.