제목 OpenAI와 Mistral AI, 비용 효율성을 갖춘 하드웨어 최적화 언어 모델 출시
요약 OpenAI와 Mistral AI가 비용 민감형 사용 사례에 최적화된 신규 하드웨어 효율 언어 모델을 발표했다. OpenAI는 GPT-5.4 mini와 GPT-5.4 nano 두 가지 모델을 클라우드 서비스에 도입하며, 같은 계열의 최신 모델 대비 비용 효율성과 속도 개선을 강조한다. GPT-5.4 mini는 400,000 토큰의 맥락 창을 제공하고 텍스트와 이미지를 모두 다룰 수 있으며, API 가격도 비교적 저렴하다. 반면 GPT-5.4 nano는 더욱 저렴한 가격으로 API에서만 이용 가능하며 간단한 데이터 추출·분류 작업 등에 주로 활용될 전망이다. Mistral은 대규모 오픈 소스 모델인 Mistral Small 4를 공개했고, 1190억 파라미터를 128개의 Expert으로 구성해 다양한 태스크를 분담한다. 또한 개발자 도구 Forge를 통해 기업 데이터에 기반한 맞춤형 프런티어 AI 모델 구축을 지원하고, AWS의 Nova Forge와 유사한 엔터프라이즈 서비스도 발표했다.
자세한 내용
-
GPT-5.4 mini
- 맥락 창: 400,000 토큰
- 멀티모달 입력: 텍스트와 이미지 프롬프트를 모두 처리
- 활용처 예시: 인터페이스 스크린샷을 업로드하고 사용성 개선 제안 가능
- 이용 가능 경로: ChatGPT, Codex, OpenAI API
- 가격(API): 입력 토큰 100만당 0.75달러, 출력 토큰 100만당 4.50달러
- 성능: GPT-5.4 대비 두 벤치마크에서 약 5% 이내 차이
- 속도: 이전 모델인 GPT-5 mini 대비 일부 작업은 2배 이상 빨라질 수 있음
-
GPT-5.4 nano
- 특성: 하드웨어 최적화 모델로 비용 효율성에 초점
- 이용 가능 경로: API에서만 사용 가능
- 가격(API): 입력 토큰 100만당 0.20달러, 출력 토큰 100만당 1.25달러
- 주요 용도: 데이터 추출, 분류, 순위 매김 소프트웨어, 간단한 코딩 작업 등
- 워크플로우 제안: 더 복잡한 코딩 도전은 GPT-5.4 같은 고급 모델에 의뢰하고, 간단한 부분은 nano로 처리하는 방식 권고
-
Mistral Small 4
- 파라미터 구성: 1190억 파라미터, 128개의 Expert로 각기 다른 태스크에 집중
- 실동작 구성: 4명의 Expert를 활성화해 합계 60억 매개변수로 프롬프트에 응답
- 다중 모달 처리: OpenAI의 최신 모델과 유사하게 멀티모달 파일 처리 가능
- 용도 및 기능: 추론 자동화, 코드 생성, 문서 분석, 범용 AI 어시스턴트 구동 등
- 제어 가능성: reasoning_effort 설정으로 태스크에 투자하는 시간 조절
- 레이턴시 최적화: 설정에 따라 요청의 엔드투엔드 완료 시간을 최대 40%까지 단축 가능
- 하드웨어 요구사항: 최소 4개의 Nvidia HGX H100 그래픽 카드 필요
- 라이선스: Apache 2.0 라이선스 하에 공개되어 기업이 무료로 커스텀 버전 제작 가능
- 활용 예시: 자사 데이터세트로 파인튜닝해 상품 수요 예측 등 특정 도메인에 최적화 가능
-
Forge(기업용 모델 구축 시스템)
- 기능: 기업 내부 데이터와 지식에 기반한 최첨단 AI 모델을 구축할 수 있도록 지원
- 목표: 내부 컨텍스트(시스템, 워크플로우, 정책)에 맞춰 AI를 운영
- 경쟁 서비스: AWS Nova Forge와 유사한 엔터프라이즈용 맞춤형 모델 구축 서비스
- 배경: 12월 AWS가 Nova Forge를 발표한 바 있음
-
요약의 맥락
- 이들 신모델은 비용 효율성과 다중 모달 처리 능력, 개발자 친화적 라이선스 및 엔터프라이즈 도구를 통해 기업의 AI 도입을 보다 폭넓게 지원하려는 목적을 가짐
- OpenAI와 Mistral의 협력/경쟁 구도에서 하드웨어 최적화 모델들이 실전 활용에 더욱 중점을 두고 개발되었다는 점이 강조됨