업스테이지 LLM ‘솔라 프로’ 프리뷰 공개: 무료 API 및 오픈소스 이용법과 성능 분석

2024년 11월, AI 업계가 주목하고 있는 대형 언어 모델(LLM)인 ‘솔라 프로(Solar Pro)’가 정식 출시됩니다.

업스테이지는 이에 앞서 무료로 제공되는 API와 오픈 소스 프리뷰 버전을 공개했습니다.

솔라 프로는 기존 솔라 시리즈의 상위 모델로, 성능 면에서 대폭 향상되었으며, 단 1개의 GPU로도 실행이 가능하다는 점에서 주목받고 있습니다.

 

솔라 프로 프리뷰

오픈소스와 무료 API 제공 솔라 프로 프리뷰 버전은 개발자들이 실제로 테스트할 수 있도록 제공되며, 무료 API 호출까지 지원됩니다.

프리뷰 버전은 영어만 지원하고, 입력 토큰 수는 4096자로 제한되어 있지만, 정식 출시에서는 더 큰 컨텍스트 창을 제공할 예정입니다.

 

이러한 접근 방식은 AI 모델 개발에 대한 진입 장벽을 낮추고, 더 많은 개발자들이 솔라 프로의 강력한 기능을 활용할 수 있게 도와줍니다.

 

220억 매개변수로 성능 업그레이드 솔라 프로는 기존 솔라 미니의 두 배 이상인 220억 개의 매개변수를 탑재해 성능이 크게 향상되었습니다.

특히, DUS(깊이 확장 스케일) 기술을 통해 모델을 최적화하여, 여전히 단일 GPU에서 실행이 가능하도록 경량화되었습니다.

 

솔라 프로의 경쟁력

주요 벤치마크에서의 성능 솔라 프로는 최신 LLM 벤치마크 지표인 MMLU 프로와 IF이벨에서 뛰어난 성과를 거두었습니다.

특히 MMLU 프로는 기존 사지선다형에서 10개로 확장된 고난도 테스트로, 솔라 프로가 기존 솔라 미니보다 평균 51% 이상 성능이 향상되었다고 발표했습니다.

 

솔라 프로는 또한, 마이크로소프트, 메타, 구글 등 여러 빅테크 기업의 유사 모델들과 비교했을 때도 뛰어난 성능을 자랑하며, 인간 평균치 이상의 추론 능력과 방대한 지식을 기반으로 문서 작성, 데이터 분석, 프로젝트 관리 등의 다양한 업무에 적용할 수 있습니다.

 

 

솔라 프로와 경쟁 모델 비교 업스테이지는 솔라 프로가 마이크로소프트의 ‘파이-3 미디엄’, 메타의 ‘라마 3.1 8B’, 미스트랄AI-엔비디아의 ‘네모 12B’ 등의 모델과 비교했을 때, 크기와 성능 면에서 월등히 우수하다고 밝혔습니다.

특히, 라마 3.1 70B와 같은 다중 GPU를 요구하는 모델과도 비슷한 성능을 낼 수 있다는 점에서 솔라 프로의 경량화가 돋보입니다.

 

차세대 LLM의 비전

솔라 프로의 활용과 전망 업스테이지는 솔라 프로가 STEM 분야는 물론, 문서 작성 및 다양한 업무 자동화에서 큰 역할을 할 것으로 예상하고 있습니다.

또한, 향후 멀티모달 모델 개발 계획도 준비 중이지만 구체적인 내용은 아직 발표되지 않았습니다.

 

11월 정식 출시에 대한 기대 솔라 프로에 대한 더욱 구체적인 정보와 모델 학습 방법에 관한 기술 논문은 11월에 발표될 예정입니다.

그때까지 솔라 프로 프리뷰 버전의 무료 API를 통해 AI 성능을 경험해보는 것도 좋은 기회가 될 것입니다.

구독!! 공감과 댓글은 저에게 큰 힘이 됩니다.

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

Tester Share [테스터쉐어] - Google Play 앱