앤트로픽, '추론 강도' 설정할 수 있는 하이브리드 모델 출시 임박

앤트로픽이 새롭게 개발한 하이브리드 모델이 출시를 앞두고 있다는 소식입니다.

이번 모델은 추론 모델과 비추론 모델을 결합하여 사용자가 직접 모델의 추론 강도를 설정할 수 있는 기능을 제공합니다.

이는 AI 사용자가 모델의 성능을 요구사항에 맞게 조정할 수 있는 혁신적인 접근 방식으로, 주목받고 있습니다.

하이브리드 모델의 특징

앤트로픽은 이번에 발표할 모델이 슬라이딩 스케일을 적용하여 추론 강도를 조절할 수 있다고 밝혔습니다.

사용자는 추론 강도를 0에서 100까지 설정할 수 있으며, 이로 인해 모델의 추론 시간과 컴퓨팅 비용을 조절할 수 있습니다.

강도가 0일 경우 모델은 기존의 비추론 모델인 클로드처럼 작동하며, 100으로 설정하면 가장 많은 컴퓨팅 자원을 사용하고 추론 시간이 길어지며, 그에 따라 요금도 더 높아집니다.

모델 개발 및 출시 지연

앤트로픽은 클로드 3.5 오퍼스 모델을 지난해 말 출시할 예정이었으나, 새로운 추론 기능 추가와 테스트로 인해 출시가 지연되었습니다.

이제 개발이 마무리되고 마지막 테스트 단계에 접어들었다는 설명입니다.

경쟁 모델과의 비교

앤트로픽의 새로운 모델은 오픈AI의 o3-미니-하이와 비교하여 코딩 관련 벤치마크에서 더 높은 성과를 거두었다고 합니다.

특히 앤트로픽 모델은 수천 개의 파일로 이루어진 복잡한 코드베이스를 이해하고, 완전한 코드 줄을 생성하는 데 뛰어난 성능을 보인다고 전해졌습니다.

이는 B2B 시장에서 앤트로픽의 경쟁력을 높이는 요소가 될 것입니다.

추론 강도 설정의 필요성

추론 작업은 일반적인 쿼리 처리보다 많은 컴퓨팅 자원과 시간을 소모하기 때문에 비용 부담이 큽니다.

따라서 간단한 질문에는 낮은 추론 강도가 충분하며, 복잡한 작업에는 높은 추론 강도가 필요합니다.

앤트로픽은 사용자가 추론 강도를 선택할 수 있도록 하여, 비용 절감과 효율성을 동시에 고려한 서비스를 제공하려는 의도를 가지고 있습니다.

 

앤트로픽의 하이브리드 모델은 추론 강도 조절 기능을 통해 사용자가 원하는 성능을 맞출 수 있는 유연한 솔루션을 제공하고 있습니다.

이는 AI 사용자가 비용과 성능을 조절하며 사용할 수 있도록 돕는 중요한 발전으로, 향후 AI 시장에서 큰 변화를 일으킬 것으로 예상됩니다.

당신을 위한 3줄 요약

1. 앤트로픽은 추론 모델과 비추론 모델을 결합한 하이브리드 모델을 출시 예정.
2. 사용자는 슬라이딩 스케일을 통해 추론 강도를 설정하고, 비용과 성능을 조절할 수 있다.
3. 이 모델은 코딩 분야에서 오픈AI보다 더 우수한 성과를 보이며, B2B 시장에 강점을 가질 것으로 예상된다.

3 line summary for you

1. Anthropic is releasing a hybrid model that combines inference and non-inference models.
2. Users can adjust the inference intensity using a sliding scale, controlling both cost and performance.
3. This model outperforms OpenAI in coding benchmarks and is expected to dominate the B2B market.

구독!! 공감과 댓글,

광고 클릭은 저에게 큰 힘이 됩니다.

 

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

Tester Share [테스터쉐어] - Google Play 앱