AMD의 혁신! 최초의 sLM 'AMD-135M' 오픈 소스 출시로 AI 시장에 도전장

오늘은 기술의 최전선에서 AMD가 새롭게 선보인 소형 언어 모델 'AMD-135M'에 대해 이야기해보려 합니다.

AI 시장에서 엔비디아가 독주하는 가운데, AMD가 자사의 하드웨어에 최적화된 최초의 오픈 소스 모델을 출시했습니다.

이 모델은 개발자들에게 새로운 가능성을 제공하며, AMD의 생태계를 더욱 확장할 기회를 가져올 것입니다.

그럼 이 놀라운 소식의 핵심 내용을 함께 살펴보겠습니다!

AMD의 새로운 도전

AMD는 AI 칩 독주를 막기 위해 자체 소형 언어 모델인 AMD-135M을 출시했습니다.

이번 모델은 AMD 플랫폼에서 무료로 사용할 수 있는 오픈 소스 모델로, 사용자는 직접 다운받아 활용할 수 있습니다.

이는 AI 기술의 발전을 이끄는 중요한 이정표가 될 것이며, AMD의 기술적 역량을 입증하는 사례가 될 것입니다.

AMD-135M의 특징과 성능

1. 소형 언어 모델의 혁신

AMD-135M은 매개변수 0.135B의 소형 언어 모델로, 두 가지 버전으로 제공됩니다.

첫 번째는 언어 모델인 AMD-Llama-135M, 두 번째는 코딩 모델인 AMD-Llama-135M-code입니다.

이 모델은 AMD의 MI250 가속기에서 학습한 결과로, 메타의 라마 2를 미세 조정하여 개발되었습니다.

이는 개발자들에게 모델을 재생성하고 다른 소형 언어 모델(sLM)이나 대형 언어 모델(LLM)을 학습하는 데 큰 도움이 될 것입니다.

2. 성능 우수성

 

AMD는 이번 모델이 라마-68M 및 라마-160M과 같은 오픈 소스 모델을 능가했다고 발표했습니다.

이 모델은 GPT2-124M 및 OPT-125M과도 동등한 성능을 보이며, 이로 인해 많은 사용자들이 자신의 프로젝트에 활용할 수 있는 가능성을 얻게 되었습니다.

특히, 추측 디코딩(Speculative Decoding) 방식을 통해 추론 시 한 개의 토큰만 생성하는 기존 한계를 극복하고 여러 개의 토큰을 생성할 수 있어 성능과 속도가 개선되었습니다.

3. AMD 하드웨어 최적화

AMD-135M 모델은 AMD의 AI 칩에서 최적의 성능을 발휘합니다. MI250 가속기에서 약 2.8배, 라이젠 AI CPU 1에서 약 3.88배, 라이젠 AI NPU 2에서 약 2.98배의 속도를 자랑합니다.

이는 AMD의 하드웨어와 소프트웨어가 서로 유기적으로 연결되어 효율적으로 작동함을 의미합니다. 또한, 데이터 센터와 엣지 디바이스 모두에서 사용할 수 있는 엔드투엔드 워크플로를 구축할 수 있습니다.

AI 시장의 경쟁력 강화

AMD가 출시한 AMD-135M은 단순히 모델 하나의 출시가 아닙니다.

이는 AMD가 하드웨어와 소프트웨어를 동시에 개발하여 AI 생태계를 확장하고, 엔비디아와의 경쟁에서 경쟁력을 갖추기 위한 전략의 일환입니다.

앞으로도 AMD는 핀란드의 사일로 AI와 같은 유망한 AI 스타트업을 인수하며, 더욱 다양한 소프트웨어 솔루션을 제공할 예정입니다.

 

이러한 발전은 AI 기술의 발전뿐만 아니라, 사용자들에게 더 많은 선택권과 기회를 제공하게 될 것입니다.

앞으로 AMD가 어떤 혁신을 이끌어낼지 기대가 됩니다!

당신을 위한 3줄 요약

AMD는 첫 번째 소형 언어 모델 'AMD-135M'을 오픈 소스로 출시했습니다.

이 모델은 AMD 하드웨어에서 최적화된 성능을 제공하며, 사용자는 무료로 다운로드하여 활용할 수 있습니다. AMD는 하드웨어와 소프트웨어를 동시에 개발하며 AI 시장에서의 경쟁력을 강화하고 있습니다.

3 line summary for you

AMD has released its first open-source small language model 'AMD-135M'.

This model offers optimized performance on AMD hardware and is available for free download for users. AMD is strengthening its competitiveness in the AI market by developing both hardware and software simultaneously.

구독!! 공감과 댓글,

광고 클릭은 저에게 큰 힘이 됩니다.

 

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

Tester Share [테스터쉐어] - Google Play 앱