ChatGPT의 말:ChatGPT레드햇, LLM 개발·테스트·실행을 위한 생성형 AI 플랫폼 'RHEL AI 1.2' 공개

레드햇이 발표한 ‘RHEL AI 1.2’에 대해 알아보려고 합니다.

RHEL AI는 대형 언어 모델(LLM)을 개발하고 테스트하며 실행할 수 있도록 도와주는 생성형 AI 플랫폼입니다.

이번 업데이트는 개발자와 데이터 과학자들에게 큰 도움이 될 것으로 기대됩니다. 그럼 RHEL AI 1.2의 주요 기능과 혁신에 대해 살펴볼까요!

레드햇은 RHEL AI 1.2를 지난 16일 발표했습니다. 이 플랫폼은 생성형 AI 사용 사례에 최적화된 특수 제작 RHEL 이미지에 오픈소스 그래니트(Granite) LLM과 인스트럭트랩(InstructLab) 모델 정렬 도구를 결합하고 있습니다.

 

1. LLM 미세 조정과 배포 지원
RHEL AI 1.2는 조직이 자체 민감 데이터를 사용해 LLM을 효율적으로 미세 조정하고 배포할 수 있도록 지원합니다. 이는 기업의 특정 요구사항에 맞춰 언어 모델을 최적화하는 데 큰 도움이 될 것입니다. 특히, 인스트럭트랩과 포괄적 소프트웨어 스택의 개선으로 AMD 인스팅트(AMD Instinct) 가속기를 포함한 다양한 하드웨어 가속기를 지원합니다.

 

2. 하드웨어 지원
레노버 씽크시스템 SR675 V3 서버에서 RHEL AI 1.2를 지원하며, 이 서버는 엔비디아 GPU가 탑재되어 있습니다. 또한, 사용자는 RHEL AI의 기본 탑재 옵션을 활용하여 배포가 더 빠르고 쉬워집니다. RHEL AI는 AMD ROCm 소프트웨어 스택과 함께 제공되어, AMD 인스팅트 MI300x GPU와 MI210 GPU를 활용할 수 있습니다.

 

3. 클라우드 플랫폼에서의 활용
RHEL AI는 애저(Azure) 및 구글 클라우드(Google Cloud Platform, GCP)에서 사용할 수 있습니다. 사용자는 레드햇에서 다운로드한 RHEL AI를 클라우드 플랫폼으로 가져와 GPU 인스턴스를 생성할 수 있습니다.

 

4. 효율적인 트레이닝과 체크포인트 기능
RHEL AI 1.2에서는 모델 미세 조정 중 주기적인 체크포인트 저장 기능이 추가되었습니다. 이 기능을 통해 인스트럭트랩 사용자는 마지막 저장된 체크포인트에서 훈련을 재개할 수 있어, 시간을 절약할 수 있습니다. 또한, 인스트럭트랩 CLI는 사용 중인 하드웨어 가속기 유형을 자동으로 감지하여 최적의 성능을 위한 파이프라인을 구성할 수 있습니다.

 

5. 파이토치 기반의 멀티 페이즈 트레이닝
ilab train 기능은 합성 데이터를 사용한 모델의 멀티 페이즈 트레이닝을 지원합니다. 이는 모델의 파라미터, 그래디언트 및 옵티마이저 상태를 여러 GPU에 걸쳐 분산하여 훈련 시간을 획기적으로 단축하는 데 도움을 줍니다. 예를 들어, 하나의 가속기로 훈련하는 데 X시간이 걸린다면, N개의 가속기를 사용하면 X/N시간으로 단축할 수 있습니다.

 

결론적으로, 레드햇의 RHEL AI 1.2는 대형 언어 모델 개발과 관련하여 많은 개선사항을 포함한 강력한 도구입니다.

다양한 하드웨어 가속기 지원, 클라우드 플랫폼에서의 활용, 효율적인 트레이닝 기능을 통해 AI 개발자들이 보다 쉽게 LLM을 활용할 수 있도록 도와줄 것입니다.

앞으로 RHEL AI 1.2를 통해 AI 개발이 한층 더 발전할 것으로 기대됩니다.

여러분도 이 흥미로운 기술을 주목해 보세요!

당신을 위한 3줄 요약

레드햇은 대형 언어 모델(LLM) 개발을 위한 생성형 AI 플랫폼 RHEL AI 1.2를 발표했습니다.

이 플랫폼은 하드웨어 가속기 지원, 클라우드 활용, 효율적인 트레이닝 기능 등을 통해 AI 개발자들에게 큰 도움을 줄 것입니다.

앞으로 RHEL AI 1.2를 통해 AI 개발이 더욱 발전할 것으로 기대됩니다.

3 line summary for you

Red Hat announced RHEL AI 1.2, a generative AI platform for developing large language models (LLMs).

This platform provides hardware accelerator support, cloud utilization, and efficient training features, greatly aiding AI developers. RHEL AI 1.2 is expected to advance AI development further.

구독!! 공감과 댓글,

광고 클릭은 저에게 큰 힘이 됩니다.

 

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

Tester Share [테스터쉐어] - Google Play 앱