본문 바로가기
Development News/AI

허깅페이스, AI 시대의 새 판도를 열다! 웹 브라우저에서 트랜스포머 직접 활용 가능!

by Maccrey Coding 2024. 10. 28.
728x90
반응형

AI 혁명의 선두주자, 허깅페이스의 도전

인공지능(AI)은 우리 일상의 많은 부분을 바꾸고 있으며, 이러한 혁신의 중심에는 허깅페이스(Hugging Face)가 있습니다.

특히 자연어 처리(NLP) 분야에서 글로벌한 혁신을 이끌어온 허깅페이스는, 이제 개발자들이 AI 모델을 더 쉽고 빠르게 사용할 수 있도록 도와주는 새 도구를 선보였습니다.

최신 도구, 트랜스포머.js(Transformers.js) v3는 복잡한 AI 모델을 웹 브라우저 내에서 실행할 수 있도록 돕는 자바스크립트 머신러닝 라이브러리입니다.

이번 발표로 허깅페이스는 AI 모델을 클라우드나 서버의 제약 없이, 심지어 웹 브라우저에서 자유롭게 활용할 수 있도록 해주는 혁신적인 변화를 일으켰습니다.

브라우저 내 AI 모델 실행, 그 놀라운 변화의 중심

허깅페이스가 공개한 트랜스포머.js v3는 브라우저 내에서 AI를 직접 구동할 수 있는 새로운 접근 방식을 제시합니다.

이 도구는 자원을 많이 소모하는 트랜스포머 모델을 최적화하여 브라우저 내에서 실행 가능하게 만들어, AI를 효율적으로 사용할 수 있는 환경을 제공합니다.

특히 이번 버전에서는 양자화(Quantization) 기술이 도입되어 모델 크기가 줄어들고 처리 속도가 향상되었습니다.

이를 통해 웹 브라우저 내에서도 파워풀한 AI 성능을 실현할 수 있습니다.

이는 자원 제약이 있는 웹 환경에서도 복잡한 AI 애플리케이션을 쉽게 구동할 수 있게 합니다.

 

트랜스포머.js는 자연어 처리, 컴퓨터 비전, 오디오, 멀티모달 분야의 120개 이상의 모델 아키텍처를 지원합니다.

예를 들어, ‘파이-3’, ‘젬마 2’, ‘라바’와 같은 최신 AI 모델들이 여기에 포함되어 있으며, 기존보다 최대 100배 빠른 추론 속도를 제공합니다.

또 25개의 예제 프로젝트와 1200개 이상의 사전 훈련된 맞춤형 모델을 제공하여, 개발자들이 다양한 AI 프로젝트를 쉽게 시작할 수 있게 했습니다.

 

또한 허깅페이스는 아마존(AWS)과 손잡고, 기업들이 대형언어모델(LLM)을 더욱 원활하게 사용할 수 있도록 돕는 HUGS(Hugging Face Generative AI Services)를 공개했습니다.

HUGS는 AI 모델 배포에 필요한 다양한 기능을 담고 있어, 기업들이 이를 쉽게 배포하고 사용할 수 있게 합니다.

특히 Nvidia’s Inference Microservices(NIM)와 경쟁할 정도로 강력한 기능을 갖춘 HUGS는 다양한 하드웨어 플랫폼에서 실행될 수 있도록 설계되어 있어, 엔비디아와 AMD GPU를 비롯해 아마존 AI 추론 칩 인퍼런시아, 구글 TPU 등의 특화된 AI 가속기도 지원할 예정입니다.

 

이러한 도구들은 이제 기업들이 AI 모델을 더 자유롭게 활용하고 비용을 절감할 수 있는 기회를 제공합니다.

HUGS는 도커(Docker)나 쿠버네티스(Kubernetes)를 활용하여, 기업들이 대규모 LLM을 최적화할 수 있게 도와줍니다.

이러한 접근 방식은 AI 모델의 배포와 유지 관리를 한층 더 수월하게 만들고, 맞춤형 AI 솔루션을 쉽게 구축할 수 있는 가능성을 열어주고 있습니다.

허깅페이스의 혁신, 기업과 개발자에게 주는 의미

허깅페이스의 트랜스포머.js와 HUGS는 개발자와 기업들에게 새로운 AI 활용의 길을 열어줍니다.

웹 브라우저 내 AI 모델 실행을 가능하게 한 트랜스포머.js는 웹 환경에서도 고성능 AI 애플리케이션을 손쉽게 구현할 수 있는 기회를 제공하며, AI에 대한 접근성을 높였습니다.

HUGS와 같은 강력한 AI 배포 서비스는 AI 모델의 배포와 활용을 더욱 유연하게 만들어주며, 특히 대기업뿐 아니라 소규모 개발팀에게도 매력적인 선택이 될 것입니다.

 

앞으로 허깅페이스의 도구를 통해 더 많은 개발자와 기업이 AI의 혜택을 누리게 될 것이며, 이는 AI 기술의 저변을 넓히고 산업 전반에 긍정적인 변화를 가져올 것으로 기대됩니다.

이번 허깅페이스의 발표는 AI의 민주화에 한 걸음 더 다가가는 중요한 발걸음이자, 앞으로의 AI 시대를 선도할 강력한 기술적 기반을 마련한 사례입니다.

당신을 위한 3줄 요약

  1. 허깅페이스는 브라우저에서 AI를 직접 구동할 수 있는 트랜스포머.js v3를 공개했습니다.
  2. 아마존과 협력해 HUGS 서비스를 출시하여 기업의 AI 모델 배포를 쉽게 지원합니다.
  3. AI 접근성을 높이는 이번 발표로, AI 기술의 대중화가 더 가까워졌습니다.

3 line summary for you

  1. Hugging Face launched Transformer.js v3, enabling direct AI execution in web browsers.
  2. Collaborating with AWS, HUGS was released to facilitate easier AI model deployment for businesses.
  3. This announcement marks a step forward in AI accessibility and technology democratization.

구독!! 공감과 댓글,

광고 클릭은 저에게 큰 힘이 됩니다.

 

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

 

Tester Share [테스터쉐어] - Google Play 앱

Tester Share로 Google Play 앱 등록을 단순화하세요.

play.google.com

 

728x90
반응형