알리바바, 검색엔진 없는 AI 훈련 '제로서치' 공개 – 비용 88% 절감 가능

 

알리바바가 AI 훈련의 혁신적인 방식을 제안하며 업계의 주목을 받고 있습니다.

기존의 고비용 검색엔진 API 의존에서 벗어나, 더 효율적인 AI 검색 능력을 키울 수 있는 '제로서치(ZeroSearch)' 훈련법을 공개했습니다.

이 기술은 AI 개발 비용을 대폭 줄이고 훈련의 복잡성을 낮출 수 있는 새로운 패러다임으로 주목받고 있습니다.

---

제로서치의 핵심 원리

알리바바 연구진이 제안한 '제로서치'는 대형언어모델(LLM) 훈련에 있어 기존의 검색엔진 없이도 고성능의 검색 능력을 갖출 수 있도록 설계된 강화 학습(RL) 프레임워크입니다.

주요 특징은 다음과 같습니다.

• 검색엔진 API 없이도 검색 능력 향상
  • 기존의 상용 검색엔진은 비용이 비싸고 문서의 품질이 일정하지 않아 안정적인 훈련이 어려웠습니다.
  • 제로서치는 LLM이 자체적으로 검색 결과를 생성할 수 있도록 훈련하여 이러한 문제를 해결합니다.
• 지도 미세조정(SFT)
  • 기본적으로 LLM을 검색 모듈로 전환하는 간단한 지도 미세조정 단계를 거칩니다.
  • 이후 다양한 품질의 문서를 생성하여 모델의 추론 능력을 강화합니다.
• 비용 절감 효과
  • 실제로 14B 매개변수 모델을 4개의 A100 GPU에서 훈련하는 비용이 71달러에 불과해, 기존 검색엔진 API 대비 88% 비용 절감이 가능합니다.

제로서치의 장점

1. 비용 효율성
   • 검색 API 비용을 크게 줄여 소규모 AI 스타트업도 고성능 모델을 개발할 수 있습니다.
2. 데이터 품질 관리
   • 시뮬레이션 기반으로 데이터를 통제할 수 있어, 더 정교한 AI 모델 훈련이 가능합니다.
3. 성능 경쟁력
   • 7B 매개변수 모델은 구글 검색 수준의 성능을 기록했으며, 14B 모델은 이를 능가했습니다.

향후 전망

알리바바의 제로서치는 단순히 비용을 줄이는 것을 넘어, AI 훈련의 패러다임을 바꿀 수 있는 잠재력을 가지고 있습니다.

검색엔진의 물리적 제약 없이도 효율적인 정보 검색이 가능한 AI를 훈련할 수 있다는 점에서, AI 산업 전반에 큰 변화를 가져올 것으로 기대됩니다.

 

연구진은 관련 코드, 데이터셋, 사전학습 모델을 깃허브와 허깅페이스에 공개

---

당신을 위한 3줄 요약

1. 알리바바가 검색엔진 없이도 AI를 훈련할 수 있는 '제로서치' 기술을 공개했습니다.
2. 이 기술은 비용을 88%까지 절감할 수 있으며, AI 성능을 크게 향상시킬 수 있습니다.
3. 데이터 품질 통제가 가능해 소규모 AI 스타트업에도 유용할 것으로 보입니다.

3 line summary for you

1. Alibaba has unveiled the 'ZeroSearch' training method for AI without search engines.
2. This approach reduces costs by 88% and significantly improves AI performance.
3. It offers precise data control, making it ideal for small AI startups.
   

째깍째깍...흘러가는 시간 붙잡고 싶다면? 

Study Duck 학습 타이머 즉시 ON! 랭킹 경쟁 참여하고 학습 습관 만들 기회, 놓치지 마세요!

www.studyduck.net

Study Duck팟빵
https://www.podbbang.com/channels/1792491