본문 바로가기
728x90
반응형

Development News/AI286

하이퍼라이트 '리플렉션 70B'의 성능 논란: “세계 최고” 주장에 대한 반박과 해명 하이퍼라이트의 최신 오픈 소스 모델, 리플렉션 70B의 성능 논란과 그에 대한 다양한 의견들하이퍼라이트가 자사의 최신 오픈 소스 대형 언어 모델 ‘리플렉션 70B’를 발표하면서 “세계 최고 성능”을 주장한 가운데, 이 모델의 실제 성능에 대한 논란이 일고 있습니다. 모델의 성능을 둘러싼 의견과 반박이 잇따르며, AI 커뮤니티와 분석가들 사이에서 격렬한 논쟁이 벌어지고 있습니다.하이퍼라이트의 주장과 발표하이퍼라이트는 리플렉션 70B를 12만8000 토큰 컨텍스트 창과 700억 매개변수로 출시하였으며, ‘반사 튜닝(Reflection Tuning)’ 기술을 적용해 추론 과정에서 발생하는 오류를 스스로 수정할 수 있다고 발표했습니다.이 모델은 메타의 라마 3.1-70B를 미세 조정하여 구축된 것으로 알려져 있.. 2024. 9. 11.
AI2, 고성능 저비용 모델 '올모E(OLMoE)' 출시: 최초로 MoE 방식의 오픈소스 공개 전문가 혼합(MoE) 기반의 대형 언어 모델, 올모E로 AI 연구의 새로운 장을 열다비영리 민간 AI 연구기관 앨런AI연구소(AI2)가 올모E(OLMoE)를 출시했습니다.이 모델은 전문가 혼합(MoE) 방식의 대형 언어 모델(LLM)로, 오픈소스 형태로 공개된 최초의 MoE 기반 모델입니다.AI2는 모델의 가중치, 훈련 데이터, 코드 등 모든 정보를 투명하게 공개하며, AI 커뮤니티에 큰 영향을 미칠 것으로 기대됩니다.올모E의 주요 특징1. MoE 방식의 혁신올모E는 MoE(Experts Mixture of Experts) 방식을 활용하여 모델의 성능을 극대화하면서도 비용을 절감합니다.MoE 방식은 대형 언어 모델을 여러 개의 전문 모델로 나누어, 필요할 때마다 특정 전문 모델을 활성화하여 사용하는 방식.. 2024. 9. 11.
레드햇 엔터프라이즈 리눅스 AI 출시: 하이브리드 클라우드에서 생성형 AI 혁신 가속화 RHEL AI로 프로덕션 환경에서 엔터프라이즈 AI 구축 및 배포를 더 쉽게, 더 효율적으로글로벌 오픈소스 솔루션 선도기업 레드햇(Red Hat)이 레드햇 엔터프라이즈 리눅스 AI(RHEL AI)를 정식 출시했습니다.이 플랫폼은 기업들이 생성형 AI를 더욱 쉽게 개발, 테스트, 배포할 수 있도록 지원하는 강력한 도구로, 특히 하이브리드 클라우드 전반에서 AI 혁신을 가능하게 합니다.RHEL AI의 주요 특징1. 생성형 AI 개발 및 배포 최적화RHEL AI는 그래니트 LLM(대규모 언어 모델) 제품군과 인스트럭트랩(InstructLab) 도구를 결합해, AI 모델을 효율적으로 훈련하고 프로덕션 환경에 배포할 수 있도록 지원합니다.특히 하이브리드 클라우드의 유연한 배포 환경에 최적화되어 있어, 다양한 클라.. 2024. 9. 11.
로블록스, 게임 생성 AI 모델 직접 구축...누구나 쉽게 게임 콘텐츠 만들 수 있다 세계 최대의 게임 플랫폼, 로블록스가 사용자들이 게임을 쉽게 만들 수 있는 새로운 생성 인공지능(AI) 모델을 개발 중입니다.이번 발표는 로블록스가 직접 구축한 AI 모델로, 기존의 타사 모델 대신 자체 개발한 기술을 활용하겠다는 내용입니다.이로써 로블록스는 게임 제작의 접근성을 크게 향상시키고자 합니다.1. 로블록스의 새로운 AI 모델로블록스는 6일(현지시간) 미국 캘리포니아 새너제이에서 열린 개발자 컨퍼런스에서 이 AI 모델의 개발 계획을 공개했습니다.데이비드 바주츠키 로블록스 CEO는 기조연설을 통해 "텍스트와 비디오, 3D 프롬프트를 이용해 게임 내 콘텐츠를 생성할 수 있는 오픈 소스 모델을 개발 중"이라고 밝혔습니다. 이 AI 모델은 약 3개월 뒤에 출시될 예정이며, 40명의 전담 직원이 참여하.. 2024. 9. 9.
양자화와 PEFT로 LLM 경량화: AI 스마트폰에서의 응용 최근 스마트폰에 탑재된 인공지능(AI) 기능이 주목받고 있습니다.삼성 갤럭시 S24와 같은 최신 스마트폰은 고성능 AI 모델을 내장하고 있어 실시간 번역, 채팅, 사진 편집 등 다양한 기능을 제공하고 있습니다.이러한 기능을 가능하게 하는 핵심 기술 중 하나가 바로 ‘LLM 경량화’입니다.이 글에서는 LLM 경량화 기술이 무엇인지, 그리고 양자화(Quantization)와 PEFT(Parameter Efficient Fine-Tuning)라는 두 가지 주요 기법에 대해 쉽게 설명하겠습니다.1. LLM이란 무엇인가요? LLM은 ‘대형 언어 모델(Large Language Model)’의 줄임말입니다.쉽게 말해, LLM은 다양한 언어를 이해하고 생성할 수 있는 AI 모델입니다. 이런 모델들은 방대한 양의 데이.. 2024. 9. 8.
AI 요금제의 새로운 패러다임: 성과 기반 과금 모델이 가져올 변화 AI 챗봇 서비스의 요금 체계에 큰 변화가 예고되고 있습니다. 전통적으로 사용량에 따라 요금을 부과하던 방식에서 벗어나, 이제는 작업을 완료한 경우에만 요금을 청구하는 ‘성과 기반 과금(outcome-based pricing)’ 모델이 등장했습니다. 이는 기업이 AI 소프트웨어의 비용 부담을 줄이려는 노력의 일환으로, 가격 경쟁의 새로운 트렌드로 자리잡을지 주목됩니다.성과 기반 과금의 개념디 인포메이션에 따르면, AI 소프트웨어 업체 젠데스크가 이 새로운 과금 방식을 도입했습니다. 성과 기반 과금은 기존의 서비스형 소프트웨어(SaaS) 모델과는 차별화된 접근 방식을 제공합니다. 대부분의 SaaS 모델은 사용자 수나 사용량에 따라 요금을 청구하는 반면, 젠데스크는 AI 챗봇이 자동으로 작업을 완료한 경우에.. 2024. 9. 8.
728x90
반응형