본문 바로가기
반응형

전체 글1824

하이퍼라이트 '리플렉션 70B'의 성능 논란: “세계 최고” 주장에 대한 반박과 해명 하이퍼라이트의 최신 오픈 소스 모델, 리플렉션 70B의 성능 논란과 그에 대한 다양한 의견들하이퍼라이트가 자사의 최신 오픈 소스 대형 언어 모델 ‘리플렉션 70B’를 발표하면서 “세계 최고 성능”을 주장한 가운데, 이 모델의 실제 성능에 대한 논란이 일고 있습니다. 모델의 성능을 둘러싼 의견과 반박이 잇따르며, AI 커뮤니티와 분석가들 사이에서 격렬한 논쟁이 벌어지고 있습니다.하이퍼라이트의 주장과 발표하이퍼라이트는 리플렉션 70B를 12만8000 토큰 컨텍스트 창과 700억 매개변수로 출시하였으며, ‘반사 튜닝(Reflection Tuning)’ 기술을 적용해 추론 과정에서 발생하는 오류를 스스로 수정할 수 있다고 발표했습니다.이 모델은 메타의 라마 3.1-70B를 미세 조정하여 구축된 것으로 알려져 있.. 2024. 9. 11.
AI2, 고성능 저비용 모델 '올모E(OLMoE)' 출시: 최초로 MoE 방식의 오픈소스 공개 전문가 혼합(MoE) 기반의 대형 언어 모델, 올모E로 AI 연구의 새로운 장을 열다비영리 민간 AI 연구기관 앨런AI연구소(AI2)가 올모E(OLMoE)를 출시했습니다.이 모델은 전문가 혼합(MoE) 방식의 대형 언어 모델(LLM)로, 오픈소스 형태로 공개된 최초의 MoE 기반 모델입니다.AI2는 모델의 가중치, 훈련 데이터, 코드 등 모든 정보를 투명하게 공개하며, AI 커뮤니티에 큰 영향을 미칠 것으로 기대됩니다.올모E의 주요 특징1. MoE 방식의 혁신올모E는 MoE(Experts Mixture of Experts) 방식을 활용하여 모델의 성능을 극대화하면서도 비용을 절감합니다.MoE 방식은 대형 언어 모델을 여러 개의 전문 모델로 나누어, 필요할 때마다 특정 전문 모델을 활성화하여 사용하는 방식.. 2024. 9. 11.
레드햇 엔터프라이즈 리눅스 AI 출시: 하이브리드 클라우드에서 생성형 AI 혁신 가속화 RHEL AI로 프로덕션 환경에서 엔터프라이즈 AI 구축 및 배포를 더 쉽게, 더 효율적으로글로벌 오픈소스 솔루션 선도기업 레드햇(Red Hat)이 레드햇 엔터프라이즈 리눅스 AI(RHEL AI)를 정식 출시했습니다.이 플랫폼은 기업들이 생성형 AI를 더욱 쉽게 개발, 테스트, 배포할 수 있도록 지원하는 강력한 도구로, 특히 하이브리드 클라우드 전반에서 AI 혁신을 가능하게 합니다.RHEL AI의 주요 특징1. 생성형 AI 개발 및 배포 최적화RHEL AI는 그래니트 LLM(대규모 언어 모델) 제품군과 인스트럭트랩(InstructLab) 도구를 결합해, AI 모델을 효율적으로 훈련하고 프로덕션 환경에 배포할 수 있도록 지원합니다.특히 하이브리드 클라우드의 유연한 배포 환경에 최적화되어 있어, 다양한 클라.. 2024. 9. 11.
Docker Dockerfile 작성 및 이미지 빌드 / 이미지 빌드: docker build 명령어 사용법 Docker는 애플리케이션을 독립된 환경에서 실행할 수 있게 해주는 플랫폼입니다.Docker를 사용하면 애플리케이션과 그 의존성을 하나의 패키지로 묶어 컨테이너를 만들 수 있습니다.이 과정에서 중요한 단계 중 하나는 바로 Docker 이미지를 빌드하는 것입니다.Docker 이미지를 빌드할 때 사용하는 명령어가 바로 docker build입니다.이 블로그에서는 docker build 명령어의 기본 사용법과 옵션을 초보자도 쉽게 이해할 수 있도록 설명하겠습니다.1. Docker 이미지란?Docker 이미지는 애플리케이션, 라이브러리, 설정 파일 등 애플리케이션 실행에 필요한 모든 것을 포함한 패키지입니다.이미지는 Dockerfile을 기반으로 생성되며, 이 파일에는 이미지가 어떻게 구성될지를 정의하는 명령어.. 2024. 9. 11.
Docker Dockerfile 작성 및 이미지 빌드 / Dockerfile 작성법: 기본 구조 및 명령어 Docker는 애플리케이션을 독립적인 환경에서 실행할 수 있게 해주는 도구입니다.Docker를 사용할 때 중요한 파일이 바로 Dockerfile입니다.이 파일은 Docker 이미지가 어떻게 구성될지를 정의합니다. Dockerfile에는 다양한 명령어와 옵션이 있으며, 이를 통해 이미지의 설정과 구성을 지정할 수 있습니다.이 블로그에서는 Dockerfile의 주요 명령어와 각 명령어의 옵션을 초급자도 쉽게 이해할 수 있도록 설명하겠습니다.1. Dockerfile 기본 구조Dockerfile은 여러 명령어로 구성되며, 각 명령어는 이미지의 특정 부분을 설정합니다.가장 기본적인 명령어는 FROM, RUN, COPY, ADD, CMD, ENTRYPOINT, EXPOSE 등이 있습니다.각 명령어는 다양한 옵션을 .. 2024. 9. 11.
Docker Dockerfile 작성 및 이미지 빌드 / Dockerfile의 역할: 이미지를 정의하는 파일 Docker는 애플리케이션을 컨테이너라는 독립된 환경에서 실행할 수 있게 해주는 도구입니다.컨테이너를 만들고 관리하는 데 있어서 중요한 파일이 바로 Dockerfile입니다.Dockerfile은 Docker 이미지를 정의하는 텍스트 파일로, 어떤 소프트웨어를 설치하고, 어떤 설정을 해야 하는지를 명시합니다.이 블로그에서는 Dockerfile의 역할과 Docker 이미지를 빌드하는 과정을 초보자도 이해할 수 있도록 설명하겠습니다.1. Dockerfile이란 무엇인가요?Dockerfile은 Docker 이미지를 만들기 위한 스크립트 파일입니다.이 파일에는 이미지가 어떻게 구성될지에 대한 지침이 포함되어 있습니다.즉, 어떤 베이스 이미지에서 시작할지, 어떤 소프트웨어를 설치할지, 어떤 환경 변수를 설정할지 등.. 2024. 9. 11.
반응형

티스토리툴바