본문 바로가기
반응형

전체 글1609

누스, GPU 효율 1만 배 향상하는 '디스트로' 공개: 유휴 GPU를 활용한 혁신적인 AI 훈련 솔루션 AI 스타트업 누스 리서치가 AI 모델 학습 과정에서 GPU 효율을 최대 1만 배 향상시키는 혁신적인 도구, '디스트로(DisTrO)'를 공개했습니다.이 도구는 전 세계의 유휴 GPU를 연결해 클라우드 없이도 소비자 수준의 인터넷으로 강력한 AI 모델을 훈련할 수 있게 해주는 기술로 주목받고 있습니다.이번 블로그에서는 디스트로의 주요 기능과 장점, 그리고 이 기술이 AI 훈련에 미치는 영향을 자세히 살펴보겠습니다. 1. 디스트로란 무엇인가?디스트로는 AI 모델을 훈련하는 과정에서 GPU 간의 데이터 전송 효율을 획기적으로 향상시키는 최적화 도구입니다.기존의 '올-리듀스(All-Reduce)' 알고리즘과 비교해 효율성이 857배 향상되었으며, 데이터 전송량을 74.4GB에서 86.8MB로 대폭 줄여주는 성.. 2024. 8. 28.
구글, '제미나이 1.5 플래시' 업그레이드 발표: 3가지 테스트 버전 출시 및 피드백 요청 구글이 최신 인공지능 모델 '제미나이 1.5 플래시'를 업그레이드하여 세 가지 버전으로 출시했습니다.이 모델들은 정식 출시를 앞두고 반응을 알아보는 테스트 버전으로, 다양한 성능 향상 기능과 함께 사용자 피드백을 적극적으로 반영할 계획입니다.이번 블로그에서는 제미나이 1.5 플래시의 주요 특징과 각 버전의 성능을 살펴보고, 구글의 향후 계획을 살펴보겠습니다. 1. 제미나이 1.5 플래시 업그레이드 개요구글은 '제미나이 1.5 플래시'를 업그레이드하여 ▲소형언어모델(sLM)인 '제미나이 1.5 플래시-8B' ▲성능 향상된 '제미나이 1.5 플래시' ▲고성능의 '제미나이 1.5 플래시 프로' 등 세 가지 버전을 출시했습니다. 이들 모델은 제미나이 2.0의 출시에 앞서 성능을 테스트하고 피드백을 수집하기 위한.. 2024. 8. 28.
앤트로픽 '아티팩트' 정식 출시: 모바일에서 실시간 코딩의 혁신 앤트로픽이 최근 ‘아티팩트(Artifacts)’ 기능을 정식 출시하며 기술계의 큰 주목을 받고 있습니다.이 새로운 기능은 클로드 3.5 소네트와 함께 선보였으며, 특히 모바일 기기에서도 실시간으로 앱을 만들 수 있는 혁신적인 도구로 자리잡고 있습니다.이번 블로그에서는 아티팩트의 주요 기능과 장점, 그리고 실제 활용 사례를 자세히 살펴보겠습니다. 1. 아티팩트란 무엇인가?아티팩트는 앤트로픽의 클로드 AI와 결합하여 사용자가 실시간으로 앱을 생성하고 수정할 수 있는 작업 공간을 제공합니다.과거에는 AI가 생성한 결과물만 수용해야 했지만, 이제는 사용자가 실시간으로 결과물을 보고 수정할 수 있는 새로운 차원의 작업 환경을 경험할 수 있습니다. 2. 아티팩트의 주요 기능실시간 코드 수정: 클로드가 생성한 코드 .. 2024. 8. 28.
MS, SW 개발자 연봉 최소 2억...AI 개발자는 평균 5억에 달해 마이크로소프트(MS)의 소프트웨어 엔지니어 연봉이 최소 2억 원에 달하며, 특히 AI 부서에서는 평균 연봉이 5억 원에 이른다는 소식이 전해졌습니다. 이는 MS의 연봉 정보가 일부 공개되면서 알려진 내용으로, SW 개발자와 AI 개발자들의 보상 체계가 어느 정도인지 보여줍니다.MS의 연봉 구조: 기본 급여, 보너스, 주식 보상비즈니스 인사이더에 따르면, MS의 소프트웨어 엔지니어는 기본 급여뿐만 아니라 현금 보너스와 주식 보상을 포함한 다양한 형태의 보상을 받습니다.올해 MS는 급여를 동결하고, 보너스와 주식 보상 예산을 삭감하는 등의 조치를 취했지만, 여전히 높은 수준의 연봉을 제공하고 있습니다. 이번 자료는 MS 직원들이 자발적으로 공유한 익명 정보를 기반으로 한 것으로, MS의 공식 문서와는 차이가.. 2024. 8. 28.
제미나이 모델 활용 가이드: 구글, 프롬프트 갤러리 공개 구글이 AI 생성 모델인 '제미나이'를 위한 프롬프트 샘플 모음집 '프롬프트 갤러리(Prompt Gallery)'를 출시했습니다.이 갤러리는 다양한 프롬프트 입력과 그에 따른 출력 예시를 제공하며, AI 개발자들이 제미나이 모델을 더욱 효과적으로 활용할 수 있도록 도와줍니다.프롬프트 갤러리: AI 개발자를 위한 강력한 도구'프롬프트 갤러리'는 구글의 대형언어모델(LLM) 플랫폼인 AI 스튜디오(AI Studio)에서 제공되며, 사용자가 제미나이 모델의 다양한 기능을 손쉽게 테스트할 수 있는 환경을 제공합니다.이전에는 구글의 '버텍스 AI(Vertex AI)'에서만 사용 가능했던 이 기능이 이제는 AI 스튜디오를 통해 더 많은 개발자들에게 개방되었습니다.다양한 프롬프트 샘플: 창의적이고 실용적인 예시 제공.. 2024. 8. 28.
세레브라스 인퍼런스: 엔비디아보다 20배 빠르고 100배 저렴한 AI 서비스 인공지능(AI) 반도체 스타트업 세레브라스가 AI 추론 서비스 시장에 혁신적인 제품을 선보였습니다.'세레브라스 인퍼런스(Cerebras Inference)'는 엔비디아의 GPU 기반 서비스보다 최대 20배 빠르고, 비용 면에서도 최대 100배 더 저렴하다고 주장하고 있습니다.AI 추론 서비스는 이미 훈련된 AI 모델을 사용해 실시간으로 작업을 수행하는 핵심 기술로, 이번 출시로 AI 시장에 큰 변화가 예상됩니다.세레브라스 인퍼런스: 압도적인 성능과 가성비세레브라스의 새 AI 추론 서비스는 대형언어모델(LLM)인 '라마 3.1 8B'에서 초당 1800 토큰, '라마 3.1 70B'에서 초당 450 토큰을 처리합니다.이는 현재의 엔비디아 GPU 기반 AI 추론 서비스보다 약 20배 빠른 속도입니다.더 놀라운.. 2024. 8. 28.
반응형

티스토리툴바