반응형 LLM31 GPT-4 토큰 가격 240배 하락, GPT-5가 압도적이지 않으면 AI 시장에 무료 경쟁 불가피 최근 AI 업계에서 큰 변화가 감지되었습니다. GPT-4의 토큰당 사용료가 출시 후 18개월 만에 240배나 하락했습니다.이 현상은 AI 모델의 가격 경쟁이 치열해지면서 발생한 결과로, 앞으로 GPT-5가 기대에 부응하지 못할 경우 AI 사용료는 0원으로 떨어질 가능성도 있습니다.GPT-4 토큰 가격 하락의 원인 분석GPT-4의 토큰 가격은 출시 당시 100만 토큰당 약 180달러였습니다.하지만, 시간이 지나면서 GPT-4 Turbo와 GPT-4o Mini 등의 후속 모델이 등장하며 이 가격은 급락했습니다.특히, GPT-4o Mini는 100만 토큰당 가격이 0.75달러에 불과해지면서, 초기 가격 대비 240배나 저렴해졌습니다. 이러한 가격 하락은 여러 요인에 의해 발생했습니다.경쟁 심화: 오픈AI의 G.. 2024. 9. 4. 코히어, 코드 데이터가 대형언어모델(LLM) 성능을 향상시킨다는 연구 결과 발표 최근 코히어의 연구진이 발표한 논문에 따르면, 대형언어모델(LLM)의 사전 학습에 코드 데이터를 포함하면 모델의 비코드 관련 성능까지 향상된다는 흥미로운 결과가 도출되었습니다.이번 연구는 개발자들 사이에서 떠돌던 주장에 대한 실질적인 증거를 제시하며, 코드 데이터가 LLM의 전반적인 성능에 미치는 긍정적인 영향을 입증했습니다.코드 데이터가 LLM 성능에 미치는 영향코히어 연구팀은 사전 학습에 코드 데이터를 포함한 LLM이 비코드 관련 작업에서도 뛰어난 성능을 보인다는 연구 결과를 발표했습니다.연구는 텍스트만으로, 텍스트와 코드로, 코드만으로 사전 훈련된 모델들을 비교하여 이들의 성능을 평가했습니다. 1. 코드 데이터와 자연어 추론자연어 추론 작업에서, 코드 데이터로 사전 훈련된 모델이 텍스트만으로 훈련된.. 2024. 9. 1. 제미나이 모델 활용 가이드: 구글, 프롬프트 갤러리 공개 구글이 AI 생성 모델인 '제미나이'를 위한 프롬프트 샘플 모음집 '프롬프트 갤러리(Prompt Gallery)'를 출시했습니다.이 갤러리는 다양한 프롬프트 입력과 그에 따른 출력 예시를 제공하며, AI 개발자들이 제미나이 모델을 더욱 효과적으로 활용할 수 있도록 도와줍니다.프롬프트 갤러리: AI 개발자를 위한 강력한 도구'프롬프트 갤러리'는 구글의 대형언어모델(LLM) 플랫폼인 AI 스튜디오(AI Studio)에서 제공되며, 사용자가 제미나이 모델의 다양한 기능을 손쉽게 테스트할 수 있는 환경을 제공합니다.이전에는 구글의 '버텍스 AI(Vertex AI)'에서만 사용 가능했던 이 기능이 이제는 AI 스튜디오를 통해 더 많은 개발자들에게 개방되었습니다.다양한 프롬프트 샘플: 창의적이고 실용적인 예시 제공.. 2024. 8. 28. 세레브라스 인퍼런스: 엔비디아보다 20배 빠르고 100배 저렴한 AI 서비스 인공지능(AI) 반도체 스타트업 세레브라스가 AI 추론 서비스 시장에 혁신적인 제품을 선보였습니다.'세레브라스 인퍼런스(Cerebras Inference)'는 엔비디아의 GPU 기반 서비스보다 최대 20배 빠르고, 비용 면에서도 최대 100배 더 저렴하다고 주장하고 있습니다.AI 추론 서비스는 이미 훈련된 AI 모델을 사용해 실시간으로 작업을 수행하는 핵심 기술로, 이번 출시로 AI 시장에 큰 변화가 예상됩니다.세레브라스 인퍼런스: 압도적인 성능과 가성비세레브라스의 새 AI 추론 서비스는 대형언어모델(LLM)인 '라마 3.1 8B'에서 초당 1800 토큰, '라마 3.1 70B'에서 초당 450 토큰을 처리합니다.이는 현재의 엔비디아 GPU 기반 AI 추론 서비스보다 약 20배 빠른 속도입니다.더 놀라운.. 2024. 8. 28. 아바쿠스, 코딩 최적화 오픈 소스 AI 모델 '드라카리스' 출시: 미세조정 레시피로 코딩 능력 대폭 향상 인공지능(AI) 분야에서 빠르게 성장하고 있는 스타트업 아바쿠스AI가 최근 코딩 작업에 특화된 오픈 소스 대형언어모델(LLM) 제품군 ‘드라카리스(Dracarys)’를 출시했습니다.드라카리스는 기존 LLM 모델에 독자적인 미세조정 레시피를 적용하여 코딩 능력을 비약적으로 향상시키는 것이 특징입니다.드라카리스란 무엇인가?드라카리스는 '왕좌의 게임'에 등장하는 명령어로, 용에게 불을 뿜으라는 뜻입니다.아바쿠스는 이러한 상징적인 이름을 통해 강력한 코딩 성능을 제공하는 AI 모델임을 강조하고 있습니다.이번에 출시된 드라카리스는 메타의 라마 3.1-70B와 알리바바의 큐원-2 72B 모델에 적용된 미세조정 레시피를 통해, 코딩 능력을 크게 향상시켰습니다.미세조정 레시피: 코딩 능력의 비밀드라카리스의 핵심은 바로.. 2024. 8. 27. AI21랩스의 잠바 1.5, SSM-트랜스포머 결합으로 성능 강화 2024년 8월, 이스라엘 스타트업 AI21랩스가 기존의 트랜스포머 아키텍처를 보완한 하이브리드 대형언어모델(LLM) ‘잠바(Jamba) 1.5’를 오픈 소스로 공개했습니다.이번에 발표된 잠바 1.5는 이전 버전인 잠바 1.0의 개선된 형태로, SSM(State Space Model) 아키텍처를 트랜스포머 아키텍처와 결합한 것이 특징입니다. 트랜스포머는 2017년 구글이 개발한 이후, LLM의 대중화를 이끈 혁신적인 아키텍처로 꼽히지만, 긴 컨텍스트 창을 처리할 때 성능 저하 및 메모리 사용량 증가라는 문제를 안고 있었습니다.이러한 문제를 해결하기 위해 AI21랩스는 맘바(Mamba) SSM 아키텍처를 결합하여 효율성을 높였습니다. 특히, 잠바 1.5는 25만6000 토큰 길이의 컨텍스트 창을 지원하여 .. 2024. 8. 24. 이전 1 2 3 4 5 6 다음 반응형
