본문 바로가기
반응형

전체 글1818

ETRI가 만든 ‘신뢰형 AI 코드 생성기술’ — 이제 AI가 코드 품질까지 챙긴다C/C++부터 시작된 코드 혁명, 개발자가 진짜 안심할 수 있는 AI 코딩의 시대 AI가 코드를 써주는 시대, 이제는 너무 익숙하죠.“로그인 기능 만들어줘”, “CSV 파일 읽고 처리해줘” 이런 프롬프트 한 줄이면진짜 돌아가는 코드를 몇 초 만에 만들어주니까요.근데 실제로 써본 개발자라면 알 거예요.AI가 만든 코드가 작동은 되는데, 믿음은 안 간다는 거.보안이 구멍 나있거나, 예외처리 없이 바로 죽고, 유지보수도 난리 나는 경우가 많았죠.그런데 이번에 한국전자통신연구원(ETRI)이 내놓은 기술이 이 판을 통째로 흔들어버렸습니다.바로 **‘LLM 기반 신뢰형 코드 생성기술’**이에요.이건 단순히 “코드를 잘 만든다”가 아니라,“개발자의 의도 + 보안성 + 성능 + 유지보수성”까지 고려하는 AI 코더를 만든 거예요.AI가 개발자의 마음까지 읽는다?ETRI가 만든 모델은 단순한 코드 자동.. 2025. 11. 10.
TPU vs NPU, 진짜 뭐가 다를까?AI 칩 전쟁의 핵심을 한 번에 정리해본다 요즘 스마트폰이나 전기차 스펙 보면 “NPU 탑재” “온디바이스 AI 연산” 이런 말 진짜 자주 보이지?한편 구글 쪽에서는 “TPU로 모델 훈련 가속화!” 이런 얘기를 한다.근데 둘 다 “AI용 칩”이라는데, 도대체 뭐가 다른 건지 감이 안 잡히는 사람들 많을 걸.오늘은 이 둘의 차이를 진짜 ‘개발자 시점’에서 딱 정리해줄게.TPU란?구글이 직접 만든 Tensor Processing Unit의 줄임말로,말 그대로 “텐서 연산”에 특화된 AI 전용 칩이야.이건 대규모 데이터센터에서 딥러닝 모델을 학습시키기 위한 괴물급 하드웨어라고 보면 된다.특징 몇 가지 찍어보면,TensorFlow 프레임워크에 최적화수천 개의 연산을 동시에 처리하는 ‘시스톨릭 어레이(Systolic Array)’ 구조초당 수백조 번의 곱.. 2025. 11. 10.
샤오펑 ‘인간설’ 로봇, 진짜 충격적인 기술력의 정체휴머노이드가 인간처럼 걸을 수 있었던 이유를 개발자 시점에서 뜯어본다 요즘 AI 업계에서 샤오펑(XPENG) 이름이 심상치 않다. 중국 전기차 회사로 알려져 있지만, 이번 ‘AI 데이’에서 공개한 휴머노이드 로봇 ‘아이언(Iron)’은 그냥 로봇이 아니라, 진짜 “사람인 줄” 알았다는 말이 나올 정도였다. 그 결과 ‘사람이 들어가 있는 거 아니냐’는 루머까지 돌았고, CEO가 직접 지퍼를 열어 내부 기계 구조를 공개하는 상황까지 갔다. 그런데 진짜 포인트는 여기 있다. “왜 사람처럼 움직일 수 있었는가?” 아이언의 핵심: 82자유도와 VLA 모델아이언은 82개의 자유도(Degree of Freedom)를 갖고 있다. 이건 인간 근육의 세밀한 움직임을 모사하기 위한 수준의 정밀 제어를 의미한다. 단순히 모터를 많이 달았다는 얘기가 아니라, 각 관절의 회전, 저항, 가속도까지.. 2025. 11. 10.
엔비디아 NVQLink가 여는 ‘양자-GPU 하이브리드’의 진짜 의미: 개발자가 지금 알아야 할 아키텍처, 성능 수치, 그리고 CUDA-Q 실전 로드맵 무엇이 정확히 나왔나NVQLink는 GPU의 병렬 연산력을 QPU 옆에 초저지연·고대역으로 갖다 붙여 “가속형 양자 슈퍼컴퓨터”를 만드는 개방형 시스템 아키텍처입니다. 엔비디아는 이를 통해 화학·소재 같은 영역에서 양자–고전 하이브리드 워크로드를 가속하겠다고 못박았습니다. 또한 미국 국립연구소 9곳이 개발 방향을 공동 제시했고, 생태계에는 17개의 QPU 빌더와 5개의 컨트롤러 업체가 공식 파트너로 명시됐습니다.왜 “게임 체인저”인가: 숫자로 보는 임팩트지연 시간. 젠슨 황은 NVQLink로 QPU에서 CUDA-Q 호출을 “약 4마이크로초” 레이턴시로 실시간 처리한다고 밝혔습니다. 이건 표면코드 같은 양자 오류보정 루프의 병목(측정→고전처리→피드백)에서 ‘고전처리’ 구간을 사실상 GPU LLM 서빙급 속.. 2025. 11. 5.
Shimmy: 파이썬 없이 로컬 LLM을 OpenAI처럼 돌리는 초경량 러스트 서버목차 오늘의 기술 핵심 요약Shimmy는 로컬 환경에서 대형 언어 모델(LLM)을 실행하고 싶은 개발자를 위한 새로운 오픈소스 프로젝트다. Rust로 구현되어 파이썬 런타임 없이 동작하며, OpenAI API와 완벽히 호환되는 REST 엔드포인트를 제공한다. 즉, 기존 OpenAI SDK나 클라이언트 코드를 거의 그대로 유지하면서, 인터넷 연결 없이 로컬 모델을 실행할 수 있다.프로젝트는 단일 바이너리로 제공되어 설정이 거의 필요 없고, GGUF·SafeTensors 포맷 모델을 자동으로 탐색 및 로딩한다. 모델 실행 속도, 메모리 효율성, 프라이버시 보호까지 잡은 “로컬-퍼스트 AI 서빙 시대”의 방향을 제시하는 사례다. 기술적 배경 및 핵심 아키텍처기존 LLM을 로컬에서 돌리려면 파이썬, PyTorch, .. 2025. 10. 30.
미니맥스 M2, GPT-5에 도전장 던지다 — 진짜 개발자를 위한 오픈소스 AI의 새로운 기준 중국 AI 스타트업 미니맥스(MiniMax)가 내놓은 오픈소스 대형언어모델(LLM) ‘M2’가 전 세계 지능지수(Intelligence Index) 5위, 오픈소스 모델 중 1위라는 성적을 기록하며 업계의 이목을 끌고 있다. 이는 단순히 “중국 모델의 약진”을 넘어, 실질적인 기술 구조와 활용성 면에서도 개발자에게 커다란 변화를 예고하는 사건이다.이번 포스팅에서는 M2의 기술적 혁신, 구조적 특징, 실제 개발 환경에서의 활용 가능성을 개발자의 시선으로 깊이 분석해보자.1. 2300억 파라미터, 그러나 단 100억만 활성화되는 ‘희소 전문가 혼합(MoE)’ 구조M2의 가장 큰 특징은 Mixture of Experts (MoE) 아키텍처다.총 2300억개의 매개변수 중 한 번의 추론 과정에서 약 100억개만.. 2025. 10. 29.
반응형

티스토리툴바