본문 바로가기
반응형

전체 글2099

26부 AI 모델 경량화란? 거대한 인공지능을 스마트폰에 넣는 방법 ChatGPT 같은 생성형 AI는 놀라운 능력을 보여줍니다.하지만 이런 거대한 AI 모델을 그대로 스마트폰이나 작은 노트북에 넣는 것은 쉽지 않습니다.AI 모델이 커질수록 일반적으로더 많은 메모리더 많은 저장공간더 많은 계산량더 많은 전력이 필요하기 때문입니다.그렇다면 스마트폰에서 번역하고, 사진을 분석하고, 음성을 인식하는 AI는 어떻게 작동할까요?한 가지 중요한 방법이 바로 AI 모델 경량화(Model Compression / Optimization)​입니다.쉽게 말하면AI의 성능을 최대한 유지하면서 모델을 더 작고 빠르고 효율적으로 만드는 기술입니다.이번 글에서는 AI 모델 경량화가 왜 필요한지, 양자화·가지치기·지식 증류는 무엇인지, 그리고 이 기술이 온디바이스 AI와 어떻게 연결되는지 쉽게 알아.. 2026. 8. 12.
25부 온디바이스 AI란 무엇인가? 인터넷 없이 스마트폰에서 AI가 작동하는 원리 스마트폰에서 AI를 사용하면 보통 이런 과정을 떠올릴 수 있습니다.사용자가 질문합니다.↓인터넷을 통해 거대한 데이터센터로 보냅니다.↓서버의 AI가 계산합니다.↓결과가 다시 스마트폰으로 돌아옵니다.ChatGPT 같은 대규모 AI 서비스에서 흔히 볼 수 있는 방식입니다.그런데 최근에는 조금 다른 AI가 중요해지고 있습니다.인터넷 서버에 모든 작업을 보내지 않고 스마트폰, PC, 자동차 같은 기기 안에서 직접 AI를 실행하는 방식​입니다.이것을 온디바이스 AI(On-device AI)​라고 합니다.그렇다면 작은 스마트폰 안에서 어떻게 AI가 작동할까요?그리고 굳이 데이터센터가 있는데 왜 기기 안에서 AI를 실행하려는 것일까요?이번 글에서는 온디바이스 AI가 무엇인지, NPU는 어떤 역할을 하는지, 클라우드 A.. 2026. 8. 12.
24부 멀티모달 AI란 무엇인가? 글·사진·음성·영상을 함께 이해하는 인공지능 처음 ChatGPT가 널리 알려졌을 때 많은 사람은 AI에게 글자로 질문하고 글자로 답을 받았습니다.하지만 지금의 인공지능은 텍스트만 다루지 않습니다.사진을 보여주면서“이 사진에 무엇이 있어?”라고 질문할 수 있고,문서를 보여주며“이 표에서 중요한 내용을 찾아줘.”라고 요청할 수도 있습니다.음성으로 대화하거나 이미지와 글을 함께 이용해 새로운 콘텐츠를 만드는 AI도 등장했습니다.이처럼 텍스트, 이미지, 음성, 영상 등 여러 종류의 정보를 함께 처리하는 인공지능​을 멀티모달 AI(Multimodal AI)​라고 합니다.이번 글에서는 멀티모달 AI가 무엇인지, 기존 생성형 AI와 어떤 차이가 있는지, 그리고 앞으로 우리의 일상과 업무를 어떻게 변화시킬 수 있는지 쉽게 알아보겠습니다.멀티모달(Multimoda.. 2026. 8. 12.
23부 AI 에이전트란 무엇인가? 답변을 넘어 직접 일을 처리하는 AI의 원리 지금까지 우리가 많이 사용해온 생성형 AI는 질문을 하면 답변을 만들어주는 방식이었습니다.예를 들어 ChatGPT에게“제주도 2박 3일 여행 일정을 만들어줘.”라고 요청하면 여행 계획을 작성해줍니다.그런데 한 단계 더 나아가 이런 AI를 생각해볼 수 있습니다.“이번 주말 제주도 여행을 계획해줘. 날씨를 확인하고, 이동시간을 고려해 일정을 만들고, 필요한 정보를 비교해서 최종 계획을 정리해줘.”이제 AI가 해야 할 일은 단순히 글을 만드는 것이 아닙니다.날씨를 확인하고,정보를 검색하고,여러 선택지를 비교하고,계획을 수정하고,최종 결과물을 만들어야 합니다.이처럼 사용자가 원하는 목표를 달성하기 위해 여러 단계를 판단하고 필요한 도구를 사용하며 작업을 수행하는 AI 시스템을 일반적으로 AI 에이전트(AI Ag.. 2026. 8. 12.
22부 벡터 데이터베이스란 무엇인가? RAG가 필요한 문서를 찾는 방법 쉽게 알아보기 앞선 글에서는 AI가 단어나 문장의 의미를 임베딩(Embedding)​이라는 숫자 벡터로 표현할 수 있다는 것을 알아봤습니다.그렇다면 다음과 같은 궁금증이 생깁니다.“수십만 개의 문서를 임베딩으로 바꿨다면 AI는 그중 필요한 문서를 어떻게 빠르게 찾을까?”예를 들어 회사 내부에 인사규정, 업무매뉴얼, 회의자료, 제품 설명서 등 문서가 10만 개 있다고 생각해보겠습니다.사용자가 AI에게 이렇게 질문합니다.“부모님이 돌아가셨을 때 경조휴가는 며칠 사용할 수 있나요?”AI가 10만 개의 문서를 처음부터 끝까지 하나씩 읽는다면 너무 오래 걸릴 것입니다.그래서 필요한 것이 벡터 데이터베이스(Vector Database)​입니다.이번 글에서는 벡터 데이터베이스가 무엇인지, 일반 데이터베이스와 무엇이 다른지, 그리고.. 2026. 8. 12.
21부 AI 임베딩이란 무엇인가? 컴퓨터가 단어의 의미를 숫자로 표현하는 방법 앞선 글에서 ChatGPT 같은 AI가 문장을 토큰(Token)​이라는 작은 단위로 나누어 처리한다는 것을 알아봤습니다.그런데 여기에서 새로운 궁금증이 생깁니다.“AI는 ‘고양이’와 ‘강아지’가 비슷한 개념이라는 것을 어떻게 알까?”또“자동차”와 “차량”처럼 표현은 다른데 의미가 비슷한 단어는 어떻게 연결할까?”컴퓨터는 사람처럼 단어의 느낌이나 의미를 직접 경험하지 않습니다.그래서 AI는 단어나 문장 같은 정보를 숫자들의 묶음으로 표현해서 계산합니다.이때 매우 중요한 개념이 바로 임베딩(Embedding)​입니다.이번 글에서는 임베딩이 무엇인지, 벡터는 무엇인지, 그리고 임베딩이 검색·추천·RAG에서 어떻게 활용되는지 쉽게 알아보겠습니다.임베딩(Embedding)이란 무엇인가?임베딩은 쉽게 말하면단어나 .. 2026. 8. 12.
반응형

티스토리툴바