반응형 전체 글2099 35부 프롬프트 엔지니어링이란 무엇인가? 같은 AI인데 질문에 따라 답이 달라지는 이유 ChatGPT를 사용하다 보면 이상한 경험을 할 때가 있습니다.같은 AI에게 질문했는데어떤 때는 만족스러운 답이 나오고,어떤 때는 너무 평범하거나 엉뚱한 답이 나옵니다.예를 들어 이렇게 질문해보겠습니다.“인공지능에 대해 설명해줘.”AI는 인공지능의 정의와 역사 등을 일반적으로 설명할 것입니다.그런데 질문을 조금 바꿔보겠습니다.“인공지능을 처음 배우는 중학생이 이해할 수 있도록 전문용어를 풀어서 설명하고, 스마트폰에서 사용하는 사례 3개를 포함해 5문단 이내로 작성해줘.”같은 AI를 사용했는데도 답변의 내용과 난이도, 구성은 상당히 달라질 수 있습니다.왜 그럴까요?AI가 답을 만들 때 우리가 제공한 지시와 맥락을 중요한 조건으로 사용하기 때문입니다.이처럼 AI가 원하는 결과를 더 안정적으로 만들도록 입력과.. 2026. 8. 13. 34부 RAG와 파인튜닝은 무엇이 다를까? 내 AI에 지식을 넣는 가장 좋은 방법 회사 전용 AI를 만든다고 생각해보겠습니다.AI가 다음 질문에 정확하게 답해야 합니다.“우리 회사 부모상 경조휴가는 며칠인가요?”또 회사에서는 이런 요구사항도 있습니다.“항상 친절한 상담원 말투로 3문장 이내에 답해야 한다.”두 가지 요구는 비슷해 보이지만 실제로는 서로 다른 문제입니다.첫 번째는AI가 어떤 정보를 참고해야 하는가?의 문제입니다.두 번째는AI가 어떻게 답해야 하는가?의 문제입니다.여기에서 등장하는 대표적인 기술이RAG(Retrieval-Augmented Generation)와Fine-tuning(파인튜닝)입니다.둘 다 AI의 답변을 개선하는 데 사용되지만 역할은 상당히 다릅니다. OpenAI의 현재 모델 최적화 가이드 역시 프롬프트 엔지니어링, 검색 기반 정보 제공, 파인튜닝 등을 서로 .. 2026. 8. 13. 오픈AI가 클로드·커서 사용자까지 끌어온다…ChatGPT ‘가져오기’ 기능이 무서운 진짜 이유 클로드 코드에서 몇 달 동안 프로젝트를 만들었습니다. 프로젝트별 지침을 세팅하고, MCP 서버를 연결하고, 자주 사용하는 스킬과 명령어도 만들어뒀습니다.그런데 어느 날 코덱스를 써보고 싶어졌습니다.문제는 AI 모델이 아닙니다.그동안 쌓아놓은 설정과 대화, 프로젝트 환경을 다시 만드는 일이 훨씬 귀찮습니다.이 때문에 개발자들은 AI 모델 성능이 마음에 들어도 쉽게 다른 서비스로 옮기지 못했습니다. 이메일이나 메신저를 바꾸는 것보다 개발 에이전트를 바꾸는 일이 더 복잡했던 이유입니다.오픈AI가 이 장벽을 정면으로 건드리기 시작했습니다.ChatGPT 데스크톱 앱과 Codex에 다른 AI 에이전트에서 사용하던 프로젝트와 설정, 최근 대화, 스킬과 플러그인 등을 가져오는 Import 기능을 확대하고 있습니다.Ch.. 2026. 8. 13. 33부 QLoRA란 무엇인가? 4비트로 압축한 거대한 AI를 적은 GPU 메모리로 파인튜닝하는 방법 앞선 글에서는 LoRA(Low-Rank Adaptation)를 알아봤습니다.LoRA의 핵심 아이디어는 간단했습니다.거대한 AI 모델 전체를 다시 학습하지 말고 기본 모델은 그대로 둔 채 작은 Adapter만 학습하자.그런데 LoRA에도 한 가지 문제가 남아 있습니다.기본 모델의 파라미터를 수정하지 않는다고 해도 거대한 기본 모델 자체를 GPU 메모리에 올려놓아야 하기 때문입니다.수십억 개의 파라미터를 가진 대규모 언어모델이라면 이것만으로도 상당한 GPU 메모리가 필요합니다.그렇다면 이런 방법은 어떨까요?“기본 모델 자체를 4비트로 작게 압축하고, 그 위에서 LoRA만 학습하면 어떨까?”바로 이 아이디어가 QLoRA입니다.QLoRA 연구는 4비트로 양자화한 사전학습 모델을 고정해두고 그 모델을 통해 역전.. 2026. 8. 13. 32부 LoRA란 무엇인가? 거대한 AI 전체를 다시 학습하지 않고 전문화하는 방법 앞선 글에서 AI 파인튜닝(Fine-tuning)을 살펴봤습니다.파인튜닝은 이미 학습된 AI 모델을 특정 업무나 목적에 맞게 추가 학습하는 방법입니다.그런데 문제가 있습니다.요즘 대규모 언어모델에는 엄청나게 많은 파라미터가 들어 있습니다.이 수많은 파라미터를 모두 다시 학습하려면많은 GPU,큰 GPU 메모리,긴 학습시간,많은 저장공간이 필요할 수 있습니다.그렇다면 이런 방법은 어떨까요?“거대한 AI 전체는 그대로 두고, 내가 바꾸고 싶은 부분만 작게 추가해서 학습하면 안 될까?”이 아이디어를 대표하는 기술이 바로 LoRA(Low-Rank Adaptation)입니다.LoRA는 사전학습된 모델의 기존 가중치는 고정하고, 작은 저랭크 행렬을 추가해 그 부분만 학습하는 파라미터 효율적 파인튜닝 방법입니다. .. 2026. 8. 13. 31부 AI 파인튜닝이란 무엇인가? 이미 학습된 인공지능을 내 목적에 맞게 바꾸는 방법 ChatGPT 같은 생성형 AI는 처음부터 다양한 주제에 대해 답할 수 있습니다.역사를 설명하고,글을 작성하고,번역하고,프로그래밍을 도와주고,문서를 요약할 수도 있습니다.그런데 기업이나 서비스에서는 조금 다른 AI가 필요할 수 있습니다.예를 들어 고객센터에서는“항상 우리 회사 상담원처럼 답하는 AI”가 필요할 수 있습니다.법률 분야에서는 특정 형식으로 문서를 분류하는 AI가 필요할 수 있고,쇼핑몰에서는 상품 설명을 항상 일정한 스타일로 만들어주는 AI가 필요할 수도 있습니다.이럴 때 등장하는 기술이 바로 파인튜닝(Fine-tuning)입니다.파인튜닝은 이미 많은 데이터를 학습한 AI 모델에 추가적인 데이터를 학습시켜 특정 작업이나 원하는 행동에 더 잘 맞도록 모델을 조정하는 방법입니다. OpenAI의 .. 2026. 8. 13. 이전 1 2 3 4 5 6 7 8 ··· 350 다음 반응형
