본문 바로가기
반응형

전체 글2099

20부 AI 토큰이란 무엇인가? ChatGPT가 글자를 숫자로 이해하는 방법 ChatGPT를 사용하다 보면 이런 말을 한 번쯤 보게 됩니다.토큰(Token)토큰 수입력 토큰출력 토큰컨텍스트 토큰처음 보면 암호화폐에서 사용하는 ‘토큰’을 떠올릴 수도 있습니다.하지만 생성형 AI에서 말하는 토큰은 전혀 다른 개념입니다.쉽게 말하면 AI가 글을 읽고 처리하기 위해 텍스트를 잘게 나눈 기본 단위입니다.OpenAI도 토큰을 모델이 처리하는 텍스트의 기본 구성 단위라고 설명합니다. 토큰은 상황과 언어에 따라 한 글자가 될 수도 있고 하나의 단어 전체가 될 수도 있으며, 단어의 일부나 문장부호도 토큰에 포함될 수 있습니다.그렇다면 왜 AI는 우리가 쓰는 문장을 그대로 읽지 않고 토큰이라는 작은 조각으로 나누는 걸까요?이번 글에서는 ChatGPT가 글을 어떻게 토큰으로 바꾸고, 토큰이 컨텍스트.. 2026. 8. 11.
19부 AI 컨텍스트 윈도우란? ChatGPT가 대화를 기억하는 범위 쉽게 알아보기 ChatGPT와 대화를 오래 하다 보면 이런 경험을 할 수 있습니다.처음에 알려준 조건을 잘 기억하다가 대화가 아주 길어지면 일부 내용을 놓치거나, 앞에서 정한 조건을 다시 설명해야 하는 경우입니다.반대로 꽤 오래 전에 이야기한 내용을 자연스럽게 이어서 답할 때도 있습니다.그래서 궁금해집니다.“ChatGPT는 대화를 어디까지 기억하는 걸까?”이 질문을 이해하려면 컨텍스트 윈도우(Context Window)​라는 개념을 알아야 합니다.이번 글에서는 컨텍스트 윈도우가 무엇인지, 토큰과 어떤 관계가 있는지, 그리고 ChatGPT의 ‘기억’과는 무엇이 다른지 쉽게 알아보겠습니다.컨텍스트 윈도우란 무엇인가?컨텍스트(Context)는 쉽게 말해 현재 답변을 만들 때 참고하는 정보입니다.윈도우(Window)는 창문이.. 2026. 8. 11.
18부 어텐션(Attention)이란 무엇인가? AI가 중요한 단어를 찾는 방법 쉽게 알아보기 ChatGPT에게 긴 문장을 입력해도 앞뒤 관계를 상당히 자연스럽게 파악합니다.예를 들어 다음 문장을 보겠습니다.“철수는 영희에게 책을 선물했다. 그녀는 집에 돌아가 그 책을 읽었다.”사람은 자연스럽게‘그녀’ = 영희라는 관계를 이해합니다.그런데 컴퓨터에게는 이것이 생각보다 어려운 문제입니다.문장에는 철수, 영희, 책, 그녀 등 여러 단어가 들어 있고 어떤 단어가 어떤 단어와 관련되어 있는지 계산해야 하기 때문입니다.이런 관계를 처리하는 데 핵심적인 역할을 하는 기술이 바로 어텐션(Attention)​입니다.오늘날 트랜스포머에서는 Attention을 중심으로 문장 속 여러 위치의 관계를 계산합니다. 2017년 발표된 「Attention Is All You Need」 논문은 순환신경망이나 합성곱을 중심에 .. 2026. 8. 11.
17부 트랜스포머란 무엇인가? ChatGPT가 문맥을 이해하는 핵심 기술 쉽게 알아보기 ChatGPT에게 긴 질문을 해도 앞뒤 내용을 연결해 꽤 자연스럽게 답합니다.예를 들어 이렇게 질문해보겠습니다.“철수는 영희에게 책을 주었다. 그녀는 집에 돌아가 책을 읽었다.”여기에서 ‘그녀’가 누구인지 사람은 자연스럽게 영희라고 이해합니다.AI에게는 이런 문맥을 파악하는 일이 생각보다 어렵습니다.그런데 오늘날 ChatGPT 같은 대규모 언어모델이 긴 문장과 대화를 처리할 수 있게 된 데에는 매우 중요한 기술이 있습니다.바로 트랜스포머(Transformer)​입니다.이번 글에서는 트랜스포머가 무엇인지, 어텐션은 어떤 역할을 하는지, 그리고 왜 ChatGPT 같은 생성형 AI의 핵심 기술이 되었는지 쉽게 알아보겠습니다.트랜스포머란 무엇인가?트랜스포머는 인간의 언어처럼 순서와 문맥이 중요한 데이터를 효과적.. 2026. 8. 11.
16부 인공지능의 역사, AI는 어떻게 지금까지 발전했을까? 쉽게 알아보기 요즘 우리는 ChatGPT에게 질문하고, AI로 그림을 만들고, 스마트폰에서 실시간 번역을 사용합니다.자동차는 주변 차량과 보행자를 인식하고, 유튜브와 넷플릭스는 우리가 좋아할 만한 콘텐츠를 추천합니다.불과 몇 년 사이에 AI가 갑자기 등장한 것처럼 느껴질 수 있습니다.하지만 인공지능의 역사는 생각보다 훨씬 오래되었습니다.오늘날의 생성형 AI가 나오기까지는 수십 년 동안 수많은 연구와 실패, 기술 발전이 반복되었습니다.이번 글에서는 인공지능의 탄생부터 머신러닝, 딥러닝, 그리고 ChatGPT 같은 생성형 AI까지 AI가 어떻게 발전해왔는지 쉽게 알아보겠습니다.인공지능이라는 생각은 어디에서 시작됐을까?사람은 오래전부터“기계가 사람처럼 생각할 수 있을까?”라는 질문을 해왔습니다.하지만 현대적인 인공지능 연구.. 2026. 8. 11.
15부 AI가 학습한다는 것은 무슨 뜻일까? 머신러닝 학습 원리를 쉽게 알아보기 AI 관련 이야기를 듣다 보면 이런 표현이 자주 등장합니다.“AI가 데이터를 학습했다.”“더 많은 데이터를 학습하면 성능이 좋아진다.”“AI 모델을 다시 학습시켜야 한다.”그런데 여기서 말하는 ‘학습’은 사람이 책을 읽고 내용을 이해하는 것과 같은 의미일까요?AI는 실제로 공부를 하고 기억을 쌓는 걸까요?결론부터 말하면 AI의 학습은 사람이 공부하는 과정과는 매우 다릅니다.AI는 데이터를 반복해서 처리하면서 예측 결과와 정답의 차이를 계산하고, 그 차이를 줄이는 방향으로 내부의 숫자값을 조정합니다.이번 글에서는 머신러닝과 딥러닝에서 말하는 AI 학습이 실제로 무엇을 의미하는지 초보자도 이해할 수 있도록 쉽게 알아보겠습니다.AI가 학습한다는 말은 무슨 뜻일까?AI의 학습을 가장 쉽게 설명하면 다음과 같습니.. 2026. 8. 11.
반응형

티스토리툴바