AI가 어떻게 돌아가는지, 어디서부터 알아야 할까?

챗GPT나 클로드에 질문을 던지면 답은 술술 나옵니다. 그런데 조금만 깊이 들어가면 어제 뉴스는 모른다고 하고, 대화가 길어지면 앞에서 한 말을 잊어버리고, 어떤 질문에는 아예 답변을 거부합니다. 겉보기에는 서로 다른 세 가지 고장 같지만, 사실은 AI가 만들어지고 굴러가는 방식이라는 하나의 뿌리에서 나온 현상입니다.

AI를 잘 쓰는 사람과 그렇지 않은 사람을 가르는 것은 화려한 프롬프트 기술이 아니라 이 뿌리를 이해했는지 여부입니다. 지식 컷오프가 왜 생기는지 알면 최신 정보가 필요한 질문에는 검색을 붙여야 한다는 판단이 저절로 서고, 컨텍스트 윈도우를 알면 대화가 엉키기 전에 새 창을 여는 습관이 생깁니다. 모델마다 가격과 속도가 왜 그렇게 차이 나는지 알면, 요약 한 줄을 뽑는 데 최고가 모델을 붙이는 낭비도 하지 않게 됩니다.

그래서 이 블로그의 AI 이해하기 분류는 네 갈래로 나눠 두었습니다. 안에서 실제로 벌어지는 일을 다루는 작동 원리, 겉으로 드러나는 행동과 한계, 헷갈리는 용어의 경계, 그리고 무엇을 고를지 정하는 모델 비교입니다. 아래에서 각 갈래가 어떤 질문에 답하는지 짚고, 해당하는 글을 전부 모아 두었습니다.

AI 작동 원리 — 겉으로 보이지 않는 안쪽 사정

AI가 답을 만드는 과정에는 사용자가 직접 볼 수 없는 제약이 여럿 걸려 있습니다. 학습이 끝난 시점 이후를 모른다는 지식 컷오프, 한 번에 들고 있을 수 있는 대화량의 상한인 컨텍스트 윈도우, 답하기 전에 얼마나 오래 생각할지를 정하는 추론 수준 같은 것들입니다. 이 제약들은 고장이 아니라 설계상의 선택이라, 알고 나면 질문을 어떻게 던져야 하는지에 대한 감이 생깁니다. 가장 흔한 오해는 웹검색만 붙이면 컷오프가 사라진다는 생각인데, 검색 결과를 읽어내는 능력과 모델이 원래 몸에 지닌 지식은 서로 다른 층에 있습니다.

AI는 인터넷에 연결돼 있는데 지식 컷오프는 왜 생길까? — 웹검색을 붙여도 컷오프가 남는 이유
AI가 아는 가장 오래된 지식은 어디까지 올라갈까? — 컷오프의 반대쪽 경계
컨텍스트가 다 차면 AI는 왜 무용지물이 될까? — 긴 대화가 무너지는 지점
추론 수준(effort)과 딥싱크는 무슨 뜻이고 언제 올려야 할까 — 더 오래 생각시키는 스위치
AI가 더 똑똑해졌다는 말은 무슨 기준일까 — 벤치마크를 누가 어떻게 재는지
GGUF·MLX 로컬 LLM 파일과 Q4_K_M의 뜻 — 같은 모델 용량이 4GB부터 14GB까지 갈리는 이유
이미지 AI는 JPG·PNG·WEBP를 가리지 않고 인식할까? — 확장자와 모델 입력의 관계

AI 행동과 한계 — 거부하고 아첨하고 서두르는 이유

AI를 오래 쓰다 보면 성능 문제라기보다 성격 문제처럼 느껴지는 순간이 옵니다. 멀쩡한 질문에 답을 거부하고, 근거가 약한 의견에도 일단 좋다고 맞장구를 치고, 작업이 남았는데 다 됐다며 마무리하는 식입니다. 이런 행동은 대부분 학습 과정에서 사람이 매긴 선호와 안전장치가 만들어낸 부작용이라, 출처를 알면 대응하는 방법도 달라집니다. 예를 들어 아첨하는 답이 나오는 상황을 알면 의견을 먼저 밝히지 않고 묻는 쪽이 낫다는 결론에 이르게 됩니다. 이 갈래는 그런 행동이 어디서 비롯되는지와, AI가 스스로 넘지 못하는 한계선이 어디인지를 함께 살펴봅니다.

뭐든지 아는 AI가 특정 질문에만 답변을 거부하는 이유 — 거절이 만들어지는 지점
칭찬부터 하고 보는 AI, 아첨일까 진심일까? — 사용자 선호 학습의 부작용
작업이 남았는데 서둘러 끝내는 AI, 정말 농땡이일까? — 조기 종료가 나오는 조건
로컬 LLM은 시간이 지나면 결국 쓸모없어질까? — 학습을 못 시키는 모델의 수명
AI가 평가 문제를 다 풀어버리면 그다음엔 누가 평가할까? — 벤치마크 포화 이야기

AI 용어 정리 — 비슷해 보이는 말의 경계

뉴스와 광고에 나오는 AI 용어는 서로 겹치는 부분이 많아서, 다른 말인데 같은 뜻으로 쓰이거나 같은 말인데 다르게 쓰입니다. 생성형 AI와 AI 에이전트는 답을 만든다와 스스로 일을 진행한다로 갈리고, 피지컬 AI는 그 판단을 로봇처럼 물리 세계에서 실행하는 쪽입니다. 용어를 정확히 알아야 하는 이유는 시험 때문이 아니라, 어떤 제품이 실제로 무엇을 해주는지를 광고 문구에서 걸러내기 위해서입니다. 그래서 이 갈래의 글은 용어를 하나씩 정의하는 대신 늘 두 개 이상을 나란히 놓고 경계선을 그어 보이는 방식으로 씁니다.

생성형 AI·AI 에이전트·피지컬 AI는 뭐가 어떻게 다를까? — 세 용어를 한자리에 놓고 비교
AI 에이전트와 생성형 AI의 차이 — 답을 만든다와 스스로 한다
피지컬 AI는 생성형 AI와 뭐가 다를까? — 물리적 환각이라는 개념까지
생성 AI·생성형 AI·대화형 AI는 다 같은 말일까? — 비슷한 표기의 정리
시리·빅스비와 챗GPT는 같은 AI일까? — 음성 비서와 생성형 모델의 구조 차이
모델 이름에 붙는 MoE·Instruct·Distill·멀티모달의 뜻 — 이름만 보고 성격을 읽는 법

AI 모델 비교 — 어떤 작업에 무엇을 붙일까

모델을 고르는 일은 이제 가장 좋은 것 하나를 찾는 문제가 아니라, 작업에 맞는 급을 고르는 문제가 됐습니다. 같은 회사 안에서도 최상위 모델과 경량 모델의 가격이 몇 배씩 차이 나고, 속도와 정확도 중 무엇을 포기할지가 티어를 나누는 기준이 됩니다. 대량 요약이나 초안 작성처럼 반복이 많은 작업에 최상위 모델을 쓰면 비용만 늘고 체감 품질은 거의 그대로인 경우가 많습니다. 여기서 가장 흔한 오해는 비싼 모델일수록 언제나 더 정확하다는 생각인데, 짧고 정형화된 작업에서는 티어를 올려도 결과가 거의 같고 응답만 느려지는 경우가 많습니다.

GPT-5.6 솔·테라·루나는 뭐가 다를까 — 티어별 가격과 성능 비교
GPT-5.6 솔(Sol) — 최상위 티어와 멀티에이전트 모드
GPT-5.6 테라(Terra) — 비용 절반의 일상용 중간 티어
GPT-5.6 루나(Luna) — 요약·대량 자동화용 최저가 모델
클로드 페이블 5와 미소스 5의 차이 — 무료 개방 기간까지

어떤 순서로 읽으면 좋을까

처음이라면 원리 한 편, 한계 한 편, 용어 한 편을 먼저 읽고 모델 비교로 넘어가는 순서를 권합니다. 이 네 편을 먼저 읽어 두면 나머지 글이 훨씬 빨리 읽힙니다.

AI는 인터넷에 연결돼 있는데 지식 컷오프는 왜 생길까? — 최신 정보를 모르는 이유부터
뭐든지 아는 AI가 특정 질문에만 답변을 거부하는 이유 — 못 하는 게 아니라 안 하는 경우
생성형 AI·AI 에이전트·피지컬 AI는 뭐가 어떻게 다를까? — 용어 지도 한 장
GPT-5.6 솔·테라·루나는 뭐가 다를까 — 작업에 맞는 모델 고르기

AI는 마법 상자가 아니라 제약이 분명한 도구입니다. 무엇을 못 하는지 알고 나면 할 수 있는 일을 훨씬 정확하게 시킬 수 있습니다. 지금 쓰고 계신 AI에 오늘 날짜를 한번 물어보십시오. 어떻게 답하는지만 봐도 이 분류가 왜 컷오프 이야기부터 시작하는지 바로 와닿습니다.