챗봇 창은 인터넷 브라우저 안에 떠 있습니다. 질문을 던지면 몇 초 만에 답이 돌아오고, 어떤 모델은 검색까지 해서 링크를 붙여 줍니다. 그런데 같은 모델에게 “오늘 며칠이야?”라거나 “지난달에 나온 그 제품 어때?”라고 물으면 엉뚱한 답을 내놓는 일이 여전히 벌어집니다. 온라인에서 쓰는 도구인데 왜 특정 시점 이후를 모른다는 걸까요. 지식 컷오프(knowledge cutoff)가 무엇이고, 웹검색을 붙여도 왜 완전히 사라지지 않는지 정리했습니다.
목차
컷오프는 ‘접속’의 문제가 아니라 ‘학습’의 문제입니다
가장 흔한 오해가 여기서 시작됩니다. AI가 인터넷에 연결되어 있으니 인터넷의 최신 정보를 알고 있을 거라는 생각입니다. 하지만 언어 모델이 답을 만들어 내는 능력은 이미 학습이 끝난 시점에 고정된 가중치에서 나옵니다. 접속은 답을 전달하는 통로일 뿐, 지식이 흘러 들어오는 통로가 아닙니다.
비유하자면 이렇습니다. 아주 방대한 책을 통째로 읽고 시험장에 들어간 학생이 있습니다. 시험장에는 와이파이가 됩니다. 하지만 와이파이가 된다고 해서 학생의 머릿속 지식이 저절로 갱신되지는 않습니다. 검색해서 찾아본 내용을 답안지에 옮겨 적을 수는 있어도, 그건 ‘아는 것’이 아니라 ‘보고 베낀 것’입니다. 그리고 시험장에서 급하게 찾아본 자료와 머릿속에 확신처럼 박혀 있는 지식이 충돌하면, 사람도 AI도 머릿속 확신 쪽으로 기울기 쉽습니다.
모델의 지식은 사전학습(pre-training) 데이터의 스냅샷입니다. 어느 시점까지의 웹 문서, 책, 코드를 대규모로 긁어모아 한 덩어리로 만든 뒤 학습을 돌립니다. 그 수집이 끝난 날짜가 바로 지식 컷오프입니다. 학습이 끝나면 수천억 개의 매개변수는 그대로 얼어붙고, 이후에는 아무리 많이 대화해도 그 값은 바뀌지 않습니다.
왜 매일 새로 학습시키지 않을까요
“그럼 매일 조금씩 업데이트하면 되지 않나”라는 질문이 자연스럽게 따라옵니다. 그렇게 하지 않는 데는 네 가지 이유가 있습니다.
1. 재학습 비용이 압도적입니다
대형 모델 하나를 학습시키는 데는 수천 장의 GPU를 수 주에서 수개월간 돌리는 연산이 들어갑니다. 뉴스 한 건이 추가됐다고 이 과정을 다시 밟는 것은 경제적으로 성립하지 않습니다.
2. 스냅샷이어야 재현과 검증이 가능합니다
학습 데이터가 매 순간 바뀌면 “이 모델이 왜 이렇게 답했는가”를 추적할 수 없습니다. 특정 시점의 데이터를 고정해 두어야 필터링·중복 제거·정제 같은 전처리를 일관되게 적용하고, 성능 평가와 안전성 검증을 재현할 수 있습니다.
3. 치명적 망각(catastrophic forgetting)
기존 모델에 새 데이터를 계속 밀어 넣으면, 새로 배운 것 때문에 이미 잘하던 것을 잊어버리는 현상이 발생합니다. 최신 뉴스를 몇 건 외우는 대가로 수학 실력이 떨어지는 식의 손해가 날 수 있습니다. 그래서 학습이 끝난 가중치는 고정해 두고, 필요하면 일부만 손대는 미세 조정(fine-tuning) 방식을 씁니다.
4. 요즘 인터넷에는 AI가 쓴 글이 너무 많습니다
최신 웹 데이터를 그대로 다시 학습에 넣으면, AI가 생성한 문서를 AI가 다시 학습하는 순환이 생깁니다. 이런 데이터를 걸러 내는 작업 자체가 또 하나의 큰 과제라 수집과 정제에 다시 시간이 걸립니다. 컷오프 날짜와 실제 출시일 사이에 보통 6개월에서 18개월의 간격이 생기는 이유이기도 합니다.
웹검색을 붙였는데도 왜 틀린 답이 나올까요
요즘 주요 챗봇은 대부분 검색 도구를 함께 씁니다. 이 구조를 흔히 RAG(Retrieval-Augmented Generation, 검색 증강 생성)라고 부릅니다. 질문이 들어오면 먼저 검색해서 문서를 몇 개 가져오고, 그 내용을 프롬프트에 끼워 넣은 뒤 모델이 답을 씁니다. 컷오프 문제를 상당 부분 완화하는 것은 사실입니다. 다만 완전히 없애지는 못합니다. 이유는 이렇습니다.
검색 결과가 모델의 기존 지식과 충돌하면 옛 지식이 이깁니다
가장 골치 아픈 대목입니다. 이를 파라메트릭 지식 충돌이라고 합니다. 모델의 가중치 안에는 “A사의 최신 제품은 X”라는 정보가 확신에 가까운 형태로 박혀 있습니다. 검색으로 “이제는 Y가 최신”이라는 문서가 들어와도, 모델이 검색 결과를 충분히 신뢰하지 않거나 두 정보를 뒤섞어 버리면 낡은 답이 그대로 나옵니다. 검색을 했다는 사실과 검색 결과를 따랐다는 사실은 다릅니다.
검색 색인에도 시차가 있습니다
검색 엔진 역시 세상의 모든 정보를 실시간으로 반영하지 못합니다. 오늘 올라온 공지가 색인되기까지는 시간이 걸립니다. 즉 모델의 컷오프와 별개로 검색 시스템 자체의 컷오프가 하나 더 존재하는 셈입니다.
검색이 항상 성공하는 것도 아닙니다
질문이 모호하면 검색어 자체가 빗나갑니다. 관련 문서가 웹에 아예 없거나, 상위에 노출된 문서가 오래된 글일 수도 있습니다. 그리고 가져온 문서가 부실할 때 모델이 “자료가 없습니다”라고 솔직하게 답하는 대신 그럴듯하게 지어내는 환각(hallucination)이 남아 있습니다.
모델이 말하는 자기 컷오프 날짜도 정답이 아닙니다
“너 언제까지 알아?”라고 물어보면 모델은 특정 연월을 답합니다. 그런데 이 답이 실제와 어긋나는 경우가 관측됩니다. 연구자들은 모델이 보고하는 날짜와, 실제로 그 시기의 지식을 제대로 갖추고 있는 시점을 구분해 후자를 유효 컷오프(effective cutoff)라고 부릅니다.
왜 어긋날까요. 학습 데이터가 특정 날짜까지 수집됐다고 해서, 마지막 몇 달치 문서가 앞선 시기만큼 충분히 쌓여 있는 것은 아니기 때문입니다. 어떤 사건이 벌어지고 그에 관한 문서와 해설이 웹에 충분히 축적되기까지는 시간이 걸립니다. 그래서 컷오프 직전 몇 달의 지식은 얇고 흐릿한 경우가 많습니다. 명목상 컷오프가 1월이어도, 실제로 믿을 만한 지식은 그보다 몇 달 앞에서 끝나 있을 수 있다는 뜻입니다.
여기에 더해, 모델은 자기 자신을 학습한 적이 없습니다. 자기 컷오프 날짜에 관한 정보는 시스템 프롬프트로 주입되거나 학습 데이터에서 추측될 뿐이라, 모델이 스스로 밝히는 날짜를 근거로 삼는 것은 위험합니다.
2026년 7월 기준 주요 모델의 컷오프
아래는 2026년 7월 현재 공개된 자료를 정리한 것입니다. 벤더가 예고 없이 갱신하거나 같은 모델군 안에서도 버전별로 달라지므로, 실제 업무에 쓸 때는 반드시 각 사의 공식 모델 문서에서 다시 확인하시기 바랍니다.
| 모델 | 공개된 지식 컷오프 | 확인처 |
|---|---|---|
| Claude Opus 4.8 / Sonnet 5 | 2026년 1월 | Anthropic 모델 개요 |
| Claude Opus 4.6 / Sonnet 4.6 | 2025년 8월 | 동일 |
| GPT-5.5 | 2025년 12월 | OpenAI 모델 문서 |
| GPT-5.6 (2026년 7월 9일 출시) | 공식 수치 미확인 | 동일 |
| Gemini 3.1 Pro | 2025년 1월 | Google Gemini 모델 문서 |
표를 보면 흥미로운 사실이 하나 드러납니다. 출시가 가장 최근인 모델이 반드시 가장 최신 지식을 가진 것은 아니라는 점입니다. 어떤 모델은 검색 통합에 무게를 두고 사전학습 지식의 최신성은 상대적으로 덜 챙기기도 합니다. 이 표에 적힌 날짜가 지금 이 글을 읽는 시점에 이미 낡았을 수 있다는 사실 자체가, 이 글이 말하려는 바를 그대로 보여 줍니다.
컷오프에 당하지 않고 AI를 쓰는 방법
구조를 알면 대응은 단순해집니다. 다음 다섯 가지가 실질적으로 효과가 있습니다.
오늘 날짜를 직접 알려 주십시오
“오늘은 2026년 7월 13일입니다”라고 먼저 못 박으면, 모델이 “최근”이나 “올해”를 자기 컷오프 기준으로 해석하는 사고를 막을 수 있습니다. 날짜 계산이 걸린 질문에서 특히 중요합니다.
원문을 직접 붙여 넣으십시오
가장 확실한 방법입니다. 약관, 공고문, 보도자료, 코드 문서를 통째로 대화창에 넣으면 모델은 검색에 의존하지 않고 눈앞의 문서를 근거로 답합니다. 이때는 “제공된 문서에 없는 내용은 추측하지 말고 없다고 답하라”는 지시를 함께 넣으십시오.
출처와 날짜를 요구하십시오
“각 주장마다 출처 링크와 그 문서의 작성일을 함께 표기하라”고 지시하면, 모델이 옛 기억으로 답하는지 검색 결과로 답하는지 구분할 수 있습니다. 날짜를 대지 못하는 주장은 일단 의심하시면 됩니다.
최신성이 중요한 질문은 검색을 명시적으로 시키십시오
“먼저 검색한 뒤 답하라”는 한 줄이 실제로 동작을 바꿉니다. 가격, 인사, 버전, 법령, 일정처럼 시간이 지나면 답이 뒤집히는 주제에서는 이 지시를 습관화하는 편이 좋습니다.
버전과 가격은 항상 원본에서 재확인하십시오
소프트웨어 버전, 요금제, 정부 지원금 액수, 마감일처럼 숫자로 확정되는 정보는 AI의 답을 초안으로만 쓰고 공식 페이지에서 눈으로 확인하는 절차를 넣으십시오. AI가 가장 자신 있게, 그리고 가장 자주 틀리는 영역이 바로 이 숫자들입니다.
자주 묻는 질문
대화 내용을 기억하는 것 같은데, 그건 학습이 아닌가요?
학습이 아닙니다. 대화 기록은 컨텍스트 창이라는 작업 공간에 임시로 올려 두는 것이고, 일부 서비스는 이를 메모리 기능으로 파일에 저장해 다음 대화에 다시 넣어 줍니다. 어느 쪽이든 모델의 가중치는 그대로입니다. 책상 위에 자료를 올려 두는 것과 머릿속에 지식이 들어오는 것은 다릅니다.
검색 기능을 켜면 컷오프는 신경 안 써도 되나요?
완화되지만 사라지지는 않습니다. 검색 색인의 시차, 검색 실패, 그리고 앞서 설명한 파라메트릭 지식 충돌이 남습니다. 특히 모델이 “확실히 안다”고 느끼는 주제일수록 검색 결과를 무시하고 옛 지식으로 답할 위험이 커집니다.
컷오프가 늦은 모델일수록 무조건 좋은가요?
아닙니다. 컷오프는 모델을 고르는 여러 기준 중 하나일 뿐입니다. 추론 능력, 코딩 성능, 컨텍스트 길이, 속도, 가격이 모두 함께 고려되어야 합니다. 최신 정보가 필요한 작업이라면 컷오프가 늦은 모델을 고르기보다, 검색이나 원문 첨부로 최신 정보를 넣어 주는 편이 훨씬 확실합니다.
왜 AI는 모른다고 하지 않고 지어낼까요?
언어 모델은 사실을 조회하는 장치가 아니라 다음에 올 말을 확률적으로 예측하는 장치이기 때문입니다. 그럴듯한 문장을 만드는 능력과 사실을 아는 능력이 분리되어 있어서, 모르는 영역에서도 문장은 매끄럽게 나옵니다. 그래서 “모르면 모른다고 답하라”는 지시를 명시적으로 주는 것이 의미가 있습니다.
마무리
지식 컷오프는 버그가 아니라 지금 언어 모델이 만들어지는 방식의 구조적 결과입니다. 방대한 데이터를 한 시점에 얼려 학습시키고, 그 가중치를 고정한 채 서비스하기 때문에 생기는 필연적인 경계선입니다. 웹검색과 RAG는 이 경계선을 흐리게 만들지만 지우지는 못합니다.
그래서 실용적인 태도는 이렇습니다. AI를 모든 것을 아는 백과사전이 아니라, 자료를 주면 아주 잘 읽고 정리해 주는 유능한 조수로 대하는 것입니다. 최신 정보가 걸린 질문일수록 판단을 맡기지 말고 근거를 손에 쥐여 주십시오. 그것이 컷오프라는 구조를 이해한 사람이 얻는 가장 큰 이점입니다.