AI 코딩 대화가 길어져 엉뚱한 답을 할 때: 파일로 저장하고 새 대화로 이어 가는 법

AI 코딩 대화가 길어져서 엉뚱한 답이 나오기 시작하면 같은 대화에서 계속 고쳐 달라고 하지 마세요. 지금까지 한 일과 남은 일을 파일 하나에 저장하게 한 뒤 새 대화를 열고 그 파일부터 읽게 하는 게 가장 확실합니다. 클로드 코드(Claude Code)는 /clear, 코덱스(Codex)는 /new로 새 대화를 열고, 하던 일을 같은 대화에서 꼭 이어 가야 할 때만 /compact로 앞부분을 요약해 자리를 비웁니다.

저는 컨텍스트가 3040% 정도 차면 그 세션을 한 번 정리합니다. 진행 상황을 문서로 저장하라고 시키고, 다음 세션은 토큰이 0인 상태에서 그 문서를 읽고 시작해요. 3040%는 공식 권장치가 아니라 제가 안전하게 잡은 기준입니다. 공식 문서와 도움말은 2026년 10월 30일에 다시 읽고 대조했습니다.

대화가 길어지면 왜 엉뚱해지나요

AI는 대화를 사람처럼 기억하지 않습니다. 매번 지금까지의 대화 전체를 다시 읽고 답해요. 한 번에 읽을 수 있는 양이 컨텍스트 윈도우이고 단위는 토큰입니다. 클로드 코드에서 쓰는 Opus 5.5처럼 100만 토큰짜리 창을 가진 모델도 있지만 창이 크다고 다 잘 읽는 건 아닙니다.

클로드 코드 풀코스 영상에서도 이렇게 말했어요. "1M이라고 해도 기억을 잘 못해요." 토큰이 점점 차다가 끝까지 다 차면 중간중간 기억을 못 합니다. 저는 이걸 "바보가 된다"고 표현해요.

연구도 같은 방향을 가리킵니다. Lost in the Middle(2023)은 필요한 정보가 긴 입력의 처음이나 끝에 있을 때 성능이 가장 좋고 중간에 있을 때 크게 떨어진다고 보고했습니다. Chroma의 Context Rot(2025년 7월) 보고서는 18개 모델을 시험해 입력이 길어질수록 결과가 점점 불안정해진다고 적었어요. 두 연구 모두 지금 쓰는 최신 모델이 아니라 당시 모델로 잰 결과입니다. OpenAI의 Codex 서브에이전트 문서도 메인 대화에 탐색 메모, 테스트 로그, 명령 출력 같은 중간 결과가 쌓이면 대화가 점점 덜 믿을 만해진다며 이 보고서를 연결해 두었습니다.

클로드 코드 쪽 설명은 조금 다릅니다. 모범 사례 문서는 지금은 대부분의 모델이 100만 토큰 창을 쓰고 압축도 알아서 되니 컨텍스트가 바닥나는 일은 드물다고 적었어요. 그래도 작업이 바뀔 때 /clear로 비우는 건 여전히 할 만하다고 합니다. 집중된 컨텍스트가 더 나은 답을 주고 비용도 덜 들기 때문이에요. 창이 넘칠 걱정보다 쓸데없는 이야기가 섞여 답이 흐려지는 쪽을 걱정하면 됩니다.

이런 신호가 보이면 정리할 때입니다

• 대화 초반에 정한 규칙(색, 파일 위치, 말투)을 어기기 시작합니다.
• 이미 고친 파일을 다시 고치겠다고 하거나 아까 버린 방법을 다시 제안합니다.
• 같은 문제를 두 번 고쳐 달라고 했는데도 여전히 틀립니다.
• 오늘 하려던 일과 상관없는 이야기가 대화에 많이 쌓였습니다.

세 번째 신호에 대해서는 클로드 코드 모범 사례 문서가 기준을 줍니다. 같은 것을 두 번 고쳤는데도 틀리면 세 번째로 고치는 대신 /clear로 비우고, 지금까지 알게 된 것을 담은 새 요청 하나를 쓰라고 해요. 세 번째 수정은 실패한 시도 두 번이 이미 들어 있는 대화에 또 쌓일 뿐이라는 설명입니다.

문서로 저장하고 새 대화로: 네 단계

도구가 달라도 순서는 같습니다.

1. 얼마나 찼는지 봅니다. 클로드 코드는 /context로 무엇이 얼마나 자리를 차지하는지 봅니다. 코덱스는 CLI와 ChatGPT 데스크톱 앱 모두 /status에 컨텍스트 사용량이 나와요.
2. 진행 상황을 파일에 저장하게 합니다. 아래 요청을 그대로 붙여 넣으면 됩니다.
3. 새 대화를 엽니다. 클로드 코드는 /clear, 코덱스는 /new나 /clear입니다.
4. 새 대화의 첫 메시지로 그 파일을 읽게 합니다.

저장할 때 붙여 넣는 요청은 이렇게 씁니다.

지금까지 한 작업을 TASK.md에 정리해 줘.
- 오늘 할 일을 번호 목록으로 쓰고, 끝난 항목은 [x], 남은 항목은 [ ]로 표시해 줘.
- 지금까지 정한 규칙과 결정, 그 이유를 따로 적어 줘.
- 건드린 파일 경로와 아직 확인 못 한 것도 적어 줘.
- 다음 대화에서 이 파일만 읽고 바로 이어서 할 수 있게 써 줘.

저는 이런 태스크 문서를 꾸준히 관리합니다. 오늘 할 일이 1번부터 10번까지인데 5번에서 끝날 수도 있잖아요. 그러면 1번부터 5번까지는 체크해서 기록해 두고 다음에 6번부터 시작할 수 있게 저장하는 거죠. 저장된 파일은 대략 이런 모양입니다(예시).

# TASK.md

## 오늘 할 일
- [x] 1. 문의 폼 입력칸 정리
- [x] 2. 전화번호 형식 검사
- [x] 3. 제출 버튼 비활성 상태
- [x] 4. 제출 뒤 안내 문구
- [x] 5. 모바일 화면 확인
- [ ] 6. 관리자 메일 알림
- [ ] 7. 개인정보 동의 문구
...

## 정한 것
- 버튼 색은 기존 파란색 그대로 둔다(디자인 파일 기준).
- 전화번호는 하이픈 없이 저장한다.

## 다음에 볼 것
- 6번은 메일 발송 키가 필요하다. 키는 직접 넣는다.

새 대화의 첫 메시지는 한 줄이면 됩니다.

TASK.md를 읽고 남은 항목 6번부터 이어서 해 줘. 시작하기 전에 네가 이해한 현재 상태를 세 줄로 먼저 말해 줘.

마지막 문장은 AI가 파일을 제대로 읽었는지 확인하는 용도입니다. 세 줄 요약이 파일 내용과 다르면 그 자리에서 바로잡으면 돼요. 작업을 여러 단계로 나눠 파일로 넘기는 방식은 긴 AI 작업을 스킬과 확인 지점으로 나누는 법에 더 자세히 적었습니다.

같은 대화를 이어 가야 할 때: /compact

하던 일이 아직 안 끝났는데 대화가 길어졌다면 컨텍스트 압축을 씁니다. /compact는 지금까지의 대화를 요약본으로 바꿔 자리를 비워요. 클로드 코드와 코덱스 모두 이 명령이 있고 한도에 가까워지면 알아서 압축하기도 합니다.

다만 요약은 원문이 아닙니다. 예전 바이브 코딩 입문 영상에서도 말했듯이 압축하고 나면 정보가 빠질 수밖에 없어서 같은 말을 다시 해 줘야 하는 부분이 생깁니다. 가끔은 맥락을 거의 다 잃어서 다시 만들어 줘야 할 때도 있어요. 그래서 중간중간 파일에 저장해 두는 방식으로 보완합니다. 클로드 코드 동작 문서도 요약이 요청과 주요 코드 조각은 남기지만 대화 초반의 자세한 지시는 빠질 수 있다고 적었어요.

클로드 코드에서 압축 다루기

• 남길 것을 지시합니다. /compact 문의 폼 검증 규칙과 남은 할 일은 그대로 남겨 줘처럼 쓰면 자동 압축이 중요하다고 짐작한 것 대신 내가 고른 것을 요약에 남깁니다(컨텍스트 문서).
• 자동 압축 시점을 앞당길 수 있습니다. 따로 정하지 않으면 100만 토큰 창을 쓰는 모델(Fable, Sonnet 5 이후, Haiku 5.5, Opus 4.7 이후)은 약 96만 7천 토큰에서 자동 압축합니다. /autocompact 400k처럼 입력하면 그 모델은 40만 토큰에서 압축해요. 10만에서 100만 토큰 사이로 정할 수 있고 /autocompact auto로 되돌립니다(모델 설정 문서).
• 압축 뒤에도 남는 것이 있습니다. 프로젝트 맨 위 CLAUDE.md와 자동 메모리는 디스크에서 다시 읽어 넣습니다. 그 대화에서 읽거나 고친 파일 중 가장 최근에 바뀐 것도 최대 다섯 개까지 다시 읽어요. 그래서 오래 지켜야 할 규칙은 대화가 아니라 CLAUDE.md에 적어 두는 게 안전합니다.
• 대화 일부만 요약할 수도 있습니다. /rewind에서 메시지를 고르고 Summarize from here나 Summarize up to here를 고릅니다.

/compact도 공짜는 아닙니다. 요약하려면 긴 대화를 한 번 다 읽어야 해서 긴 세션에서는 그 자체로 큰 요청이에요. 사용량을 줄이는 다른 방법은 Claude Code 비용 줄이는 법에 모았습니다.

코덱스에서 압축 다루기

코덱스는 CLI, ChatGPT 데스크톱 앱, IDE 확장 모두 /compact를 씁니다(CLI 명령 문서, 데스크톱 앱 명령 문서). CLI에서는 입력한 뒤 요약할지 한 번 더 묻습니다. 자동 압축 시점은 config.toml의 model_auto_compact_token_limit로 바꿀 수 있고, 비워 두면 모델 기본값을 따릅니다(설정 문서). 참고로 GPT-6.1 Sol은 코덱스에서 기본 50만 토큰 창을 씁니다(모델 문서).

새 대화는 /new(터미널 화면은 그대로)나 /clear(화면도 지움)로 엽니다. 둘 다 /new 문의 폼처럼 이름을 붙일 수 있어서 나중에 /resume으로 찾기 쉬워요.

도구별 명령 한눈에 보기

ChatGPT·Claude 채팅에서는 이렇게 합니다

코딩 도구가 아니라 ChatGPT 채팅에서 작업하다가 막혀도 원리는 같습니다. ChatGPT 도움말에 따르면 "Context window full"이나 "Chat memory full" 알림은 지금 대화에서 쓸 수 있는 정보량이 찼다는 뜻입니다. 내 메시지와 ChatGPT의 답이 모두 자리를 차지해서 긴 대화 몇 번이 짧은 대화 여러 번보다 빨리 찰 수 있어요. 대화마다 한도가 따로라서 메모리를 끄거나 다른 대화를 지울 필요는 없습니다.

알림에서 요약과 함께 새 채팅을 시작할 수 있는데, 도움말은 이 요약이 앞에서 준 지시나 내가 쓴 문장의 정확한 표현을 빠뜨릴 수 있다고 적었습니다. 그래서 원고를 다듬던 중이라면 고칠 부분을 새 채팅에 직접 붙여 넣고 어디서부터 이어 갈지 말하라고 권해요. 원래 대화는 더 보낼 수 없어도 읽을 수는 있으니 필요한 부분을 복사해 오면 됩니다. 대화가 길어서 답이 느리거나 멈출 때도 오류 도움말의 첫 해결책이 새 채팅입니다.

Claude 앱은 사용량·길이 한도 도움말 기준으로 코드 실행을 켠 사용자에게 긴 대화를 자동으로 관리해 줍니다. 한도에 가까워지면 앞부분을 요약하고 대화를 이어 가요. 다만 이렇게 길어진 대화는 사용 한도를 더 쓰니 한도가 걱정되면 새 대화를 열라고 같은 도움말이 안내합니다.

처음부터 덜 차게 쓰는 습관

• 일 하나에 대화 하나. 코덱스 모범 사례는 한 덩어리의 일마다 대화 하나를 쓰라고 합니다. 같은 문제를 계속 푸는 중이라면 같은 대화에 머무르는 편이 생각의 흐름을 지켜서 더 낫다고 해요. 저도 한 세션을 오래 끌고 가는 게 도움이 될 때가 있다고 생각합니다. 문제가 바뀌면 그때 새 대화로 넘어가면 됩니다.
• 오래 지킬 규칙은 파일에. 매번 하는 말은 클로드 코드는 CLAUDE.md, 코덱스는 AGENTS.md에 적어 둡니다. 에이전트 메모리 파일은 새 대화마다 자동으로 읽힙니다.
• 긴 로그와 조사는 따로. 테스트 로그나 긴 문서 조사는 서브에이전트에 맡기면 요약만 돌아와서 메인 대화가 덜 찹니다. 두 도구 모두 서브에이전트를 지원합니다.

자주 묻는 질문

몇 %가 찼을 때 정리해야 하나요?

공식 권장 숫자는 없습니다. 제 기준은 30~40%이고 이건 개인 습관이에요. 클로드 코드는 따로 정하지 않으면 100만 토큰 모델에서 약 96만 7천 토큰에 자동 압축합니다. 그 전에 새 대화로 넘어갈지, /autocompact로 압축 시점을 앞당길지는 작업 성격에 따라 고르면 됩니다.

/compact와 /clear는 무엇이 다른가요?

/compact는 지금 대화를 요약본으로 바꿔 같은 대화를 이어 갑니다. /clear는 빈 대화로 새로 시작합니다. 하던 일이 안 끝났으면 /compact, 끝났거나 다른 일로 넘어가면 /clear입니다. 클로드 코드에서 /clear한 대화는 /resume으로 다시 열 수 있어요.

새 대화로 넘어가면 이전 대화는 사라지나요?

사라지지 않습니다. 클로드 코드와 코덱스 CLI는 /resume으로 이전 대화를 다시 열고, ChatGPT는 사이드바에서 이전 채팅을 읽을 수 있습니다. 다만 새 대화의 AI는 이전 대화를 자동으로 보지 않으니 이어 갈 내용은 파일이나 붙여 넣기로 넘겨야 합니다.

컨텍스트 창이 큰 모델로 바꾸면 해결되나요?

창이 넘치는 문제는 줄지만 긴 대화에서 답이 흐려지는 문제까지 사라지지는 않습니다. 위 연구처럼 입력이 길어질수록 결과가 불안정해질 수 있고, 긴 대화는 요청마다 전체를 다시 읽어 사용량도 늘어요. 큰 창은 여유로 두고 일 단위로 정리하는 습관은 그대로 가져가는 편이 낫습니다.

압축하면 CLAUDE.md에 적은 규칙도 사라지나요?

프로젝트 맨 위 CLAUDE.md는 압축 뒤 디스크에서 다시 읽어 들입니다. 다만 하위 폴더의 CLAUDE.md나 특정 경로에만 걸린 규칙은 다른 대화 내용과 함께 요약되고, 해당 파일을 다시 읽을 때 불러옵니다(컨텍스트 문서). 압축 뒤에도 늘 지켜야 하는 규칙이라면 맨 위 CLAUDE.md에 두세요.

다음 단계

• 사용량까지 함께 줄이기: Claude Code 비용 줄이는 법
• 매번 하는 말을 파일 하나로: CLAUDE.md 작성법
• 긴 일을 단계와 파일로 나누기: 긴 AI 작업을 스킬과 확인 지점으로 나누는 법
• 클로드 코드 기본 사용법: Claude Code 사용법
• 코덱스 명령 전체: 코덱스(Codex) 사용법
• 용어: 컨텍스트 윈도우, 컨텍스트 압축

출처와 확인 (2026-10-30)

• Claude Code: Explore the context window (압축 뒤 남는 것, /compact 지시, /rewind 요약, /autocompact, /clear, /context)
• Claude Code: How Claude Code works (자동 압축이 남기는 것과 빠질 수 있는 것)
• Claude Code: Model configuration (100만 토큰 창 모델, 기본 자동 압축 시점 약 967K, /autocompact 범위)
• Claude Code: Commands (/clear와 별칭, /compact, /context, /resume, /rewind)
• Claude Code: Best practices (컨텍스트가 바닥나는 일은 드묾, 작업 사이 /clear, 두 번 고쳐도 틀리면 /clear)
• Codex CLI slash commands (/compact, /new, /clear, /status, /resume)
• ChatGPT desktop app slash commands (/compact, /new, /status의 컨텍스트 사용량)
• Codex best practices (긴 대화 정리, 자동 압축, 일 하나에 대화 하나)
• Codex subagents (context pollution·context rot, 서브에이전트는 요약을 돌려줌)
• Codex configuration reference (model_auto_compact_token_limit)
• Codex models (GPT-6.1 Sol 기본 50만 토큰 창)
• OpenAI Help: ChatGPT Free Tier FAQ ("Context window full" 알림, 요약과 함께 새 채팅, 붙여 넣기 권장)
• OpenAI Help: Troubleshooting ChatGPT error messages (긴 대화는 새 채팅)
• Claude Help: How do usage and length limits work? (길이 한도, 코드 실행 사용 시 자동 요약)
• Lost in the Middle: How Language Models Use Long Contexts (2023, 긴 입력 중간의 정보 활용)
• Chroma: Context Rot (2025년 7월 14일, 18개 모델)
• 저자 발언: 유튜브 클로드코드 풀코스(2026년 5월, 1M이어도 기억을 잘 못함, 30~40%에서 문서 저장 후 새 세션, 태스크 문서 체크 방식)와 바이브 코딩 입문 가이드(2026년 2월, 압축 뒤 정보 손실과 파일 저장)