AI랑 대화가 너무 길어지면 생기는 문제… 그리고 해결책

레사남의 AI 활용기 2편

AI랑 대화가 너무 길어지면 생기는 문제… 그리고 해결책

블로그 글 하나 쓰는 게 이렇게 오래 걸릴 줄 몰랐다.

처음 AI(Claude)를 쓰기 시작했을 때, 나는 거의 모든 걸 한 채팅창에서 해결하려고 했다. "이 제목 어때요?" → 수정 → "이 문장은요?" → 수정 → "전체 톤은요?" → 수정...

처음엔 빠릿빠릿하게 답변이 왔다. 그런데 어느 순간부터 뭔가 이상했다.

📌 이상하다… AI가 왜 이렇게 느려지지?

대화를 30~40번쯤 주고받다 보니, 응답이 눈에 띄게 느려지기 시작했다.

처음엔 "인터넷이 느린가?" 싶었다. 새로고침도 해보고, 브라우저도 바꿔봤다. 그래도 마찬가지였다.

그러다 문득 깨달았다.

"아, AI가 이 채팅창에 쌓인 대화를 전부 읽고 있구나."

맞다. AI는 답변할 때마다 지금까지 나눈 대화 전체를 처리한다. 대화가 길어질수록, 처리해야 할 데이터 양이 늘어나고, 당연히 응답이 느려진다.

기술적으로는 컨텍스트 윈도우(Context Window) 라고 부른다. 쉽게 말하면, AI가 한 번에 기억하고 처리할 수 있는 대화의 양에 한계가 있다는 뜻이다.

그런데 문제가 하나 더 있었다.

대화가 길어질수록 응답이 느려지는 건 그나마 참을 수 있었다. 더 현실적인 문제는 따로 있었다.

사용량 제한이다.

Claude는 무제한으로 쓸 수 있는 게 아니다. 대화가 길어질수록 처리하는 데이터 양이 많아지고, 그만큼 사용량도 빠르게 쌓인다. 어느 순간 "사용량 한도에 도달했습니다" 메시지가 뜨면서 더 이상 쓸 수가 없게 된다.

그럼 선택지는 두 가지다. 기다리거나, 아니면 더 비싼 요금제로 업그레이드하거나.

결국 비효율적으로 채팅을 쓰면 돈으로 이어진다. AI를 잘 못 쓰면 시간도 잃고, 돈도 잃는 셈이다.

📌 새 채팅을 열었더니… 또 처음부터 설명해야 해?

"그럼 새 채팅을 열면 되겠네!"

맞는 말인데… 문제가 생겼다.

새 채팅을 열면 AI가 이전 대화를 아무것도 기억하지 못한다. 내가 레사남이라는 것도, 블로그 주제가 레버리지ETF라는 것도, 글의 톤을 어떻게 잡았는지도.

그래서 나는 어떻게 했냐면… 새 채팅을 열 때마다 이전 대화 내용을 내가 직접 요약해서 다시 설명했다.

"저는 레사남이고요, 레버리지ETF 블로그를 운영하고 있어요. 그리고 이번 글 주제는..."

이걸 반복하면서 드는 생각.

나 뭐 하는 거지? AI가 이렇게 불편한 거였어? 아니면 내가 잘못 쓰고 있는 건가?

결론부터 말하면, 내가 잘못 쓰고 있던 거였다.

📌 해결책: 프로젝트 기능을 써라

Claude에는 프로젝트(Project) 기능이 있다.

일반 채팅은 대화가 끝나면 AI가 아무것도 기억하지 못한다. 하지만 프로젝트를 만들면 다르다.

프로젝트 안에 "지침(Instructions)" 을 설정해두면, 그 프로젝트에서 새 채팅을 열어도 AI가 지침을 기본값으로 가지고 시작한다.

예를 들어 나는 "레사남의 AI 활용기"라는 프로젝트를 만들고 초기 지침을 이렇게 설정해뒀다:

- 필명: 레사남 (레버리지ETF를 사랑하는 남자)
- 블로그: 레사방 (티스토리)
- 글쓰기 톤: 친근하고 솔직하게, 초보자도 이해할 수 있는 언어로
- 타깃: AI 초보자, 블로그/유튜브 시작하려는 사람
- 모든 글 마지막에 저작권 문구, 태그 추천 포함

이렇게 해두면, 새 채팅을 열 때마다 처음부터 설명 안 해도 된다. AI가 이미 내가 누구인지, 어떤 글을 원하는지 알고 시작하니까.

물론 프로젝트의 지침은 추가 수정이 가능하다. 반복되는 사항이 있으면 언제든지 지침에 추가해서 내가 AI에게 반복되는 지적이나 검토를 하는 수고를 줄여야 되지 않겠는가?

📌 그럼 채팅 길이 문제는?

프로젝트 기능으로 "내가 누군지" 설명하는 반복은 해결됐다.

그래도 한 주제를 깊게 파다 보면 대화가 길어지는 건 여전하다. 이건 완전히 막을 수는 없고, 대화를 주제별로 나눠서 관리하는 게 핵심이다.

내가 지금 쓰는 방법:

1. 하나의 채팅 = 하나의 주제 원칙을 세운다
   • 글 기획은 기획 채팅에서
   • 초안 작성은 새 채팅에서
   • 수정/퇴고는 또 새 채팅에서
2. 채팅이 길어졌다고 느껴지면 핵심 내용만 한 줄로 정리하고 새 채팅으로 넘어간다
   • 예: "지금까지 결론: 2편 주제는 컨텍스트 윈도우 문제로 확정. 초안 작성 시작"
3. 그래도 이어서 해야 할 내용은 Claude에게 직접 요약을 부탁한다
   • "지금까지 우리가 결정한 내용 핵심만 3줄로 요약해줘"
   • 그 요약을 복사해서 새 채팅에 붙여넣으면 된다

📌 솔직한 후기

이걸 알기 전까지, 나는 진짜 AI를 매우 비효율적으로 쓰고 있었다.

매번 새 채팅에서 내 블로그 소개부터 다시 하고, 글 톤도 다시 설명하고, 지난번에 어디까지 했는지도 내가 직접 정리해서 다시 붙여넣고.

이게 AI의 한계인 줄 알았는데, 프로젝트 기능을 제대로 안 쓴 내 문제였다.

도구는 잘 써야 한다. 레버리지ETF도 마찬가지 아닌가. 아무리 좋은 도구도 제대로 이해하고 써야 진짜 힘이 난다.

나는 지금도 AI 전문가가 아니다. 그냥 "AI랑 같이 삽질하는 옆집 사람"이다.

문제는 항상 도구가 아니라 쓰는 사람이었다. 도구는 잘 써야 한다. 레버리지ETF도, AI도 마찬가지다.

— 레사남(레버리지ETF를 사랑하는 남자) 드림

📌 본 콘텐츠의 저작권은 레사남에게 있으며, 무단 전재 및 재배포를 금합니다. 

⚠️ 본 콘텐츠는 투자 권유가 아닙니다. 모든 투자 결정은 본인의 판단과 책임 하에 이루어져야 합니다.