Skip to Content

긴 컨텍스트 프롬프팅

📄공식문서 원문 섹션 — 긴 컨텍스트 프롬프팅 (대용량 문서 처리 원칙)

지난 시간 복습

”넌 누구야” → 한 문장으로 집중

역할 부여로 AI의 관점을 바꿨다면 — 오늘은 긴 문서를 넘기는 법


오늘의 여정

1. 도입 — 300페이지 책과 한 가지 질문

2. 단어 해부 — Context = 함께 짜다

3. 공식문서 — “신중하게 구조화”의 의미

4. 세 원칙 — 질문 아래·XML·인용 먼저

5. 실무 — 계약서·회의록·규정집

6. 통찰 — 좋은 프롬프트 = 좋은 업무 지시


쌓인 서류 앞의 상사

상상해 보세요.
300페이지짜리 두꺼운 책을 한 권 받았습니다.
처음부터 끝까지 쭉 읽었어요.


그리고 누군가 이렇게 묻습니다

”5페이지에 뭐라고 써있었어?”

기억나세요? 아마 잘 기억 안 날 거예요


기억 안 나는 회사원

295페이지를 더 읽으면서
앞부분 기억은 이미 흐려졌거든요.


그런데 만약 책을 주기 전에 먼저 이렇게 말했다면요.

”이 책 5페이지에 나오는 계약 해지 조건을 찾아줘.”

읽으면서 5페이지를 특별히 주의 깊게 봤겠죠.


이게 바로 오늘의 핵심

AI한테 긴 문서 줄 때도 똑같아요

문서를 “어떻게 배치하고 질문하느냐”가 결과를 결정합니다


업무하다 보면 이런 문서를 AI한테 넘길 일이 많죠.

📑

계약서
100페이지

📊

분기 보고서
50페이지

📋

사내 규정집
200페이지


그냥 복사+붙여넣기 하면?

결과가 들쭉날쭉

어떤 땐 핵심을 잡고 어떤 땐 엉뚱한 요약 — 우리가 배치를 잘못한 것


🧵

오늘 주제 단어부터 뜯어볼게요.
컨텍스트(Context).
이 단어의 어원이 재밌습니다.


Context의 어원

함께 짜다 (contextere)

라틴어 contextere — 직물을 짜듯 정보가 서로 연결된 것


100페이지 계약서를 AI한테 넘기면
그게 하나의 커다란 직물이 됩니다.
실 한 가닥 한 가닥이 서로 연결된 직물.


!

직물이 크면 찾기 어렵다

그래서 긴 컨텍스트에서는 “어디가 중요한지” 찾을 수 있게 배치가 필요합니다


대용량 문서(약 20,000 토큰 이상 — 한국어 기준 A4 수십 페이지 분량)나 데이터가 풍부한 입력으로 작업할 때는 프롬프트를 신중하게 구조화해야 최상의 결과를 얻을 수 있습니다.

Claude는 한 번에 수백 페이지 분량의 텍스트를 처리할 수 있지만, 문서를 어떻게 배치하고 질문하느냐에 따라 응답 품질이 크게 달라집니다.

📄 공식문서가 말하는 것

”대용량 문서로 작업할 때는 프롬프트를 신중하게 구조화해야 최상의 결과를 얻을 수 있습니다.”


공식문서의 기준

A4 15–20페이지 이상

회의록 몇 달치·계약서 한 건·규정집 일부 — 업무 문서 대부분이 여기에 해당


Should가 아니라 Must

”구조화하면 좋다”가 아니라 “구조화해야”

긴 문서에서 구조화는 선택이 아니라 필수입니다


!

공식문서 핵심

”프롬프트를 신중하게 구조화해야 최상의 결과를 얻습니다” — 긴 문서에선 배치가 답입니다


아래 세 가지 핵심 원칙을 따르면 긴 문서 작업의 정확도와 효율을 크게 높일 수 있습니다.

긴 문서, 세 가지 원칙

1. 문서는 위에, 질문은 아래에

2. 여러 문서는 XML 태그로 경계·출처 명시

3. 인용 먼저 요청해서 근거에 답을 기대게 하기


1. 긴 데이터를 상단에, 질문을 하단에 배치

긴 문서와 입력을 프롬프트 상단에 배치하고, **쿼리·지시 사항·예시(examples)**는 모두 프롬프트 하단에 넣으세요.

이유는 간단합니다. Claude는 프롬프트를 순서대로 처리하기 때문에, 먼저 전체 문서를 읽은 후 질문을 만나면 이미 파악한 내용을 바탕으로 정확하게 답변할 수 있습니다.

원칙 1

문서 위에, 질문 아래에

Claude는 프롬프트를 순서대로 읽습니다 — 순서가 곧 주의집중 순서


📚

여러분이 학생이라고 생각해 보세요.
선생님이 수업 시작할 때 말해요.
”오늘 3번 문제는 광합성이야. 수업 시작하자.”


이러면 어떻게 될까요?

광합성 부분만 집중

다른 내용은 대충 듣고 넘어가겠죠


반대로 수업을 다 듣고 나서
마지막에 시험 문제를 받으면요.
수업 전체를 이해한 상태에서 푸니까
훨씬 정확한 답을 쓸 수 있어요.


1

질문을 맨 아래에

수업 끝에 시험 문제를 주는 것 — 전체를 파악한 뒤 질문을 만나야 정확합니다


📊

쿼리를 끝에 배치하면 테스트에서 응답 품질이 최대 30%까지 향상될 수 있습니다. 특히 복잡한 다중 문서 입력에서 효과적입니다.

아하!

공식문서가 말하는 수치 하나, 같이 읽어볼게요.


30%

순서만 바꿔도 응답 품질이 최대 30% 향상 — 돈 한 푼 안 들이고


30%가 얼마나 큰 수치냐면

1-2% 올리려고 수천억을 씁니다

AI 업계 모델 성능을 1-2% 올리려고 쏟는 연구비가 수천억 원


!

안 할 이유가 없죠

돈 한 푼 안 들이고, 기술 지식도 필요 없이 — 질문만 아래로 옮기면 30%


상사의 질문

실무 상황 하나 그려볼게요.
상사가 이렇게 말해요.


”이번 분기 보고서 50페이지 다 읽어봤어?
Q3 매출 왜 떨어졌는지 내일 아침까지 분석 좀 해줘.

AI한테 도움을 받으려고 합니다.


실무 적용 예시:

Q3 매출 하락 원인을 분석해줘. <document> {50페이지 분량의 분기 보고서} </document>

Claude가 “매출 하락 원인”을 찾으면서 50페이지를 읽어야 해서, 관련 없는 정보에 주의가 분산됩니다.

❌ 질문이 위에

Q3 매출 하락 원인을 분석해줘. <document> {50페이지 분량의 분기 보고서} </document>

Claude가 “매출 하락 원인”을 머릿속에 담고 50페이지를 훑어야 해서, 관련 없는 정보에도 주의가 분산됩니다.


✅ 질문이 아래에

<document> {50페이지 분량의 분기 보고서} </document> 위 보고서에서 Q3 매출 하락의 원인을 분석해줘. 주요 원인 3가지를 근거와 함께 정리해줘.

순서만 바꿨을 뿐 — Claude가 보고서 전체를 먼저 파악한 뒤 질문에 맞는 정보를 정확히 추출합니다.


순서만 바꿨을 뿐인데

이게 30%의 힘입니다

그리고 마지막 “근거와 함께” 한 마디 — 세 번째 원칙의 예고편


2. XML 태그로 문서 콘텐츠와 메타데이터를 구조화

여러 문서를 사용할 때, 각 문서를 <document> 태그로 감싸고 <document_content><source> 하위 태그를 사용하세요. 필요하면 <date>, <author>, <version> 같은 다른 메타데이터 태그도 자유롭게 추가할 수 있습니다.

태그 없이 여러 문서를 나열하면 Claude가 어디서부터 어디까지가 하나의 문서인지, 어떤 문서에서 나온 정보인지 혼동할 수 있습니다.

원칙 2

XML 태그로 경계·출처 명시

06강에서 배운 XML 태그가 긴 문서에서 특히 빛을 발합니다


흩어진 서류 앞에서 당황한 회사원

서류 100장이 바닥에 흩어져 있어요.
A 계약서와 B 계약서를 비교해야 합니다.
어떤 게 어떤 건지 구분이 안 되죠.


라벨이 붙은 파일 폴더

그런데 각 계약서를 파일 폴더에 넣고 라벨을 붙이면?
바로 찾을 수 있죠.


2

XML = 파일 폴더 + 라벨

흩어진 서류 100장 vs 라벨 붙은 폴더 — Claude에겐 이 차이가 결정적입니다


<documents> <document index="1"> <source>2025년_1분기_매출보고서.pdf</source> <document_content> {문서 1 내용} </document_content> </document> <document index="2"> <source>2025년_2분기_매출보고서.pdf</source> <document_content> {문서 2 내용} </document_content> </document> </documents> 위 두 보고서를 비교하여 분기별 매출 변화를 분석해줘. 각 수치의 출처 문서를 명시해줘.

source 태그의 위력

”1분기 보고서 3페이지에 따르면…”

Claude가 출처를 정확히 밝히면서 답변합니다 — 검증이 쉬워져요


이 구조는 특히 계약서 여러 개 비교, 월간 회의록 분석, 규정 간 충돌 확인 등 다중 문서 작업에서 필수적입니다.

3. 인용문으로 응답을 근거에 기반하게 만들기

긴 문서 작업의 경우 Claude에게 작업 수행 전에 문서의 관련 부분을 먼저 인용하도록 요청하세요.

Claude가 관련 부분을 직접 찾아 인용하는 과정에서 나머지 문서의 노이즈를 자연스럽게 걸러냅니다. 여기에 실무에서 얻는 이점이 하나 더 있습니다 — 인용이 포함된 답변은 검증이 쉽습니다.

원칙 3

인용 먼저, 답변 나중

”먼저 관련 부분 원문을 인용한 뒤 요약해줘”


지어내는 AI

100페이지 계약서에서 “해지 조건 문제 있어?”라고 물으면
Claude가 100페이지를 훑으면서 답변을 생성합니다.
이때 기억이 흐릿한 부분에서 자기가 지어내는 내용이 섞이곤 해요.


용어 정리

할루시네이션

AI가 “사실처럼 지어내는 것” — 긴 문서에서 자주 발생


그런데 “먼저 관련 조항 원문을 인용해줘”라고 하면요.
Claude가 원문을 찾아서 꺼내놓는 과정에서
나머지 노이즈를 자연스럽게 걸러냅니다.


변호사

변호사 두 명이 있어요.
한 명은 근거 없이 의견부터 말하고
한 명은 조항을 먼저 찾아놓고 의견을 말해요.


누구를 더 신뢰하시겠어요?

조항을 먼저 찾는 변호사

Claude도 마찬가지 — 인용이 먼저 나오면 답변이 신뢰됩니다


3

인용 먼저 요청

할루시네이션을 줄이고, 우리가 검증하기도 쉬워지는 한 마디의 마법


실무 적용 예시:

<document> {200페이지 분량의 사내 규정집} </document> 위 규정집에서 재택근무 관련 내용을 요약해줘.

Claude가 문서 전체를 훑으며 관련 내용을 요약하지만, 어느 조항에서 나온 정보인지 확인하기 어렵습니다.

이렇게 인용을 먼저 요청하면, 할루시네이션(사실과 다른 내용 생성) 위험을 크게 줄일 수 있습니다.

❌ 인용 요청 없이

<document> {200페이지 분량의 사내 규정집} </document> 위 규정집에서 재택근무 관련 내용을 요약해줘.

Claude가 문서 전체를 훑으며 요약하지만, 어느 조항에서 나온 정보인지 확인하기 어렵습니다.


✅ 인용 먼저 요청

<document> {200페이지 분량의 사내 규정집} </document> 위 규정집에서 재택근무 관련 조항을 모두 찾아서, 먼저 해당 조항 원문을 <quote> 태그로 인용한 뒤 요약해줘.

Claude가 “제3장 제15조에 따르면…” 식으로 근거를 제시하면서 답변 — 정확성을 바로 검증할 수 있죠.


한 마디의 마법

”먼저 인용하고 답변해줘”

근거 없는 답변을 근거 있는 답변으로 바꾸는 문장 하나


세 가지 원칙 한 줄 요약

문서 먼저, 구조는 XML로, 인용 요청으로 마무리


함께 따라 말해봅시다

문서 먼저 · XML · 인용 먼저

입으로 세 번 말하면 손가락이 먼저 기억합니다


💼 실무에서 이렇게 쓰세요

긴 컨텍스트 프롬프팅은 대량의 문서를 다루는 실무 업무에서 특히 강력합니다.

계약서

상사가 이렇게 말해요.
”이 계약서에 해지 조건 문제없는지 확인 좀 해줘.”
100페이지 — 직접 읽으면 반나절입니다.


📑100페이지 계약서 검토

긴 문서를 상단에 배치하고, 질문을 하단에 넣어 핵심 조항을 정확히 찾습니다

<contract>
{100페이지 분량의 계약서 전문}
</contract>

위 계약서에서 다음 사항을 검토해줘:
1. 계약 해지 조건 (위약금 포함)
2. 지적재산권 귀속 조항
3. 우리에게 불리할 수 있는 조항

각 항목에 대해 해당 조항 원문을 인용한 뒤 요약해줘.
실무에서 이렇게 쓰세요 → ② 1년치 회의록

📅

두 번째 사례.
1년치 회의록 분석 — XML 태그가 특히 빛을 발하는 상황.


📊1년치 회의록 분석

XML 태그로 각 회의를 구분하면, Claude가 시간 순서와 맥락을 정확히 파악합니다

<meetings>
<meeting date="2025-01">
  <attendees>김팀장, 이과장, 박대리</attendees>
  <content>{1월 회의록}</content>
</meeting>
<meeting date="2025-02">
  <attendees>김팀장, 이과장</attendees>
  <content>{2월 회의록}</content>
</meeting>
...12개월분 반복...
</meetings>

위 1년치 회의록을 분석해서:
1. 반복적으로 논의되었지만 해결되지 않은 이슈 Top 3
2. 주요 의사결정 타임라인
3. 다음 분기에 우선 해결해야 할 사항 추천
실무에서 이렇게 쓰세요 → ③ 150페이지 규정집

두꺼운 규정집

세 번째 사례.
150페이지 인사규정에서 “육아휴직” 찾기.
인용 먼저 요청이 할루시네이션을 막아줍니다.


📋규정집에서 특정 조항 찾기

인용을 먼저 요청하면 할루시네이션 없이 정확한 근거를 얻을 수 있습니다

<regulations>
{사내 인사규정 전문 - 150페이지}
</regulations>

위 규정에서 "육아휴직" 관련 모든 조항을 찾아줘.

작업 방식:
1. 먼저 관련 조항의 원문을 정확히 인용해줘
2. 각 조항을 쉬운 말로 요약해줘
3. 마지막에 육아휴직 신청 시 필요한 절차를 단계별로 정리해줘

📝 연습문제

직접 해보세요

A사 vs B사 제안서 비교 프롬프트

세 원칙(상단 배치 · XML 구조화 · 인용 요청)을 모두 적용해봅시다

문제: 다중 문서 비교 분석 프롬프트 구성

A사와 B사의 제안서를 비교 분석하는 프롬프트를 작성하세요. 이 페이지에서 배운 세 가지 원칙(문서 상단 배치, XML 태그 구조화, 인용 요청)을 모두 적용해보세요.

💡 힌트: 문서를 XML 태그로 구조화하고, 질문은 문서 아래에 배치하세요. 인용도 요청하면 더 좋습니다.


📋 정리

오늘 배운 핵심을 정리합니다.

#배운 것핵심
1문서 상단, 질문 하단긴 데이터를 먼저 읽게 하고 질문은 끝에 — 응답 품질 최대 30% 향상
2XML 태그로 문서 구조화<document index="N"> + <source> + <document_content> — 경계와 출처를 명확히
3인용문으로 근거 기반 답변”먼저 관련 부분을 인용한 뒤 요약해줘” — 할루시네이션 위험 감소

📋 오늘의 정리

1. 문서 상단 + 질문 하단 = 품질 30% 향상

2. XML 태그로 문서 경계와 출처 명시

3. 인용 요청으로 할루시네이션 방지


💬

“긴 문서를 주는 것과 잘 정리된 문서를 주는 것은 완전히 다릅니다.”

같은 100페이지라도 구조화하고, 질문을 끝에 놓고, 인용을 요청하면 AI가 전문 리서처처럼 정확하게 답변합니다.

긴 문서 vs 정리된 문서

같은 100페이지, 완전히 다른 결과

구조화·순서·인용 — 세 가지만 다르게 해도 전문 리서처처럼 답변합니다


오늘의 통찰

좋은 프롬프트 = 좋은 업무 지시

배경 자료 먼저 → 여러 자료는 라벨 → “근거 먼저 보고해줘”


!

AI 스킬 = 커뮤니케이션 스킬

AI한테 잘 하면 사람한테도 잘 하게 되고, 사람한테 잘 하면 AI한테도 잘 하게 됩니다


🚀 오늘의 액션

다음에 AI한테 긴 문서를 줄 때, 이 순서를 기억하세요.

다음에 AI한테 긴 문서를 줄 때,
한 가지 순서만 기억하세요.


<document> {문서 내용} </document> 위 문서에서 ___를 찾아서, 관련 부분을 인용한 뒤 요약해줘.

문서를 위에, 질문을 아래에. 이 순서 하나만 바꿔도 결과가 달라지는 걸 직접 체감하실 거예요.


오늘 하나만 해보세요

문서 위에, 질문 아래에

이 순서 하나만 바꿔도 결과가 달라집니다


다음 강의 예고

AI에게 정체성 설정하기

Ch.1의 마지막 퍼즐 — 지금까지의 원칙을 하나로 엮는 마무리

다음 강의: Chapter 1의 마지막 강의 — AI에게 정체성 설정하기 · 지금까지 배운 여섯 원칙을 하나로 엮는 마무리입니다.

Last updated on