프롬프트 엔지니어링은 끝났다? 컨텍스트 엔지니어링이란 무엇인가
프롬프트 엔지니어링이 끝난 것은 아닙니다. 질문과 지시를 잘 쓰는 일은 여전히 필요합니다. 컨텍스트 엔지니어링은 여기에 더해, AI가 답을 만들 때 어떤 자료와 대화 기록, 도구 결과를 참고하게 할지 선택하고 관리하는 일입니다.
“보고서를 명확하게 써줘”라고 여러 번 고쳐 말해도, 정작 이번 달 데이터가 없다면 정확한 보고서는 나오기 어렵습니다. 반대로 자료를 모두 넣어도 기준이 서로 다르거나 오래된 문서가 섞여 있으면 결과가 흔들릴 수 있습니다. 지시를 개선하는 문제와 판단에 필요한 정보를 준비하는 문제를 구분하는 것이 출발점입니다.
이 글은 개념과 차이, RAG·메모리·MCP의 관계를 설명하는 입문 글입니다. 아래 매출 예시는 이해를 위해 만든 가상 자료이며, 특정 모델을 실행해 얻은 성능 비교나 필자의 사용 후기가 아닙니다. 코드 작업에 바로 적용할 지침과 템플릿은 AI 코딩 실전 원칙 7가지에서 이어집니다.
공식 자료 대조·개정: 2026년 11월 4일.
1. 컨텍스트는 AI가 지금 참고하는 정보입니다
여기서 컨텍스트(Context)는 단순한 대화 분위기가 아니라 모델이 답변을 생성하는 시점에 입력으로 받는 정보를 뜻합니다. 사용자 요청뿐 아니라 시스템 지침, 선택된 대화 기록, 참고 문서, 도구 설명과 실행 결과 등이 포함될 수 있습니다.
중요한 것은 ‘접근할 수 있는 모든 자료’와 ‘이번 요청에 실제로 전달된 자료’가 같지 않다는 점입니다. 문서 폴더를 연결했다고 그 안의 모든 파일을 읽었다고 볼 수 없고, 과거에 대화했다고 그 내용이 항상 원문 그대로 포함되는 것도 아닙니다.
“이번 달 매출을 요약해 주세요”는 업무 지시입니다. 이번 달 매출표, 비교할 지난달 자료, 매출의 정의, 보고서를 읽는 사람을 준비하는 것은 판단에 필요한 배경을 제공하는 일입니다. 다만 AI는 사람처럼 회사의 모든 상황을 저절로 아는 것이 아니라, 실제로 전달되거나 도구로 읽은 정보를 바탕으로 작업합니다.
컨텍스트 엔지니어링은 필요한 자료를 선택하고, 충돌하는 내용을 구분하고, 작업이 진행되면서 바뀐 상태를 유지하는 과정입니다. 단지 긴 프롬프트를 작성하는 별칭으로 보기는 어렵습니다.
정의와 범위: Anthropic, Effective context engineering for AI agents
2. 프롬프트와 컨텍스트는 경쟁 관계가 아닙니다
프롬프트 엔지니어링은 모델에 주는 지시와 예시를 효과적으로 구성하는 데 초점을 둡니다. “세 문장으로 요약해”, “확인된 사실과 추정을 구분해”, “아래 형식으로 답해”처럼 목표와 출력 기준을 명확히 하는 것도 여기에 해당합니다. 한 번의 질문이나 말투 다듬기에만 한정되는 기술은 아닙니다.
컨텍스트 엔지니어링은 그 지시와 함께 어떤 근거를 보여줄지, 어떤 도구 결과를 남길지, 긴 작업에서 무엇을 요약하거나 다시 읽을지까지 다룹니다. 좋은 지시를 써도 원본 자료가 틀렸다면 해결되지 않는 문제가 있기 때문입니다.
- 지시의 문제: 분량과 독자가 불분명하다면 프롬프트의 목표·형식을 구체화합니다.
- 근거의 문제: 이번 달 숫자 대신 지난해 숫자를 쓰고 있다면 참고 자료와 조회 범위를 확인합니다.
- 둘 다의 문제: 자료도 부족하고 판단 기준도 모호하다면 지시와 자료를 함께 정리합니다.
Anthropic은 컨텍스트 엔지니어링을 프롬프트 엔지니어링의 자연스러운 발전으로 설명합니다. 이를 “프롬프트는 이제 필요 없다”는 뜻으로 읽으면 핵심을 놓칩니다. 잘 쓴 지시는 여전히 좋은 컨텍스트의 일부입니다.
3. 가상 매출 보고서로 보면 무엇이 달라질까요?
다음 자료는 설명용으로 만든 가상 데이터입니다. 실제 사업 실적이나 AI 실행 결과가 아닙니다.
- 4월 순매출: 1,000,000원
- 5월 순매출: 1,200,000원
- 두 수치는 같은 매장의 같은 집계 기준이며, 취소·환불을 제외한 금액입니다.
- 캠페인 시작일: 5월 10일
- 유입 경로별 구매액, 광고비, 방문자 수: 제공되지 않았습니다.
질문 문장만 다듬는 경우
5월 매출을 전문적으로 분석해줘.
핵심 원인과 다음 행동을 세 문장으로 정리해줘.
형식은 정했지만 이 요청만으로는 매출 수치나 증가 원인을 확인할 수 없습니다. 자료가 없다면 이를 요청하거나 분석 범위를 제한해야 합니다. 자신감 있는 문장으로 빈칸을 채우는 것은 좋은 분석이 아닙니다.
근거와 한계를 함께 제공하는 경우
아래 가상 자료만 사용해 매출 요약을 작성해줘.
4월 순매출 1,000,000원, 5월 순매출 1,200,000원.
같은 매장과 집계 기준이며 취소·환불은 제외한 수치야.
캠페인은 5월 10일 시작했지만 유입별 구매액과 광고비는 없어.
전월 대비 증가액과 증가율을 계산하고 계산식도 적어줘.
확인된 사실, 판단할 수 없는 원인, 추가로 필요한 자료를 구분해줘.
캠페인이 매출 증가의 원인이라고 단정하지 마.
이 자료에서 확인할 수 있는 결론
증가액은 1,200,000 − 1,000,000 = 200,000원, 전월 대비 증가율은 200,000 ÷ 1,000,000 × 100 = 20%입니다. 반면 캠페인 때문에 매출이 늘었다는 인과관계나 광고 수익성은 이 자료만으로 확인할 수 없습니다. 유입별 매출, 광고비, 계절성 등 추가 자료와 적절한 비교가 필요합니다.
이것은 모델의 실제 답변을 인용한 것이 아니라 제공한 자료로 검산할 수 있는 결론과 판단의 한계를 정리한 것입니다. 핵심은 문장이 길어졌다는 데 있지 않습니다. 비교 기준과 빠진 정보가 명확해졌다는 데 있습니다.
4. RAG·메모리·MCP는 각각 어떤 역할을 하나요?
세 가지는 같은 기능의 다른 이름이 아닙니다. 컨텍스트를 준비하는 과정에서 서로 다른 역할을 할 수 있습니다.
RAG: 필요한 근거를 찾아 답변에 활용하기
RAG(Retrieval-Augmented Generation)는 외부 지식 저장소에서 관련 정보를 검색해 모델의 입력에 넣고 답변을 생성하는 접근입니다. 예를 들어 보고서 작성에 필요한 해당 월의 매출 정의나 집계 규정을 찾아 주는 데 쓸 수 있습니다. 모델을 다시 학습시키는 것과는 다릅니다.
검색이 잘못된 문서나 일부 문장만 가져오면 답변의 근거도 잘못될 수 있습니다. “RAG를 연결했으니 정확하다”가 아니라, 원본과 검색된 내용이 질문에 맞는지 확인해야 합니다.
메모리: 다음 작업에 다시 쓸 정보를 남기기
메모리는 이전 작업의 선호나 유용한 정보를 다시 활용하게 하는 기능입니다. 하지만 저장 방식과 실제로 참고하는 범위는 제품·설정에 따라 달라집니다. ChatGPT 공식 안내도 모든 대화의 모든 세부 사항을 보존하지 않는다고 설명합니다.
“보고서는 짧게 쓰는 편을 선호한다”는 취향을 기억하는 것과 “이번 달 매출은 얼마다”라는 현재 사실을 확인하는 것은 구분해야 합니다. 변하는 숫자는 최신 원본에서 다시 읽는 편이 안전합니다.
MCP: AI 앱과 외부 시스템을 연결하기
MCP(Model Context Protocol)는 AI 앱을 데이터 소스와 도구 등 외부 시스템에 연결하는 표준입니다. 연결된 시스템에서 필요한 자료를 읽거나 작업을 실행하도록 도울 수 있지만, MCP 자체가 어떤 자료가 정답인지 판단하거나 답변 정확성을 보장하는 것은 아닙니다.
도구 연결은 접근 경로를 마련하는 일입니다. 실제로 어느 자료를 읽고 어떤 작업을 허용할지는 별도로 정해야 합니다. 문서에 “읽기만 해”라고 쓰는 것과 시스템의 쓰기 권한을 제한하는 것도 같지 않습니다.
근거: MCP 공식 소개
작은 문서 한 장을 요약하는 일이라면 파일과 명확한 요청만으로 충분할 수 있습니다. 컨텍스트 엔지니어링을 한다고 반드시 RAG 서버나 MCP 연결을 새로 만들 필요는 없습니다.
5. 에이전트는 작업할수록 참고 정보를 갱신해야 합니다
에이전트가 문서를 찾고, 계산하고, 오류를 수정하는 동안 새로운 자료와 도구 결과가 생깁니다. 처음에 준비한 지시만으로 끝나는 것이 아니라, 다음 판단에 무엇을 전달할지 계속 정리해야 합니다.
- 찾기: 목표에 필요한 원본과 조회 범위를 정합니다.
- 확인하기: 자료의 날짜·대상·집계 기준이 맞는지 봅니다.
- 작업하기: 선택한 근거를 바탕으로 계산하거나 초안을 만듭니다.
- 상태 남기기: 확인된 사실, 아직 모르는 점, 다음에 필요한 자료를 구분합니다.
예를 들어 매출표의 취소·환불 반영 여부가 불분명하다면, 그 상태를 ‘확인 필요’로 남겨야 합니다. 다음 단계의 요약에서 이 조건을 빼버리고 확정된 순매출처럼 사용하는 것은 정보를 잘 압축한 것이 아닙니다.
Anthropic은 긴 에이전트 작업에서 필요한 정보를 그때그때 읽는 방식, 대화 압축, 구조화된 메모 등을 설명합니다. 다만 요약에는 정보 손실 가능성이 있으므로 수치·예외 조건·원본 위치를 남기고 필요하면 다시 확인해야 합니다.
6. 컨텍스트가 길면 무조건 더 좋을까요?
그렇지는 않습니다. 컨텍스트 윈도는 모델이 한 번에 처리할 수 있는 입력과 생성 과정의 범위에 제약을 둡니다. 큰 윈도를 지원하더라도 관련 없는 정보나 충돌하는 지침이 많으면 필요한 근거를 정확히 활용하기 어려울 수 있습니다.
그렇다고 모든 자료를 짧게 줄이는 것이 정답도 아닙니다. 매출의 집계 기준, 계약의 예외 조항, 코드의 호출 관계처럼 판단에 필요한 부분까지 없애면 결과가 나빠질 수 있습니다. 목표는 가장 적은 정보가 아니라, 해당 판단에 충분하면서 관련성 높은 정보입니다.
- 정확성: 숫자와 설명이 원본과 일치하는가?
- 적용 범위: 이 기간·이 제품·이 환경에 해당하는 자료인가?
- 충돌: 서로 다른 기준이 섞여 있지는 않은가?
- 추적 가능성: 결론을 뒷받침한 원본 위치를 다시 찾을 수 있는가?
- 최소 노출: 업무에 불필요한 개인정보나 비밀값을 제외했는가?
참고 문서에 적힌 내용은 검토할 자료이지 무조건 실행할 명령이 아닙니다. 외부 문서의 지시 때문에 권한이나 작업 범위를 넓히지 않도록, 자료와 작업 지시를 구분하는 것도 중요합니다.
컨텍스트 제약과 선별의 근거: Anthropic의 컨텍스트 관리 설명
7. 내 작업에서는 무엇부터 바꾸면 될까요?
새 도구를 설치하기 전에 결과가 어긋나는 지점을 나눠 보세요.
- 말투·분량·형식이 다르다: 독자, 출력 형식, 좋은 답변의 기준부터 명시합니다.
- 사실·버전·숫자가 틀리다: 최신 원본과 적용 범위, 실제로 읽은 자료를 확인합니다.
- 작업이 길어질수록 앞의 조건을 놓친다: 결정 사항과 미해결 조건을 정리하고 필요한 원본을 다시 읽게 합니다.
- 근거가 충분한데도 계산이나 추론이 틀린다: 검산 도구, 작업 분할, 모델의 역량과 평가 방법도 점검합니다. 모든 실패가 컨텍스트 문제인 것은 아닙니다.
블로그 글 작성에도 같은 구분을 적용할 수 있습니다. 문체가 어색하면 독자와 예시 문장을, 사실이 틀리면 공식 출처와 확인 날짜를, 글끼리 내용이 겹치면 각 글이 답할 질문과 제외할 범위를 지정하는 식입니다. 직접 경험을 담고 싶다면 실제 기록을 제공해야 하며, 기록이 없다면 가상 예시를 경험담처럼 쓰지 않아야 합니다.
- 이번에 만들 결과물은 무엇인가?
- 판단 근거로 사용할 원본은 무엇인가?
- 지금 자료로는 무엇을 확인할 수 없는가?
- 결과가 맞는지 무엇으로 검증할 것인가?
프롬프트 엔지니어링은 사라진 기술이 아니라 이 과정의 중요한 일부입니다. 질문을 더 멋지게 만드는 데서 멈추지 않고, AI에게 보여줄 근거와 그 한계를 함께 설계하는 것이 컨텍스트 엔지니어링의 실용적인 출발점입니다.
관련 글로 이어가기
- 좋은 Context는 어떻게 만들까? AI 코딩 실전 원칙 7가지: 지침 파일·수정 범위·권한과 검증을 실제 요청 형태로 정리합니다.
- Codex로 무료 온라인 툴 사이트 만들기: 프로젝트 적용 흐름을 살펴볼 때 읽어보세요.
- Codex Context 관리법: 긴 코드 작업의 대화와 진행 상태를 관리하는 주제입니다.
- 구글 Gem으로 실시간 트렌드 블로그 자동화 구축한 후기: 블로그 작업에 지침을 활용하는 관련 글입니다.
정의와 도구 설명의 근거는 해당 문단에 연결했습니다. 매출 자료·요청문·점검 질문은 이해를 돕기 위한 설명용 예시이며, 특정 도구의 성능이나 비용 개선을 보장하지 않습니다.
댓글
댓글 쓰기