해피 테크로그

AI를 잘 활용하는 사람의 기준이 바뀌고 있습니다. 이제 중요한 것은 질문 한 줄을 멋지게 쓰는 능력만이 아니라, AI가 일할 수 있도록 필요한 정보와 환경을 설계하는 능력입니다. 불과 2~3년 전만 해도 AI를 잘 사용하는 사람은 “프롬프트를 잘 쓰는 사람” 이라고 여겨졌습니다. ChatGPT가 등장한 뒤 인터넷에는 ‘100가지 프롬프트’, ‘만능 프롬프트’ 같은 콘텐츠가 넘쳐났고, 어떤 문장을 입력해야 원하는 결과를 얻을 수 있는지가 가장 큰 관심사였습니다. 하지만 최근 AI 업계에서는 조금 다른 이야기가 나옵니다. “이제는 Prompt Engineering보다 Context Engineering이 더 중요하다.” AI가 단순히 질문에 답하는 도구를 넘어 웹을 검색하고, 문서를 읽고, 프로그램을 실행하며 여러 단계의 업무를 수행하는 AI Agent 로 발전하면서 한 줄의 지시만으로는 좋은 결과를 만들기 어려워졌기 때문입니다. 그렇다면 Context Engineering은 정확히 무엇일까요? 왜 AI를 잘 활용하려면 프롬프트만큼 Context를 고민해야 할까요? 이번 글에서는 어려운 전문용어 대신 쉬운 비유와 실제 사례를 중심으로 알아보겠습니다. Context Engineering이란 무엇일까? 가장 간단하게 정의하면 다음과 같습니다. Context Engineering은 AI가 좋은 결과를 만들 수 있도록 필요한 정보와 작업 환경을 설계하는 기술입니다. 많은 사람은 아직도 AI의 결과가 프롬프트 하나에 의해 결정된다고 생각합니다. 물론 프롬프트는 중요합니다. 그러나 실제 AI 시스템은 프롬프트만 읽고 답변하지 않습니다. 사용자 요청 프롬프트 이전 대화 메모리 회사 문서 검색 결과 RAG·MCP·도구 AI의 최종 답변 사용자의 요청뿐 아니라 이전 대화, 참고 문서, 프로젝트 규칙, 검색 결과, 도구 실행 결과까지 모두 합쳐져 AI가 판단할 수 있는 Context ...

오늘 처음으로 Codex를 설치해 보았다.  무료 플랜이라 사용할 수 있는 모델이 ' 5.6 Terra'  만 가능했다.  무료 플랜으로 만들 수 있는  실제로 사용할 수 있는 작은 자동화 도구 를 추천해 달라고 했더니,  그 중에 이미지 리사이즈 자동화 가 있었다.   그래서 다시 채팅으로 ' 이거 하고 싶은데 어떻게 해야 해?' 라고 물어보았더니,  아래와 같이(프로젝트 목표에서 마무리까지) 자세하게 설명해 주었다.  내가 한 것은 ChatGPT가 알려준 프롬프트 대로 Codex에게 일을 시킨 거 밖에 없는데,  아래의 프로젝트 목표와 똑 같은 결과물은 아니었지만, 괜찮은 결과물이 나왔다.  이미지 resize 하고, webp 변환 과,  이미지 압축(TinyPNG 같은 기능) 까지 해봤는데,  남아있는 토큰을 봤더니 25%가 남았다.  한 달 동안 쓸 수 있는 토큰의 75%를 쓴거다.  토큰이 5시간마다 리셋이 되었으면 불가능했을텐데,  한달마다 리셋되도록 풀려서 정말 맛보기로 간단한 것은 만들어 볼 수 있을 거 같다.  결과 코드는 github 에 올려 놓았다.  Python으로 구현되었으며 자세한 설치 방법과 사용법은 README을 보면 된다.  Codex 실행 화면 프로젝트 목표 예를 들어 다음과 같은 이미지 폴더가 있다고 가정한다. images/ photo1.jpg photo2.png logo.webp 다음과 같이 명령어를 실행하면 python resize.py images --width 1200 자동으로 output 폴더에 리사이즈된 이미지를 생성한다. output/ photo1.jpg photo2.png logo.webp 즉, 여러 장의 이미지를 한 번에 원하는 크기로 변경하는 자동화 프로그램 을 만드...

들어가며 ChatGPT, Claude, Gemini 같은 생성형 AI가 일상과 업무 곳곳에 스며들면서, 이들이 얼마나 "그럴듯하게 틀린" 답변을 내놓을 수 있는지도 함께 주목받고 있습니다. 존재하지 않는 논문을 인용하거나, 없는 법 조항을 만들어내거나, 틀린 날짜와 수치를 자신 있게 제시하는 현상을 우리는 '환각(Hallucination)' 이라고 부릅니다. 환각은 단순한 버그가 아니라 대규모 언어 모델(LLM)의 근본적인 작동 방식에서 비롯되는 현상입니다. LLM은 사실을 '검색'해서 답하는 것이 아니라, 학습한 데이터를 바탕으로 통계적으로 가장 그럴듯한 다음 단어를 예측하는 방식으로 문장을 생성하기 때문입니다. 그렇기 때문에 환각을 완전히 '제거'하기보다는 '최소화'하고 '관리'하는 방향으로 기술이 발전하고 있습니다. 이번 글에서는 현재 산업계와 학계에서 활발히 연구·적용되고 있는 주요 해결 기술들을 정리해보겠습니다. 1. 검색 증강 생성 (RAG) 현재 AI 환각을 해결하는 가장 현실적이고 강력한 대안으로 평가받는 기술은 RAG(검색 증강 생성)입니다. 기존의 LLM은 사전에 학습된 데이터(Internal Knowledge)에만 의존하여 답변을 생성하므로, 학습 데이터에 없는 최신 정보나 내부 기밀 데이터 에 대해서는 환각을 일으키기 쉽습니다. RAG 기술은 사용자가 질문을 입력하면, AI가 외부의 신뢰할 수 있는 데이터베이스나 공인된 웹사이트, 혹은 기업 내부 문서를 먼저 검색(Retrieval)하도록 만듭니다. 이후 검색된 핵심 정보를 프롬프트에 실시간으로 삽입하여 LLM이 이를 기반으로 답변을 생성(Generation)하게 유도 합니다. 즉, AI에게 오픈북 테스트를 보게 하는 것과 같습니다. 이 기술을 도입하면 답변의 출처를 명확히 제시할 수 있으며, 데이터 왜곡 현상을 최대 90% 이상 억제할 수 있다는 장점이 있습니다...