ChatGPT를 몇 달째 쓰고 있다. 인터넷에서 본 사례들 덕분에 이 도구가 얼마나 강력한지는 안다. 그런데 막상 직접 써보면 핵심을 비껴간 뻔한 문장 덩어리만 돌아온다. 그래서 다시 표현을 바꾸고, 답을 새로 받고, 또 표현을 바꾼다. 20분이 지났는데도 여전히 쓸만한 답을 얻으려고 씨름하는 중이다.
불편한 진실은 이거다. 문제는 보통 ChatGPT가 아니다. 당신이 묻는 방식이다.
주간 활성 사용자 8억 명이 매일 25억 개의 프롬프트를 보내는 ChatGPT는 업무와 일상의 기본 AI 도구가 됐다. 하지만 대다수 사용자는 결과를 망치는 똑같은 실수를 반복한다. AI를 정말 유용하게 쓰는 사람과 답답해서 포기하는 사람의 차이는 결국 이 피할 수 있는 실수 몇 가지로 갈린다.
이 글에서는 가장 흔한 프롬프트 엔지니어링 실수 10가지를, 구체적인 예시와 바로 쓸 수 있는 해결법과 함께 정리한다.
실수 1: 너무 막연하게 묻기
Great Learning의 조사에 따르면 이게 단연 가장 흔한 실수다. "기사 써줘"나 "이력서 좀 봐줘" 같은 문장을 입력하면 ChatGPT에게 줄 수 있는 정보가 거의 없는 셈이다. 주제도, 독자도, 톤도, 목적도 모르니 그냥 추측한다. 그리고 그 추측은 대개 빗나간다.
막연한 프롬프트:
생산성에 대한 글을 써줘.
구체적인 프롬프트:
집에서 산만함 때문에 어려움을 겪는 원격 근무자를 위해, 시간 블록 기법 세 가지를 다루는 600단어짜리 블로그 글을 써줘. 대화하듯 친근한 톤으로, 각 기법마다 실전 예시를 하나씩 포함해줘.
두 번째 프롬프트는 무엇을, 누구를 위해, 어떤 스타일로, 어느 정도 분량으로 만들어야 하는지 정확히 알려준다. 추측할 필요가 없다.
해결법: 엔터를 누르기 전에 자문해보자. 신입 동료가 이 정보만 가지고 이 일을 할 수 있을까? 그렇지 않다면 그 동료가 필요로 할 정보를 더 적어 넣자.
실수 2: 한 프롬프트에 너무 많이 욱여넣기
조사하고, 개요 잡고, 본문 쓰고, 서식 맞추고, 교정까지 한꺼번에 시키면 모든 항목에서 얕은 결과가 나온다. AI는 모든 요청을 충족시키려 애쓰지만, 어느 하나에도 제대로 집중하지 못한다.
과부하 걸린 프롬프트:
소규모 비즈니스를 위한 최고의 CRM 도구들을 조사하고, 기능과 가격을 비교하고, 추천 보고서를 쓰고, 각각의 장단점을 포함하고, 글머리 기호를 사용한 프레젠테이션 형식으로 만들어줘.
더 나은 접근: 단계별로 쪼개자.
먼저: "직원 20명 미만의 소규모 비즈니스를 위한 CRM 도구 상위 5개를 알려줘."
그다음: "이 5개 CRM을 가격, 사용 편의성, 핵심 기능 기준으로 비교해줘. 표 형식으로 정리해줘."
마지막으로: "이 비교를 바탕으로 소규모 마케팅 에이전시를 위한 200단어 분량의 추천 글을 써줘."
해결법: 한 프롬프트에 한 가지 작업만. 후속 메시지로 이전 답변 위에 쌓아 올리자. ChatGPT는 대화 맥락을 기억하니 한 번에 다 넣을 필요가 없다.
한꺼번에 다 넣은 프롬프트와 작업을 단계별로 쪼갠 프롬프트의 비교
실수 3: ChatGPT가 내 상황을 안다고 가정하기
내 상황을 이미 아는 동료에게 말하듯 프롬프트를 쓴다. 디테일은 생략하고, "그 프로젝트"나 "그 고객"이라고만 언급하면서 ChatGPT가 사람처럼 알아서 점을 이어주길 기대한다.
그렇게 안 된다. ChatGPT는 당신의 회사, 진행 중인 프로젝트, 이전 대화를 전혀 기억하지 못한다(같은 채팅을 이어가는 게 아니라면). 맥락이 없으면 일반적인 가정으로 빈칸을 채운다. 그래서 그럴듯하게 들리지만 엉뚱한 문제를 푸는 답이 나오는 것이다.
맥락이 부족한 프롬프트:
이 고객 불만에 어떻게 답하면 좋을지 도와줘.
맥락이 풍부한 프롬프트:
고객 불만에 답장을 쓰는 걸 도와줘. 상황은 이렇다:
- 우리는 온라인 식물 가게다
- 고객이 주문한 몬스테라가 배송 중 추위로 잎이 손상된 채 도착했다
- 우리 정책상 배송 손상은 무료 교체가 가능하다
- 따뜻하게 사과하면서 교체 가능성을 분명히 안내하는 톤이 좋다
해결법: 모든 프롬프트에 관련 배경을 포함하자. 회사 정보, 독자 정보, 이전에 시도한 것, 제약 조건—낯선 사람이 이 일을 잘 해내는 데 도움이 될 모든 것.
실수 4: 역할 지정 건너뛰기
역할을 지정하지 않으면 ChatGPT는 평범한 AI 비서로 답한다. 출력에는 초점도, 전문성도, 개성도 부족하다. 단순한 "~로 행동해줘" 한 줄이 답변의 어휘, 깊이, 관점을 통째로 바꾼다.
역할 없이:
뮤추얼 펀드를 설명해줘.
역할 지정:
너는 금융 배경이 전혀 없는 첫 투자자에게 뮤추얼 펀드를 설명하는 재무 상담사다. 단순하게 풀어주고, 전문 용어는 피하고, 친근한 비유를 사용해줘.
써볼 만한 역할들:
"너는 이메일 마케팅을 전문으로 하는 경력 카피라이터다."
"주니어 동료의 코드를 리뷰하는 시니어 개발자처럼 행동해줘."
"너는 완전 초심자에게 이걸 설명하는, 인내심 많은 선생님이다."
"설득이 필요한 회의적인 고객으로서 답해줘."
해결법: 특정 관점이나 전문성이 필요할 땐 "너는..."이나 "~로 행동해줘"로 시작하자. "너는 글쓰기를 도와주는 비서다" 정도의 단순한 역할도 안 하는 것보단 낫다.
실수 5: 형식과 톤을 지정하지 않기
ChatGPT는 기본적으로 중립적인 톤의 산문 단락으로 답한다. 글머리 기호, 표, 특정 분량, 특정 목소리가 필요하면 요청해야 한다. 그러지 않으면 AI로 아낀 시간보다 결과물을 다시 다듬는 데 더 많은 시간을 쓰게 된다.
형식 미지정:
내 이력서에 피드백을 줘.
형식 지정:
내 이력서를 검토하고 다음 형식으로 피드백을 줘:
- 강점 3가지 (각 한 문장)
- 개선이 필요한 부분 3가지 (각 한 문장)
- 자기소개 섹션에 대한 구체적인 제안 1가지
톤은 직설적이고 건설적으로 유지해줘.
지정할 만한 형식 옵션들:
분량: "100단어 이내로" 또는 "500단어 분량의 상세한 답을 써줘"
구조: "글머리 기호로" 또는 "번호 매긴 목록으로" 또는 "표로 정리해줘"
톤: "가볍고 친근하게" 또는 "전문적이고 격식 있게" 또는 "재치 있되 느끼하지 않게"
스타일: "짧고 강한 문장으로" 또는 "각 항목마다 구체적인 예시 포함"
해결법: 항상 형식과 톤을 지정하자. 5초만 더 쓰면 편집에 들 5분을 아낄 수 있다.
실수 6: 한 번 시도하고 포기하기
대부분의 사람은 ChatGPT를 슬롯머신처럼 다룬다. 프롬프트를 입력하고, 결과를 받고, 받아들이거나 처음부터 다시 한다. 하지만 프롬프트 엔지니어링은 반복 작업이다. 첫 답변이 완벽한 경우는 드물고, 그게 정상이다. 진짜 실력은 다듬어 가는 데 있다.
OpenAI의 공식 가이드도 테스트와 반복이 필수라고 강조한다. "프롬프트 엔지니어링의 상당 부분은 시행착오다. 프롬프트를 쓰고, 결과를 보고, 원하는 답을 얻을 때까지 다듬어야 한다."
처음부터 다시 하지 말고 이렇게 시도해보자:
"좋은 시작이야. 좀 더 간결하게 다듬어줘."
"기능보다 고객 혜택에 더 집중해줘."
"더 구체적인 예시를 넣어서 다시 써줘."
"너무 격식 있어. 대화하듯이 들리게 바꿔줘."
"세 번째 항목이 약해. 구체적인 예시를 들어서 보강해줘."
해결법: 첫 답변을 초안으로 여기자. 후속 메시지로 피드백을 주자. 두세 번 반복하면 단발성 프롬프트로는 절대 못 만들 결과가 나온다.
실수 7: 피해야 할 것을 알려주지 않기
원하는 게 뭔지는 말한다. 그런데 원하지 않는 게 뭔지도 말하고 있는가? 부정적 제약은 의외로 강력하다. AI 출력에 흔히 끼는 뻔한 군더더기를 제거해 결과를 한층 또렷하게 만들어준다.
제약 없이:
새로 출시하는 프로젝트 관리 도구의 제품 설명을 써줘.
부정적 제약 포함:
새로 출시하는 프로젝트 관리 도구의 제품 설명을 써줘.
피해야 할 것:
- "혁신적인 솔루션"이나 "업계 최고" 같은 뻔한 표현
- "시너지"나 "레버리지" 같은 유행어
- "소개합니다..."나 "만나보세요..."로 시작하기
- 느낌표
- 증명할 수 없는 주장("1위 도구"나 "가장 빠른")
해결법: 평소 뻔한 답에 실망했던 프롬프트에는 "피해야 할 것"이나 "포함하지 말 것" 섹션을 더하자. 어떤 AI 클리셰가 거슬리는지 본인이 가장 잘 안다. 그걸 빼라고 명시하자.
AI 출력 품질을 높이는 부정적 제약 예시를 보여주는 프롬프트 카드
실수 8: 답변을 모두 그대로 믿기
ChatGPT는 완전히 틀린 내용을 자신만만하게 말할 수 있다. 그럴듯한 문장을 만들어내지만, 데이터베이스처럼 사실을 "아는" 게 아니다. 이걸 환각(hallucination)이라고 부르는데, 생각보다 자주 일어난다. 특히 구체적인 사실, 날짜, 통계, 시간이 지나면 바뀌는 정보에서 자주 발생한다.
WebFX 보고서는 환각이 "ChatGPT의 가장 크고 가장 많이 기록된 한계일 가능성이 크다"고 지적한다. 모든 답변에는 전문적이고 확신에 찬 어조로 위장한 거짓 정보가 섞일 가능성이 있다.
특히 위험한 영역:
통계와 연구 인용
회사 관련 정보(투자, 매출, 정책)
법률·의료 조언
최근 사건(학습 데이터 기준일 이후 일어난 일)
기술 사양이나 버전 번호
해결법: 발행하거나 공유하기 전에 사실은 반드시 따로 확인하자. ChatGPT는 초안 작성과 아이디어 발상용으로 쓰고, 진실의 출처로 삼지 말자. 정확성이 중요할 땐 출처를 인용해 달라고 요청하고, 그 출처가 실제로 존재하는지 직접 확인하자.
실수 9: 한 채팅에 여러 주제를 섞기
ChatGPT는 답을 만들 때 대화 전체 기록을 참고한다. 한 주제를 다듬을 땐 도움이 되지만, 대화 도중에 주제를 바꾸면 문제가 생긴다. 앞서 했던 마케팅 이야기의 맥락이 뒤이은 코딩 질문에 스며든다. AI도, 당신도 헷갈리게 된다.
새 채팅이 필요하다는 신호:
지금은 관계없는, 앞서 언급한 내용을 답변에서 자꾸 끌어온다
톤이나 형식이 요청한 것과 맞지 않는다
ChatGPT가 어떤 모드에 "갇힌" 듯 보인다
완전히 다른 종류의 작업을 시작하려 한다
해결법: 별개의 주제나 프로젝트마다 새 채팅을 시작하자. 클릭 한 번이면 답변 품질을 떨어뜨리는 맥락 오염을 막을 수 있다.
실수 10: 잘 통한 프롬프트를 저장하지 않기
드디어 완벽한 프롬프트를 만들었다. 다듬는 데 15분이 걸렸지만 결과는 정확히 원하던 그대로다. 그걸 사용해 멋진 출력을 얻고, 채팅을 닫는다.
2주 뒤, 같은 게 또 필요하다. 그 프롬프트는 어디 있지? 채팅 기록 어딘가에 묻혀 있거나 영영 사라졌다. 그래서 다시 처음부터 시작한다. 또.
이게 바로 조용히 생산성을 갉아먹는 함정이다. AI에서 가장 큰 가치를 뽑아내는 사람들이 반드시 프롬프트를 더 잘 쓰는 건 아니다. 그들은 통한 프롬프트를 저장하고 재사용하는 데 더 능하다. 매번 바퀴를 다시 발명하는 대신 시간이 흐르면서 자기만의 라이브러리를 쌓아간다.
해결법: 잘 통한 프롬프트는 다시 찾을 수 있는 곳에 저장하자. 메모 앱, 문서, 전용 도구—채팅 기록이나 기억력에 의존하는 것보다는 뭐든 낫다.
프롬프트에 매번 바뀌는 부분(고객명, 주제, 날짜)이 있다면 자리 표시자를 넣은 템플릿으로 저장하자. PromptNest 같은 도구가 바로 이 용도로 만들어졌다. {{client_name}}이나 {{topic}} 같은 변수를 넣어 프롬프트를 저장하고, 복사할 때 빈칸을 채우면 몇 초 만에 최종 프롬프트가 준비된다.
대부분의 문제를 해결하는 간단한 프레임워크
프롬프트가 잘 안 통할 때 이 체크리스트를 훑어보자. OpenAI의 모범 사례와 실전 테스트를 토대로 보면, 대부분의 문제는 다음 요소 중 하나를 빠뜨려서 생긴다.
TACCF 프레임워크:
Task(작업) — 정확히 뭘 원하는가? 구체적으로 적자.
Audience(독자) — 누구를 위한 것인가? 그들이 무엇을 알고 있는가?
Context(맥락) — ChatGPT에게 어떤 배경이 필요한가?
Constraints(제약) — 무엇을 피해야 하나? 어떤 한계가 있는가?
Format(형식) — 결과물은 어떤 모습이어야 하나?
다섯 가지를 모두 사용한 예시는 이렇다:
영업 데모 후의 후속 이메일을 써줘. (Task)
독자: 관심은 있어 보였지만 예산 문제를 언급한, 중견 이커머스 회사의 마케팅 디렉터. (Audience)
맥락: 우리는 CRM 회사다. 데모는 잘 진행됐고, 자동화 기능을 마음에 들어했지만 가격을 두 번 물어봤다. 그녀의 팀은 현재 Salesforce를 쓰는데 너무 복잡하다고 느낀다. (Context)
제약: 강압적이거나 압박감을 주는 표현은 쓰지 마라. 경쟁사를 이름으로 언급하지 마라. 150단어 이하로 유지해라. (Constraints)
형식: 제목 + 본문. 따뜻하지만 전문적인 톤. (Format)
이건 "후속 이메일 써줘"보다 쓰는 데 시간이 더 걸린다. 하지만 다섯 번째 시도가 아니라 첫 번째 시도에서 바로 쓸 수 있는 결과가 나온다.
오늘부터 더 나은 결과를 얻자
고급 프롬프트 기법을 모두 익힐 필요는 없다. 이 10가지 실수만 피해도 대부분의 ChatGPT 사용자보다 앞서 갈 수 있다.
한 가지 변화부터 시작하자. 다음에 프롬프트를 쓸 때 평소 빠뜨리던 요소 하나를 더 넣어보자. 형식을 지정하거나, 맥락을 포함하거나, 피해야 할 것을 알려주는 것. 차이를 직접 확인해보자.
그리고 잘 통한 프롬프트는 저장하자. 자신만의 라이브러리를 쌓자. 최고의 프롬프트 엔지니어들은 끊임없이 새로 만들어내는 게 아니다. 이미 검증된 것을 끊임없이 재사용한다.
프롬프트를 위한 전용 공간—프로젝트별로 정리되고, 검색 가능하며, 매번 바뀌는 부분을 위한 변수까지 내장된 곳—이 필요하다면 PromptNest가 바로 그 용도로 만들어진 네이티브 Mac 앱이다. Mac App Store에서 일회성 결제 $19.99, 구독도 계정도 없고, 컴퓨터에서 로컬로 동작한다. 물론 Google Docs로도 충분하다. 중요한 건 시스템을 갖추는 일이다.
프롬프트와 씨름하지 말자. 실수를 고치고, 통한 것을 저장하고, AI가 실제로 당신을 도울 수 있게 해주자.