[AI리터러시㉟] '스티브 잡스라면?' 고수를 불러 질문을 레벨업하라

[AI소통 실전팁 2] 프롬프트(질문)를 튜닝하는 법 수준 높은 답은 수준 높은 질문에서 나온다

2025-09-21     김희연 기업전략 컨설턴트

지난 칼럼에서 AI 소통의 1원칙은 육하원칙에 따라 프롬프트를 작성하라는 것이었다. 그러나 이렇게 AI에게 질문을 던지고 지시를 했는데도 답이 밋밋하게 느껴질 때가 있다. “뭔가 핵심을 찌르는 게 부족한데?” 하는 순간 말이다. 이럴 때 유용한 방법이 있다. 바로 질문 자체를 레벨업하는 것이다.

회사에도 보면 늘 부러움의 대상이 되는 사람이 있다. 내가 횡설수설 설명을 해도 “네가 진짜 말하고 싶은 건 이거지?”라며 단번에 정리해주는 선배. 신입사원이 어설프게 물어봐도 “네가 묻고 싶은 핵심은 이런 거 아니냐?”라고 질문을 고쳐주면서 문제의 본질을 드러내는 사람. 그런 사람 손을 거치면, 질문도 보고서도 갑자기 수준이 달라진다. 우리는 흔히 이런 사람을 “고수”라고 부른다.

글 내용에 맞춰 챗GPT가 그려낸 삽화. (자료=뉴스버스)


AI를 사용할 때도 비슷하다. 내가 던진 질문이 평범하다면, 답도 평범하다. 하지만 그 질문을 고수의 손에 맡기면 전혀 다른 차원의 답이 나온다. 다행히도 우리는 실제 고수를 옆에 둘 수 없더라도, AI에게 “내 질문을 고수의 방식으로 다시 만들어 달라”고 요청할 수 있다. 이 과정을 나는 ‘프롬프트 튜닝’이라고 부른다. 자동차를 튜닝하면 성능이 달라지듯, 질문을 튜닝하면 답의 질이 달라진다.

질문의 튜닝...고수·거장·현자의 눈으로 프롬프트를 다시 짜라

예를 들어 “우리 제품을 어떻게 하면 더 많이 팔 수 있을까?”라는 질문을 해보자. 흔하고 단순한 질문이다. 답변도 가격을 낮추자, 광고를 늘리자 같은 평범한 수준에서 맴돌기 쉽다. 하지만 질문을  고수나 거장들의 방식으로 바꾸면 상황은 완전 달라진다.

스티브 잡스라면 아마도 이렇게 물었을 것이다. “어떻게 하면 사람들이 이 제품을 미치도록 갖고 싶게 만들 수 있을까? 기능을 넘어 경험 전체를 욕망의 대상으로 바꾸려면 어떻게 해야 하는가?” 잡스의 질문은 단순히 판매가 아니라 욕망의 설계로 시선을 옮긴다.

워렌 버핏이라면 이렇게 묻지 않았을까. “이 제품이 5년, 10년 뒤에도 여전히 필수적인 가치를 줄 수 있는가? 그렇다면 그 가치를 지키기 위해 우리는 무엇을 해야 하는가? 경쟁자가 쉽게 따라올 수 없는 우리의 해자(moat)는 무엇인가?” 버핏의 질문은 단기 성과가 아닌 장기적 가치와 지속 가능성에 초점을 맞춘다.

만약 소크라테스가 프롬프트를 입력한다면 이런 식으로 접근했을 듯 하다. “정말 ‘더 많이 팔아야 한다’는 전제 자체가 옳은가? 우리는 고객의 진짜 문제를 제대로 이해하고 있는가? 혹시 문제를 잘못 정의한 건 아닌가?” 소크라테스의 질문은 전제를 의심하고 근본을 되묻는다.

이렇게 하나의 질문이 세 사람의 렌즈를 거치면, 단순한 판매 고민이 경험의 혁신·지속 가치·문제 재정의라는 전혀 다른 방향으로 확장된다. 답변의 깊이와 폭이 달라지는 것이다.

질문을 어떻게 튜닝할 것인가?

이 과정을 가능하게 해주는 장치가 바로 프롬프트 튜너(prompt tuner)다. 자동차를 튜닝해 성능을 레벨업시키듯 질문도 튜닝을 해볼 필요가 있다. 질문 튜닝 역시도 AI의 손을 빌리면 된다.

평범한 질문을 AI에게 던지면서 이렇게 말해보라. “내가 한 질문을 인류 최고의 전문가 3명이 본질을 파악하는 질문으로 다시 재구성해줘.”

그러면 AI는 전문가의 렌즈를 빌려 내 질문을 세공해 준다. 평범한 질문이, 고수의 질문으로 탈바꿈하는 것이다. 이 방식을 활용하면 우리는 언제든 가상의 멘토단을 곁에 둘 수 있다. 잡스의 창의력, 버핏의 통찰, 소크라테스의 철학적 사고를 내 옆에 불러놓고 조언을 얻는 셈이다.

실제 활용 예시

예를 들어 팀 성과가 떨어진 상황을 가정해 보면 통상은 이렇게 묻는다. “팀 성과를 어떻게 높일 수 있을까?” 하지만 AI에게 프롬프트 튜너를 적용하면, 질문은 다음과 같이 변한다.

- 조직심리학자 에이미 에드먼슨: “우리 팀원들이 실수를 두려워하지 않고 질문할 수 있는 안전한 환경이 마련되어 있는가?”

- 경영 구루 짐 콜린스: “우리 팀은 ‘적합한 사람’을 ‘적합한 자리에’ 두고 있는가? 팀의 핵심 목적은 명확한가?”

- 시스템 사고의 피터 센게: “성과 저하가 개인 문제라기보다 구조적 문제라면, 어떤 순환 고리가 이를 악화시키고 있는가?”

질문을 레벨업하면 답도 레벨업

한 단계 높은 답은 한 단계 높은 질문에서 나온다. 평범한 질문은 평범한 답을 부른다. 하지만 거장의 눈으로 재구성된 질문은 새로운 차원의 통찰을 끌어낸다. AI를 통해 우리는 언제든 가상의 멘토단을 옆에 둘 수 있다. 질문을 어떻게 던지느냐에 따라 답의 무게가 달라진다.

다음 주에는 AI와의 ‘대화의 기술’이다. 한 번의 질문으로 끝내지 않고 지속적인 대화를 이어가는 방법과 결과물을 완성도 높게 다듬는 실전 노하우를 소개한다.

김희연은 기업전략 컨설턴트다. 씨티은행에서 출발,  현대·굿모닝·신한·노무라 증권의 IT애널리스트를 거쳐 2009년 LG디스플레이로 자리를 옮겼다. 금융·증권·IT·제조 분야를 아우르는 경험을 바탕으로 LG디스플레이 최고전략책임자(CSO)에 올라 전략·마케팅·신사업 발굴·IR을 총괄했다. 퇴임 후엔 AI를 통해 현자 및 석학들과 대화하며 전략·리더십 해법을 탐색하는 <AI스토밍(AI-Storming) 방식> 을 창안했고, 관련 저작권도 갖고 있다. 현재는 이 독창적 방법론을 기반으로 기업과 기관에 <전략 컨설팅> 및 <AI활용 교육> 등을 하고 있다.  ‘AI 시대 공감이 경쟁력’이라는 주제로 쓴  <공감지능시대>라는 저서가 있다.