AI 코딩, '왜'가 없으면 껍데기뿐입니다.

AI는 '무엇(what)'과 '어떻게(how)'만 주어졌을 때 문법적으로 완벽하고 구조적으로 그럴듯하지만, 기능적으로는 텅 빈 코드를 생성하는 경향이 있음. 이는 AI의 '환각(Hallucination)'과 '창의성(Creativity)'이 같은 생성 메커니즘에서 비롯되기 때문임. 규칙(Rules)으로 AI의 출력 범위를 제한하면, 헛소리(Hallucination)가 나올 자리를 막는 동시에 창의적인 해결책까지 차단하게 됨. 결과적으로 AI는 빠른 코딩 기계가 될 뿐, 진정한 문제 해결 능력을 발휘하지 못함. 이는 에이전트 시어터(agent theater) 또는 에이전트 워싱(agent washing) 현상으로 나타남.

AI에게 '왜(why)'라는 맥락, 즉 판단 기준과 의사결정의 근거를 제공하면 결과물의 품질이 비약적으로 향상됨. 이는 AI 모델 자체를 변경하거나 파인튜닝(Fine-tuning)하지 않고도, 추론 시점(inference time)에 참조하는 컨텍스트(Context)만으로 소프트 파인튜닝(Soft Fine-tuning) 효과를 얻는 것과 같음. '왜'는 AI에게 창의성을 유지하면서도 헛소리를 걸러낼 분별력을 부여하며, 규칙(Rules) 기반 제약과는 다른 접근 방식을 제공함. 예를 들어, '혼자 일하는 시스템은 팀 운영 시스템보다 더 엄격해야 한다'는 원칙은 시스템적 안전망(Systemic Safety Net)의 부재를 고려한 판단 기준이 됨.

AI와의 협업은 창의성(Creative), 환각(Hallucination), 원칙(Principles)이라는 세 가지 힘의 줄다리기(CHP)로 요약됨. 이 세 가지를 동시에 만족시킬 수는 없으며, 하나를 얻으면 다른 하나를 포기해야 하는 트레이드오프(Trade-off) 관계에 있음. 규칙(Rules)은 원칙을 강화하지만 창의성과 환각을 동시에 억누르고, 창의성을 풀어주면 환각이 따라옴. '왜'라는 맥락은 이 삼각형에서 환각은 억제하되 창의성은 보존하는 우회로(Detour) 역할을 함. 이 균형점은 만드는 제품의 특성(Product Characteristics)에 따라 동적으로 조절되어야 함.

AI 결과물의 품질은 창의성과 원칙 간의 균형점, 즉 CHP 다이얼(Dial)을 어떻게 설정하느냐에 따라 달라짐. 프론트엔드나 UX처럼 실패의 영향이 적고 롤백이 용이한 영역은 창의성 쪽으로 다이얼을 돌리고, 메시지 브로커나 데이터 파이프라인처럼 신뢰성이 중요한 영역은 원칙 쪽으로 끝까지 돌려야 함. 자율 판단이 필요하면서도 엄격한 운영 경계 내에 있어야 하는 에이전트 영역은 이 둘 사이의 정교한 균형점(Precise Balance Point)을 찾아야 함. 이 다이얼을 각 영역에 맞게 조정하는 것이 AI 협업의 핵심 노동임.

AI와 함께 일하는 사람의 진짜 병목은 코딩이나 시스템 설계가 아니라, 각 영역에 맞는 CHP 다이얼을 설정하는 노동임. 유능한 AI일수록 더 많은 선택지를 제공하므로, 이를 분별하기 위한 정교한 판단 기준('왜')이 더욱 중요해짐. AI에게 '어떻게 헛소리를 덜 하게 만들까'가 아닌, '어떻게 헛소리와 좋은 아이디어를 스스로 구분하게 할까'를 질문해야 함. AI는 주어진 맥락을 거울처럼 비추므로, 명확한 '왜'를 제공하면 AI는 스스로 결과물을 평가하고 진짜 작동하는 코드를 생성하게 됨.