AI 해커톤 1위 팀의 'AI에게 맡기지 않은 것'은?

본 해커톤에서 팀은 수기 엑셀 기반 출자 현황 관리 문제를 LLM 기반 플랫폼으로 전환하는 과제를 선택했습니다. 초기에는 단순 자동화에 초점을 맞췄으나, 프로젝트 진행 중 숫자의 신뢰성 확보와 업무 흐름의 완결성이 더 중요함을 깨달았습니다. 단순히 값을 모으는 것을 넘어, 거래 이력 추적과 검증 기준 마련을 통해 데이터의 근거와 신뢰도를 높이는 방향으로 목표를 재정의했습니다. 이는 AI 도입 시 기능 구현보다 업무의 본질적 문제 해결에 집중해야 함을 시사합니다.

팀은 AI를 단순 코드 생성 도구를 넘어 다양한 협업 파트너로 활용했습니다. 프롬프트 작성 및 결과 검토에는 페어 프롬프팅 방식을 적용했으며, AI를 평가자, 설계 파트너, 구현 보조자, 검증자로 나누어 사용했습니다. 특히, 기능 구현뿐 아니라 체크리스트 기반의 반복적 검증과 성공 기준 정의에 AI를 활용하여 결과물의 완성도를 높였습니다. 이는 AI가 탐색 및 초안 제작 속도를 높이는 데 유용하지만, 최종 판단은 사람이 내려야 함을 보여줍니다.

기존 방식과 달리, NStake 프로젝트는 현재 값 저장 대신 거래 이력 기록을 중심으로 설계되었습니다. 신규 투자, 유상증자, 지분 매도 등 시간순 거래 내역을 바탕으로 현재 보유 주식 수와 지분율을 계산했습니다. 이를 통해 계산 과정 추적이 가능해졌으며, 거래 내역과 저장된 상태의 불일치를 검증 항목으로 삼았습니다. Rule, Statistical, eXternal 세 가지 검증 기준으로 나누어 시스템의 신뢰성(Reliability)을 강화했습니다.

AI는 디자인 시안 제작 속도를 높이는 데 기여했지만, 재무팀의 업무 맥락과 신뢰성 요구사항을 충족시키기에는 부족했습니다. 귀여운 캐릭터 중심의 초기 시안은 익숙함, 신뢰감, 전문성을 중시하는 사용자에게 부적합했습니다. 결국 네이버 디자인 시스템을 적용하여 차분한 ERP 스타일로 전환했으며, AI는 초안 생성에 유용했으나 최종 디자인 판단과 세부 조정은 사람의 몫이었습니다. 이는 AI가 탐색 도구로 유용하나, 최종 의사결정자가 되기는 어렵다는 점을 보여줍니다.

재무 데이터 처리 시 AI의 안전 장치(Guardrail)는 응답 필터링보다 데이터 접근 권한 관리에 집중했습니다. AI가 모든 데이터를 조회 후 일부를 가리는 방식 대신, 로그인한 사용자의 권한 범위 내 데이터와 도구만 제공하는 구조를 설계했습니다. 이는 AI 작업 도구의 관리자 권한 최소화, 환경 분리, 파괴적 작업 시 명시적 승인 등의 원칙을 통해 구현되었습니다. 환각(Hallucination)보다 권한 오용 및 실행 통제 실패가 더 직접적인 위험임을 강조합니다.

해커톤 결과, NStake는 업무 흐름의 완결성 측면에서 높은 평가를 받았습니다. AI가 생성한 코드가 실제 업무 흐름에 연결되고, AI가 틀리거나 멈춰도 업무가 지속될 수 있는 시스템 구축이 중요했습니다. 이는 AI 도입의 시작점이 '무엇을 바꿀 것인가'일지라도, 운영 가능한 시스템을 위해서는 '무엇을 AI에게 맡기고 무엇은 맡기지 않을 것인가'에 대한 근본적인 질문으로 돌아가야 함을 의미합니다. 결국 좋은 AI 시스템은 AI가 많은 일을 하는 시스템이 아니라, 중요 업무가 흔들리지 않는 시스템입니다.