AI 전환(AX), 슬라이드가 아닌 코드로 증명한 6개월의 기록
AI 전환(AX)의 복잡한 여정을 '환호→정체→신남→의구심→이륙' 곡선으로 정의하며, 실제 시스템 구축을 통해 이를 극복하는 과정을 기록함.
매니저 코칭 지원 시스템, task·스킬 기반 인력 재배분, 사내 지식 공유 라이브러리 등 6가지 핵심 AI 기반 시스템 구축 경험을 공유함.
모델 종속성 탈피, 프롬프트 버전 관리, 검수자 분리, 데이터 정제, 거버넌스 레일 구축 등 실제 구현 과정에서 얻은 실질적인 교훈을 강조함.
AI 모델 교체 용이성을 위한 설계 전략
본문에서는 특정 AI 모델에 대한 종속성을 피하기 위해 '모델은 갈아끼우는 부품'이라는 관점으로 시스템을 설계했다고 강조한다. 범용 모델, 사내 모델, 경량 모델, 최신 외부 모델까지 여러 모델을 테스트하며 발생한 응답 잘림(Response Truncation), 빈 값 반환(Empty Value Return), 게이트웨이 오류(Gateway Errors) 등의 시행착오를 겪었다. 특정 모델에 시스템의 운명을 맡길 경우, 해당 모델의 변경이나 단종이 치명적인 재앙이 될 수 있음을 시사한다. 따라서 추상화 계층(Abstraction Layer)을 두어 모델 교체 비용을 최소화하는 것이 핵심 전략임을 보여준다.
프롬프트 엔지니어링의 버전 관리와 '편집점'으로서의 AI
AI의 역할을 '대화 상대'가 아닌 '편집점(Editing Point)'으로 재정의한 점이 주목할 만하다. 초기에는 떠다니는 챗봇 형태였으나, 좌우 분할 편집 모달 형태로 변경하자 사용자 사용성이 비약적으로 향상되었다. 또한, 프롬프트(Prompt) 역시 코드처럼 버전 관리해야 함을 강조하며, 가드레일을 코드에서 DB 프롬프트로 옮기고 스냅샷, diff, 롤백 UI까지 구현한 경험을 공유한다. 이는 AI 모델의 응답 길이를 조절하기 위해 `max_tokens` 값을 반복적으로 튜닝하며 '잘림(Truncation)'과 '비용·속도(Cost·Speed)' 사이의 균형점을 찾는 과정과도 연결된다.
내부 인재 시장(Internal Talent Marketplace) 구축의 핵심
직무 중심의 인력 배치를 task와 skill 중심으로 전환하기 위해, 업무 분류 체계(Task Taxonomy) 표준화와 비표준 데이터 정제에 가장 많은 공수를 투입했다. 화려한 매칭 알고리즘보다 분류 체계 수립과 현실 데이터(엑셀 등)를 표준 스키마로 변환하는 레이어가 플랫폼의 뼈대가 된다고 설명한다. 한국 현장의 직접 구축 사례가 부족하여 '분류 체계 정의'와 '데이터 정제'가 승부처임을 몸소 체득했음을 보여준다. 이는 결국 데이터 품질(Data Quality)과 체계적인 분류(Systematic Classification)가 내부 인재 관리 시스템의 성공을 좌우함을 시사한다.
에이전트 기반 파이프라인의 거버넌스와 '레일' 설계
개별 에이전트 구축의 용이성으로 인해 발생하는 '출처 불명의 자동화' 문제를 해결하기 위해, 에이전트마다 최소한의 신원 정보(소유자, 용도, 모델, 위험등급, 통과 게이트)를 부여하는 표준을 만들었다. 초기 중앙 집중식 검문소 방식에서 개발자의 손끝에서 자연스럽게 걸리는 '가벼운 레일(Lightweight Rail)' 방식으로 전환했다. 이는 '통제(Control)'가 아닌 '안전한 흐름 유도(Guidance)'에 초점을 맞춘 접근이다. 위험 등급과 운영 전환 게이트를 연동하여 위험도가 높을수록 더 많은 검증 단계를 거치도록 설계했다. 이는 '거버넌스(Governance)'보다 '레일(Rail)'이라는 표현으로 함축된다.
AI 기반 HR 챗봇의 '검증'과 '인간 게이트'의 필수성
HR 정책을 답변하는 챗봇에 정책 변경 관리 기능을 추가하며 발생한 문제점을 다룬다. 특히 AI가 생성하는 정보의 '거짓 보고(False Reporting)' 가능성을 지적하며, 자가 발전 기능이 곧장 데이터를 수정하는 것이 아니라 이중 시간(Bi-temporal) 이력 관리와 4-eye 승인(Four-eyes Approval) 같은 인간 게이트를 통과하도록 설계했다. 이는 AI의 자동화가 늘어날수록 '최종 책임 소재(Ultimate Responsibility)'를 명확히 하는 것이 중요함을 강조한다. 또한, 중첩 객체 내 평문 개인정보 누수 차단 및 데모-실데이터 교차 오염 방지 등 설계 단계에서의 보안 강화 필요성을 역설한다.
개발자 도구의 전사 확산과 LLM 기반 협업 모델
기존 개발자 도구(Git, Wiki, 노트 앱)가 비개발 직군으로 확산되고, 그 위에 LLM이 요약, 정리, 변환 계층으로 얹히는 현상을 설명한다. 개발자가 동료의 도구 온보딩을 돕고 산출물을 HTML 보고서로 변환해 공유하는 등 새로운 형태의 협업이 나타나고 있음을 보여준다. 이는 AX가 단순히 새 도구를 도입하는 것이 아니라, 기존 개발자 도구의 활용 범위를 확장하고 LLM을 통합하는 과정에 가까움을 시사한다. 결국, 일하는 방식의 재설계(Redesign of Workflows)가 코드로 구현될 때 진정한 AX가 시작된다는 메시지를 전달한다.
