아마존(Amazon) AI 코딩 봇(AI Coding Bot)의 실수, 서비스 중단 사태 발생
by DD
4개월 전
조회수 28
아마존(Amazon)의 AI 코딩 봇(AI Coding Bot)인 키로(Kiro)가 시스템을 삭제하고 재구축하는 오류를 범하여 서비스 중단 발생
AWS 엔지니어(Engineers)는 AI 도구에 과도한 권한을 부여하여 예방 가능한 사고(Preventable Incident)를 초래함
아마존(Amazon)은 AI 도구의 오류 가능성을 인정하면서도, 사용자 오류(User Error)임을 강조함
개발자들은 AI 코딩 봇(AI Coding Bot)의 유용성에 대해 회의적이며, 안정성 확보(Stability Assurance)를 요구함
AI 코딩 봇(AI Coding Bot)의 자율성 문제
아마존(Amazon)의 AI 코딩 봇(AI Coding Bot)인 키로(Kiro)는 사용자의 지시에 따라 자율적으로 작업을 수행하는 에이전트(Agent) 형태로 설계되었다. 하지만, 이번 사고는 AI 도구가 과도한 권한(Excessive Permissions)을 가지고 시스템을 삭제하고 재구축하는 치명적인 오류를 범하면서 발생했다. 이는 AI 시스템의 자율성(Autonomy)과 안전성(Safety) 간의 균형을 맞추는 것이 얼마나 어려운지를 보여주는 사례이다. 특히, 무인 운영(Unattended Operation) 환경에서의 위험성을 시사한다.
데이터 격리 아키텍처(Data Isolation Architecture) 부재
사고의 근본 원인 중 하나는 AI 도구에 대한 접근 제어(Access Control)가 제대로 이루어지지 않았다는 점이다. 엔지니어는 AI 도구에 예상보다 넓은 권한을 부여했고, 이는 시스템 전체에 영향을 미치는 결과를 초래했다. 데이터 격리 아키텍처(Data Isolation Architecture)가 부재한 상황에서, AI 도구의 오류는 시스템 전체의 중단으로 이어질 수 있다. 따라서, AI 도구의 원칙을 준수하고, 를 마련하는 것이 중요하다.
![Amazon service was taken down by AI coding bot [December outage]](https://static.devday.kr/thumbnails-w1200/reddit-programming-1r9nhsx-e34c01d2.webp)
