AI, 프로그래밍의 미래인가, 또 다른 'The Last One'인가?

저자는 AI 시스템이 해석(Interpretation), 예측 가능성(Predictability), 발견 가능성(Discoverability) 측면에서 심각한 결함을 가지고 있다고 주장한다. 특히, AI 시스템은 유효하지 않은 입력(Invalid Input)을 일관되게 거부하지 못하며, 사용자가 시스템의 작동 방식을 예측하기 어렵게 만든다. 이러한 특성은 사용자가 AI에 대한 정확한 정신 모델(Mental Model)을 구축하는 것을 방해하며, 엘리자 효과(Eliza Effect)를 유발하여 AI에 과도한 기대를 갖게 한다.

저자는 엘리자 효과(Eliza Effect)를 통해 사용자가 AI 시스템에 과도한 지적 능력을 부여하는 경향을 지적한다. 이는 사용자가 AI의 한계를 인지하지 못하고, AI와의 상호작용에서 잘못된 기대를 형성(False Expectation)하게 만든다. 저자는 이러한 현상이 AI 시스템의 신뢰성(Reliability)을 저해하고, 실제 문제 해결 능력에 대한 과대평가를 유발한다고 경고한다. 또한, AI가 튜닝된 노이즈(Tuned Noise)를 생성하는 데는 유용할 수 있지만, 창의적 통제력을 희생시킨다고 주장한다.

저자는 전통적인 프로그래밍 언어가 사용자에게 더 나은 경험(Better Experience)을 제공한다고 강조한다. 이러한 언어는 해석(Interpretation), 예측 가능성(Predictability), 발견 가능성(Discoverability)을 통해 사용자가 시스템의 작동 방식을 이해하고, 문제를 효과적으로 해결할 수 있도록 돕는다. 저자는 AI 기반 도구가 이러한 기본적인 설계 원칙을 간과하고 있으며, 결국 사용자를 혼란스럽게 만들 수 있다고 비판한다. 또한, 전통적인 프로그래밍 언어는 사용자가 창의적인 문제 해결(Creative Problem Solving)을 할 수 있도록 지원한다.

저자는 AI가 튜닝된 노이즈(Tuned Noise)를 생성하는 데 유용할 수 있다는 점을 인정한다. 특히, 머신 러닝 모델(Machine Learning Models)은 이러한 노이즈를 활용하여 다양한 작업을 수행할 수 있다. 그러나, 저자는 AI가 창의적 통제력(Creative Control)을 희생시키면서, 예측 불가능성을 증가시킬 수 있다고 지적한다. 따라서, AI의 활용은 신중하게 접근해야 하며, 사용자가 시스템의 작동 방식을 이해하고 통제할 수 있도록 설계되어야 한다.