IUI 2025: AI는 인간을 대체? NO! 인간을 강화해야!

리얼리티 디자인은 인간의 경험 전체를 디자인 대상으로 삼는 개념이다. AI, 센서, 웨어러블 기기, XR 기술을 통해 인간의 지각, 인지, 기억을 증강한다. 따라서 기술이 인간의 사고와 학습 의지를 약화시키지 않도록 주의해야 한다.

AI 투명성은 기술적 설명 가능성을 넘어 사용자가 이해하고 신뢰할 수 있는 수준으로 구현되어야 한다. 불확실성 커뮤니케이션, 반사실적 설명, 상호작용 기반 투명성을 통해 신뢰를 구축한다. 투명성과 통제는 함께 설계되어야 한다.

상호작용 머신러닝(IML)은 사용자가 학습 과정에 직접 개입하는 방식이다. 사용자의 피드백을 반영하여 모델을 개선한다. Human-in-the-Loop 개념으로, 교육, 사용자 인터페이스 디자인, 연구 지원 도구 등 다양한 분야에서 활용된다. 따라서 AI는 사용자와 상호작용하며 성장해야 한다.