MRI 진단, AI에게 두 번째 의견을 물어보다

커뮤니티에서는 Claude와 같은 LLM이 의료 이미지를 인간처럼 인식하지 못하며, 이미지가 토큰화되는 과정에서 공간 인식 능력이 저하된다는 지적이 있습니다. 특히 방사선과 전문의들은 현재 AI가 MRI와 같은 복잡한 의료 이미지를 정확하게 해석하는 데는 상당한 한계(Significant Limitations)가 있으며, 신뢰하기 어렵다고 강조합니다. 이는 AI가 환각 추론(Mirage Reasoning) 현상을 보이거나, 실제 이미지 없이도 그럴듯한 설명을 생성할 수 있다는 연구 결과와도 맥을 같이 합니다.

사용자는 AI를 통해 의사의 진단 및 치료 계획에 대한 의문을 제기할 수 있었지만, 동시에 AI의 불확실성 때문에 또 다른 혼란을 겪고 있습니다. 전문가들은 AI가 정보 합성(Information Synthesis)에는 유용할 수 있으나, 정확하고 신뢰할 수 있는 정보(Better Information)를 제공하는 데는 아직 부족하다고 봅니다. 이는 마치 여러 정비소에서 상반된 진단을 받는 것과 유사하며, 결국 인간 전문가와의 상담이 여전히 중요함을 시사합니다.

AI의 오진이나 잘못된 정보 제공 시 책임 소재(Liability)가 불분명하다는 점은 의료 분야에서 AI 도입의 가장 큰 걸림돌 중 하나입니다. 웹사이트의 버그와 달리, 의료 분야에서의 오류는 환자의 고통이나 생명에 직접적인 영향을 미칠 수 있습니다. 따라서 AI 모델이 완벽하게 정확해야 한다는 프롬프트(Strict Prompting)와 함께, 실제 의료 현장에서는 인간 의사의 검증 및 최종 판단이 필수적이라는 의견이 지배적입니다.

일부 의사들은 환자가 AI의 조언을 가져오는 것을 긍정적으로 보며, 이를 통해 환자-의사 간의 대화를 촉진하고 환자의 이해를 도울 수 있다고 말합니다. 하지만 다른 한편에서는 AI가 의사의 진단 과정을 무시하고 맹신하는 현상(Blind Trust in AI)에 대한 우려도 존재합니다. 특히 수술이나 영상 판독과 같은 민감한 영역에서는 여전히 다수의 인간 전문가 의견을 구하는 것이 중요하다고 강조됩니다.

동일한 AI 모델이라도 어떤 인터페이스나 환경(하네스)에서 사용하느냐에 따라 결과가 크게 달라질 수 있다는 점이 지적되었습니다. 예를 들어, Claude Code와 Claude.ai의 차이가 명확하며, 이는 사용자가 AI를 어떻게 활용하느냐에 따라 결과의 질이 달라짐을 보여줍니다. 많은 사람들이 AI의 최신 기술 수준을 과소평가하고 있으며, 다양한 AI 모델과 활용 방식에 대한 이해가 필요하다는 의견이 제시되었습니다.