[한 줄 요약] 인공지능의 놀라운 진단 능력 이면에 존재하는, 예측 불가능한 오류와 책임의 문제를 다룹니다.
2026년 7월 26일자 기사 내용에 따르면, 최근 ChatGPT의 의료 조언을 믿었다가 생명에 위협을 느낀 한 남성이 OpenAI와 그 CEO를 상대로 소송을 제기했습니다.
플로리다 출신의 전직 목사인 스콧 윈터스는 어지러움과 혈압 불안정 증상에 대해 ChatGPT-4o와 여러 차례 상담했습니다. 하지만 챗봇은 그의 증상을 가벼운 것으로 치부하며 안정을 취할 것을 권고했고, 결국 그는 폐색전증이라는 심각한 상태에 이르게 되었습니다. 윈터스의 법률팀은 이러한 AI의 잘못된 조언이 가져온 비극적인 결과를 지적하며, OpenAI의 건강 관련 기능에 대한 독립적인 안전 평가를 요구하고 있습니다.
이러한 사건은 단순히 한 개인의 불행을 넘어, 'AI가 얼마나 정확하게 진단할 수 있는가'라는 근본적인 질문을 던집니다. 연구 결과는 매우 복합적입니다. 통제된 실험 환경에서 GPT-4와 같은 모델은 숙련된 의사들과 대등하거나 오히려 더 높은 진단 정확도를 보이기도 했습니다. 일부 연구에서는 AI 단독 진단이 의사들의 도움 없이 진행한 진단보다 훨씬 높은 정확도를 기록했다는 결과도 있습니다.
하지만 문제는 '현실의 불확실성'에 있습니다. 정해진 데이터와 구조화된 질문이 주어로지는 실험실 환경과 달리, 실제 사용자들이 겪는 모호하고 복잡한 상황에서 AI는 치명적인 오류를 범할 수 있습니다. 특히 존재하지 않는 증상을 사실처럼 말하는 '환각(Hallucination)' 현상이나, 위험한 징후를 놓치는 '누락' 문제는 여전히 큰 과제로 남아 있습니다. 한 연구에 따르면, AI의 권고를 그대로 따랐을 때 심각한 해를 입을 위험이 있는 사례가 상당수 발견되기도 했습니다.
결국 기술의 발전만큼이나 중요한 것은 그 기술이 어떻게 사용되고 관리되어야 하는가에 대한 논의입니다. 정교한 알고리즘이 주는 편리함 뒤에 숨은 불확실성을 인지하고, 인간의 판단과 기술의 보조가 조화를 이룰 수 있는 안전한 설계가 절실한 시점입니다.