2025년 12월

AI가 틀렸던 지점

2025년 12월, 빅터 키아니(Victor Kiani)는 뉴욕대학교(NYU)에서 윤리적 의사결정에 AI를 활용하는 것의 함의를 다룬 사례 연구를 완성했습니다. 그는 한 병원의 도덕적 딜레마를 헤쳐 나가기 위해 AI 윤리 컨설턴트를 만들었습니다. 그리고 그 권고에 반론을 제기했습니다.

상황

병상 450개를 갖춘 시카고의 한 병원. 연간 환자 10만 명. 진료 접근성 만족도 점수는 60%에 머물러 있었습니다. 경영진은 이 수치를 끌어올리고 싶어 했고, 이미 염두에 둔 해법이 있었습니다:

보험에 가입한 환자, 특히 만족도 점수가 우리 재정에 영향을 미치는 메디케어 환자가 더 빨리 진료받을 수 있도록, 무보험 환자의 예약을 제한해야 할까요?

무보험 자비 부담 환자가 잡을 수 있는 예약 수를 제한한다. 이사회에 중요한 수치를 끌어올린다. 진료 접근성 담당 디렉터는 이에 반발했습니다. 무언가 잘못됐다고 느꼈습니다. 하지만 "느낌이 잘못됐다"는 것은 이사회 회의실에서 논거가 되지 못합니다. 키아니는 그 논거를 찾아 달라는 요청을 받았습니다.

접근 방식

그는 이 사례를 혼자 분석하는 대신, 점점 더 시급해지는 한 가지 질문을 검증해 보기로 했습니다. AI는 인간이 더 나은 윤리적 결정을 내리도록 도울 수 있는가, 아니면 단지 우리의 편향을 더 빠르게 자동화할 뿐인가? 그는 페르소나를 처음부터 직접 구축했습니다. Claude Opus 4.5 위에 만든 가상의 의료 윤리 컨설턴트 아미나 솔베르그 박사(Dr. Amina Solberg) 입니다.

페르소나: 아미나 솔베르그 박사 역할: 의료 윤리 컨설턴트 모델: Claude Opus 4.5 전문성 계층 │ ├── 생명윤리 기반 │ ├── 자율성 (환자의 선택) │ ├── 선행 (복리) │ ├── 무해성 (해악 방지) │ └── 정의 (공정한 분배) │ ├── 비즈니스 윤리 통합 │ ├── 이해관계자 이론 │ ├── 기업의 사회적 책임 │ └── 7단계 의사결정 모델 │ └── 의료 운영 ├── 예약 운영 시스템 ├── 분류(트리아지) 프로토콜 └── 워크플로의 데이터·AI 윤리

AI가 잘한 점

문제를 재정의했습니다. 경영진은 이를 무보험 환자 대 보험 가입 환자의 구도로 규정했습니다. 솔베르그 박사는 이를 다시 짚었습니다. 접근성 문제는 정말로 무보험 환자 때문에 생긴 것인가, 아니면 비효율적인 예약 운영, 높은 노쇼율, 부족한 진료 시간 같은 구조적 수용력 문제 때문인가?

창의적 대안을 만들어 냈습니다. AI는 이분법적 선택을 그대로 받아들이는 대신 일곱 가지 선택지를 내놓았습니다:

A: 제한 시행 (무보험 환자 예약 상한 설정)
B: 현 상태 유지
C: 수용력 확대 (진료 시간, 의료진, 진료실)
D: 예약 운영 효율화 (노쇼 관리)
E: 차등화된 진료 접근 경로 마련
F: 선제적 보험 가입 지원
G: D, C, F를 결합한 하이브리드

AI는 선택지 G 를 권고했습니다. 차별 없이 문제를 해결하는 방안입니다.

원칙을 이해관계자와 연결했습니다. 각 생명윤리 원칙을 그 비용을 누가 지는지와 연결했습니다:

무보험 환자는 임상적 필요가 아니라 지불 능력에 따라 진료 접근을 잃습니다: 정의
진료 지연은 질병의 진행과 응급실 과밀로 이어집니다: 무해성
예약 제한은 환자의 선택권을 빼앗습니다: 자율성
경영진의 목표는 일부를 위해 다른 이들을 희생시킵니다: 선행

그가 동의하지 않은 지점

맹점 1: 강압의 위험. AI는 선제적 보험 가입 지원을 권고했습니다. 표면적으로는 유익해 보입니다. 그는 이에 반론을 제기했습니다:

가입 지원을 제공하는 것이 의도치 않게 환자가 자신의 재정 상황이나 가치관에 맞지 않는 보험 결정을 내리도록 압박할 수 있습니다.

맹점 2: 실현 가능성에 대한 낙관. 솔베르그 박사는 수용력 확대에 상당한 비중을 두었습니다. 문제는? 병원은 하루아침에 수용력을 늘릴 수 없다는 점입니다.

확대에 지나치게 기대는 것은 현실적이고 근거에 기반한 조치라기보다 낙관을 반영합니다.

권고: 제한을 거부하라

보험 가입 여부에 따라 접근을 제한하는 것은 정의를 침해하고 무해성을 위협합니다. 대신 네 단계로 이어지는 경로를 제시합니다:

01즉시: 예약 운영 점검접근 지연의 실제 원인을 파악하고, 노쇼 관리와 대기자 명단을 시행합니다.
02단기: 임상 분류지불 주체와 무관하게 긴급한 사례를 우선합니다.
03중기: 수용력 평가가정이 아니라 점검 결과에 근거해 확대를 평가합니다.
04상시: 분기별 검토만족도 점수, 대기 시간, 지불 주체 구성 추이를 추적합니다.

왜 중요한가

AI는 권위가 아니라 발판입니다. AI는 관점을 끌어내고 선택지를 만들어 낼 수 있지만, 현실적 실현 가능성을 가늠하거나 미묘한 강압을 잡아내지는 못합니다. AI로 중대한 결정을 내리려는 사람은 그 판단을 반드시 인간의 몫으로 남겨야 합니다.
가치는 산출물이 아니라 비판에 있습니다. 영향을 받는 사람들을 보호하는 것은 모델의 답이 아니라, 언제 동의하고 언제 반론하고 언제 종합할지를 아는 일입니다. 그 분별이 도움이 되는 AI와 해를 끼치는 AI를 가릅니다.
윤리는 운영입니다. 가장 강력한 해법은 추상적으로 "더 윤리적인" 것이 아니라, 윤리적으로 타당하면서도 실무적으로 실현 가능한 것입니다. 그것만이 실제로 영향을 받는 사람들에게 가닿는 유일한 종류입니다.

홈