AI 신뢰의 한계선: 게임·의료·전쟁의 차이 (젠슨 황 인터뷰 분석)

젠슨 황과 클레오 아브람의 인터뷰를 처음 봤을 때 머릿속에 박힌 건 거창한 미래 전망이 아니었다. 800만 개의 픽셀 중 50만 개, 그러니까 약 6%만 정확히 계산하고 나머지 94%는 AI가 통계적으로 추론해 채운다는 대목이었다. 게임 화면에서는 이게 거의 완벽해 보인다. 사람 눈은 차이를 좀처럼 못 느낀다.

증권사에 있던 시절, 나는 숫자 하나가 틀리면 책임 소재가 어디까지 번지는지를 몸으로 배웠다. 그래서 이 장면에서 멈칫했다. "추론으로 채운 부분이 틀려도 괜찮은 영역"과 "단 1%도 틀리면 안 되는 영역"의 경계는 어디인가. 황은 이 컴퓨팅 방식이 신약·기후·로봇으로 확장된다고 했다. 게임 픽셀이 틀리는 것과 패혈증 진단이 틀리는 것은 전혀 다른 문제다.

이 글은 그 경계선을 추적한 기록이다. 가장 먼저 군사, 다음으로 의료, 마지막으로 우리 모두의 일자리. 정답을 주려는 게 아니라, 지금 전 세계 전문가들이 붙잡고 있는 이 질문을 한국 독자의 책상 위에 올려놓으려는 것이다.

결정론에서 확률론으로, 컴퓨팅의 철학이 바뀌었다

황의 설명에 따르면, 그가 1990년대에 한 관찰이 모든 것의 출발점이다. 소프트웨어를 뜯어보니 코드의 10%가 처리량의 99%를 차지하고, 그 99%는 병렬로 처리할 수 있는데 나머지 90%의 코드는 순차적으로 처리해야 한다는 것이었다. 그래서 순차 처리(CPU)와 병렬 처리(GPU)를 둘 다 하는 컴퓨터가 완벽하다는 결론에 도달했고, 그게 엔비디아의 시작이 됐다.

여기서 중요한 건 단순히 더 빠른 칩이 아니다. 계산의 본질이 "모든 것을 정확히 푸는 것"에서 "핵심만 계산하고 나머지는 학습된 모델이 예측하는 것"으로 옮겨갔다는 점이다. 결정론적 계산은 논리 경로를 하나하나 테스트해 검증할 수 있다. 반면 확률적 추론은 오직 통계적으로만 평가된다. 평균적으로 99.9% 맞아도, 나머지 0.1%가 어디서 터질지는 미리 알기 어렵다.

이 차이가 신뢰의 한계선을 가른다. 확률 모델은 집계 수준에서는 탁월하지만 드물게 일어나는 예외(롱테일)에서 치명적으로 무너질 수 있다. "평균적으로 충분히 좋다"와 "매번 반드시 옳아야 한다"는 근본적으로 다른 요구다. 그리고 이 둘을 헷갈리게 만드는 인간의 습성이 하나 있다. 바로 자동화 편향이다.

군사: 20초 만에 사람을 표적으로 분류하는 AI

신뢰 한계가 가장 무겁게 걸리는 곳이 군사다. 이스라엘 매체 +972 매거진과 로컬콜이 정보장교 6명의 증언을 토대로 보도한 '라벤더(Lavender)' 시스템이 대표적이다. 보도에 따르면 이 AI는 가자 주민에게 무장단체 소속 가능성 점수를 매겨, 전쟁 초기 최대 3만 7천 명을 '하마스 추정' 표적으로 분류했다.

문제는 인간의 검토 방식이었다. 한 증언자는 각 표적에 약 20초만 쓰며 사실상 기계의 판단에 도장만 찍었다고 했다. 라벤더의 오류율은 약 10%로 알려졌고, 통신 패턴이 비슷하다는 이유로 경찰·민방위 요원·동명이인까지 잘못 표시했다는 것이다. 자동화 편향이 단순한 업무 누락이 아니라 도덕적 판단의 양도로 이어진 사례다. 다만 이스라엘군은 이런 방식의 AI 표적 사용을 부인했고, 익명 증언이라 독립적 검증은 어렵다는 점은 분명히 해둔다.

미국은 정반대 지점에 안전장치를 두려 한다. 국방부 지침 3000.09(2023년 1월 개정)는 자율 무기체계가 "적절한 수준의 인간 판단(appropriate levels of human judgment)"을 행사할 수 있도록 설계돼야 한다고 못 박는다. 다만 국제인권단체들은 이 문구의 "적절한 수준"이 무엇인지 여전히 모호하다고 비판한다.

국제 사회도 움직이고 있다. UN 총회는 2024년 12월 결의를 166 대 3으로 채택했고(반대는 벨라루스·북한·러시아), 사무총장 구테흐스는 인간 통제 없이 작동하는 치명적 자율무기를 금지하는 법적 구속력 있는 조약을 2026년까지 체결하자고 촉구했다. 2025년 5월에는 96개국이 참여한 첫 총회 차원 논의가 열렸다. 한국 역시 기술 도입과 국제 규범 사이에서 신중한 입장을 저울질하고 있다.

의료: 패혈증 환자 3분의 2를 놓친 AI

군사가 멀게 느껴진다면 의료는 당장 우리 몸의 문제다. 2025년 JAMA 헬스 포럼에 실린 분석은 2024년 11월까지 미국 FDA가 허가한 AI 의료기기 950개를 대상으로 했다. 이 중 60개가 182건의 리콜과 연관됐고 가장 흔한 원인은 진단·측정 오류였다. 더 눈여겨볼 대목은 리콜의 43.4%가 허가 후 12개월 안에 발생했다는 점이다.

미국 수백 개 병원에 깔린 'Epic 패혈증 모델'은 더 직접적인 경고다. 미시간대 연구진이 JAMA Internal Medicine에 발표한 외부 검증 결과(3만 8천여 건), 변별력을 나타내는 AUC 값이 0.63에 그쳤다(개발사 주장은 0.76~0.83). 운영 임계값에서는 패혈증 환자의 약 3분의 2를 놓쳤다. 개발사는 배포 전 필요한 튜닝을 반영하지 않은 분석이라고 반박했지만, 독립 검증 없이 광범위하게 배포된 '블랙박스' 모델의 위험을 보여주는 상징적 사례로 남았다.

의료용 대규모 언어모델(LLM)도 안심할 수 없다. npj 디지털 메디슨에 실린 2025년 임상 텍스트 요약 연구에서 환각률은 1.47%로 측정됐는데, 이 중 44%가 중대한 오류였다. 평균값은 낮아 보인다. 그러나 약물 용량이나 상호작용에서 단 한 건의 오류도 사람을 해칠 수 있다는 게 핵심이다. 평균이 아니라 최악의 한 건이 문제인 영역, 그게 의료다.

중장기: 누가 책임지는가, 그리고 한국의 위치

단기 사고가 군사·의료에서 터진다면, 중장기 쟁점은 사회 인식과 정책으로 옮겨간다. 흥미롭게도 세계는 지금 세 갈래로 갈라지고 있다.

한국은 2026년 1월 22일 AI 기본법을 시행했다. EU AI Act와 함께 포괄적 AI 규제 체계로 평가되지만, 구조가 다르다. EU는 2024년 8월 발효 후 고위험 시스템 의무 등을 단계적으로 적용하는 중이고, 한국은 2026년부터 국내 시행에 들어갔다. 의료·자율주행·금융 신용평가처럼 생명과 기본권에 중대한 영향을 미치는 '고영향 AI'에 설명 의무와 인간 감독을 요구한다. 다만 EU와 달리 시장 진입 전 강제 적합성 평가는 없고, 2026년 한 해는 계도 기간으로 처벌이 유예된다. 한국법제연구원의 분석처럼 규제보다 진흥에 무게를 둔 최소 규제 기조다.

EU의 AI 법은 고위험 시스템 의무가 2026년 8월 적용될 예정이고, 과징금은 최대 글로벌 매출의 7%로 개인정보보호법보다 무겁다. 반면 미국은 2025년 트럼프 행정부가 전임 행정부의 안전 규제를 폐기하고 탈규제·자유시장 혁신으로 방향을 틀었다. 같은 기술을 두고 강한 규제와 규제 완화가 동시에 진행되는 중이다.

여기서 가장 풀리지 않는 질문이 책임 소재다. 확률적 AI가 잘못 판단해 사람이 다쳤을 때 누가 책임지는가. 아이러니하게도 EU는 2025년 'AI 책임지침'을 공식 철회했다. AI를 만들고 쓰는 규칙은 엄격해졌는데, 그것이 피해를 입혔을 때의 조화된 배상 규칙은 사라진 셈이다. 신뢰를 기술에 넘기는 속도가 책임을 정리하는 속도를 앞지르고 있다.

지식이 흔해진 시대, 일자리는 어디로 가는가

황은 이 인터뷰에서 도발적인 말을 던졌다. 이제 지식을 잘 습득하는 것은 차별점이 아니며, AI를 누가 더 잘 활용하느냐가 관건이라는 것이다. 그는 다른 자리에서 "AI에게 일자리를 빼앗기는 게 아니라, AI를 쓰는 사람에게 빼앗긴다"고도 했다. 인터뷰에서는 "한 가지를 권한다면 당장 AI 튜터를 구하라"고 말했다.

이 주장은 사실 오래된 경제학적 통찰과 맞닿는다. 1971년 노벨상 경제학자 허버트 사이먼은 "정보가 풍부해지면 정보가 소비하는 것, 즉 인간의 주의가 희소해진다"고 했다. 지식이 흔해질수록 값나가는 건 지식 자체가 아니라 주의·판단·좋은 질문·종합·취향이라는 얘기다. 지식 습득이 어려웠던 시대에서 쉬운 시대로 넘어왔기 때문에 비로소 이 논쟁이 가능해진 것이다.

실증도 황의 손을 들어주는 듯하다. 콜센터 상담원 5천여 명을 분석한 연구(Brynjolfsson 외)에서 AI 도구는 생산성을 평균 14% 높였는데, 특히 초보·저숙련 노동자가 34% 향상된 반면 숙련자는 거의 변화가 없었다. 대졸 전문직 대상 다른 연구(Noy & Zhang)에서도 ChatGPT가 작업 시간을 40% 줄이고 품질을 18% 높이며 노동자 간 격차를 좁혔다. AI가 평등화 장치라는 낙관론의 근거다.

그런데 정확히 반대 방향을 가리키는 증거도 강력하다. 2026년 사이언스에 실린 연구(Daniotti 외)는 6개국 16만 명 개발자의 코드 3천만 건을 분석한 결과, AI 코딩 도구의 생산성 이득이 초보자보다 숙련 개발자에게 더 뚜렷하게 나타났다고 분석했다. 기술 격차를 좁히는 게 아니라 오히려 넓힐 수 있다는 것이다. 어떤 잣대로 보느냐, 어떤 직무를 보느냐에 따라 결론이 갈린다.

더 묵직한 경고는 MIT 미디어랩의 연구다. 54명을 대상으로 한 이 2025년 프리프린트는 글쓰기 과제에서 LLM에 의존한 그룹의 뇌 연결성이 가장 약했고, 자기가 쓴 글조차 제대로 인용하지 못했다고 보고했다. 연구진은 이를 '인지 부채(cognitive debt)'라 불렀다. 아직 추가 검증이 필요한 연구지만, AI 사용 습관을 돌아보게 만드는 경고로는 충분하다. 핵심 역설은 이것이다. AI를 잘 쓰는 데 필요한 '통찰'은 깊은 지식 기반 위에서만 자라는데, AI 의존이 바로 그 기반을 침식할 수 있다는 점이다.

Hoony의 시각: 도구로 쓰되 대체로 쓰지 말 것

세 영역을 가로질러 보면 한 가지 선이 또렷해진다. 신뢰의 한계는 기술의 정확도가 아니라 오차를 견딜 수 있는 영역인가로 갈린다는 것이다. 게임 픽셀 94%를 AI가 추론해도 좋다. 그러나 표적 살상과 패혈증 진단에서 같은 논리를 쓰면 그 6%의 오차가 사람의 생명이 된다. 황이 말하는 AI의 미래는 매혹적이지만, 미래를 미리 본다는 것과 그 예측에 생명을 맡긴다는 것은 다른 문제다.

일자리 논쟁에서 내 결론은 양극단 사이에 있다. 사업을 하면서, 또 비개발자로 코드를 배우면서 AI를 매일 쓰는 사람으로서 황의 "당장 AI 튜터를 구하라"는 조언에는 동의한다. 실제로 한 달 남짓 배우는 동안 예전 같으면 엄두도 못 냈을 작업을 해냈다. 그러나 MIT의 인지 부채 연구를 보고 방식을 바꿨다. 먼저 스스로 생각해 답의 윤곽을 잡은 뒤, 그다음에 AI로 증강한다. 처음부터 AI에 맡기면 빠르지만, 남는 게 없다.

지식이 흔해진 시대에 희소해지는 것은 결국 "무엇을 물을지 아는 능력"과 "AI의 답을 의심할 줄 아는 판단력"이다. 그리고 그 판단력은, 역설적이게도 직접 부딪쳐 본 경험에서만 나온다. AI가 그럴듯한 답을 빠르게 내놓아도, 그 답이 틀렸을 때 알아챌 사람은 결국 깊이 아는 사람뿐이다.

핵심 요약

자주 묻는 질문

엔비디아의 인터뷰는 결국 두 가지 질문을 남긴다. 우리는 이 확률적 예측을 어디까지 신뢰할 것인가, 그리고 지식이 흔해진 시대에 인간은 무엇으로 남을 것인가. 정답은 아직 누구도 모른다. 다만 이 질문을 외면하지 않는 사람과 그렇지 않은 사람의 격차가, 앞으로 가장 큰 격차가 될 것이라는 점만은 분명해 보인다. 이 주제에 대한 생각을 댓글로 나눠 주시면 다음 글에서 함께 다뤄보고 싶다.

함께 읽으면 좋은 글

• 📱 갤럭시탭 S12, 9월에 '플러스'로 돌아온다?
• 🌐갤럭시 와서 제일 불편한 4가지, 굿락이 다 고친다
• 📰 클로드 페이블 5, 오퍼스 2배 가격값 할까