폭력 위험 예측 능력 30% 향상 기대
교도소 수감자의 미래 폭력 위험을 인공지능(AI)으로 예측해 수용 등급을 결정하는 새로운 시스템이 미국에 도입된다. 수감자의 처우를 AI가 판단하는 시스템을 둘러싸고 논란이 벌어졌다.
미시간주 교정국은 수감자의 행동과 폭력 위험을 분석하는 새로운 분류 시스템을 12월 1일부터 일부 남성 교도소에서 시범 운영한다. 시스템의 성능을 검증한 뒤 다른 시설로 확대할지 결정할 방침이다.
올해 11월 기준 약 3만2000명의 수감자를 관리하는 미시간주 교정국은 교도소 보안 등급을 1·2·4·5단계로 구분한다. 등급에 따라 수감자의 이동 자유와 감시 수준, 직업교육 등 교정 프로그램 참여 기회가 달라진다.
새 시스템은 정해진 주기에 수집한 자료로 수감자를 평가하던 기존 방식과 달리, 수감 기록의 변화를 반영해 등급을 지속적으로 재검토한다. 교정국은 이를 통해 향후 폭력 위험을 예측하는 능력이 약 30% 향상될 것으로 기대했다. 다만 구체적인 산출 근거는 공개하지 않았다.
시스템 개편은 교도소 내 폭력 증가에 대응하기 위한 조치다. 미시간주 교정국이 인용한 자료에 따르면, 2019~2024년 미국 교도소에서 직원에 대한 폭행은 77%, 수감자 사이의 폭행은 54% 증가했다.
논란은 시스템 개발에 참여한 비영리 기술단체 레시디비즈(Recidiviz)에서 비롯됐다. 미국 19개 주의 형사사법기관을 지원하는 이 단체는 업무 자동화와 AI 활용을 주요 기술로 내세우고 있다. 이에 미국 과학기술 매체 퓨처리즘은 최근 기사에서 수감자의 미래 행동을 예측하는 시스템에 AI 기술업체가 참여한 점을 문제 삼았다.
미시간주 교정국과 레시디비즈는 AI가 수감자의 보안 등급이나 석방 여부를 결정하지 않는다고 해명했다. 레시디비즈는 지난 2일 별도 설명을 통해 새 시스템이 AI가 아닌 점수 기반 평가 방식이라고 밝혔다. 과거 10년간의 교정 자료를 분석해 폭력과 관련된 평가 항목을 정했으며, 최종 수용 등급은 교정국 직원이 판단한다는 설명이다.
레시디비즈는 회의 기록 작성과 문서 정리 등 일부 업무에는 AI를 활용하지만, 수감자의 행동을 예측하거나 위험도를 매기는 데에는 사용하지 않는다고 강조했다. 새로운 분류 시스템의 실제 성능과 수감자 처우에 미치는 영향은 다음 달 시작되는 시범 운영에서 검증될 전망이다.
박지연 기자 yeon@sputnik.kr
