관중석에서 경기를 지켜보는 여성 야구팬 영상이 지난 5월 온라인을 달궜다. ‘한국의 야구장 여신’으로 불린 영상은 사흘 만에 800만 뷰를 찍었지만, 인공지능(AI) 생성 영상으로 밝혀져 사람들을 허탈하게 했다.
여성의 머리카락과 피부, 표정과 움직임에서는 뚜렷한 오류를 찾기 어려웠다. 정체를 들춘 것은 엉터리 경기 정보였다. 화면에는 한화 이글스 투수 김서현과 이미 2017년 은퇴한 두산 베어스 조인성 코치의 맞대결이 표시됐다.
AI가 만들어내는 사람 이미지는 점점 정교해지고 있다. 손가락 개수부터 오류를 범하던 예전의 AI가 아니다. 호주국립대학교(ANU) 에이미 도웰 부교수 연구팀은 지난달 29일 미국 국립과학원회보(PNAS)에 실험 보고서 ‘AI 생성 얼굴을 탐지하는 훈련(Training humans to detect AI-generated faces)’을 내고 눈과 코 등 일부분의 결함을 찾는 대신 얼굴 전체가 주는 인상에 집중하라고 조언했다.
연구팀이 주목한 것은 개성, 기억에 남는 정도, 얼굴 각 부분의 비례, 좌우 대칭성, 매력도, 표정의 풍부함 등 6가지 특성이다. 사람들에게 “눈동자가 이상하다” 내지 “귀걸이 모양이 다르다” 등으로 정답을 알려주는 대신, 실제 사람과 AI 얼굴을 비교하며 6가지 특성들을 평가하도록 했다.
AI가 만든 얼굴은 일반적으로 좌우 대칭이 잘 맞고 눈과 코, 입의 배치도 균형이 잡혀 있다. 피부와 윤곽이 매끄럽고 전형적인 미적 기준에 가까워 실제 사람보다 매력적으로 평가되는 경우도 많다. 문제는 사람들이 이러한 반듯함을 가짜가 아니라 인간다운 얼굴로 받아들이기 쉽다는 점이다.
AI 얼굴은 독특한 특징이 적고 기억에 잘 남지 않으며 표정에서 느껴지는 개성이 약한 경향이 있다. 생성형 AI가 방대한 얼굴 자료에서 반복되는 형태와 비율을 학습하면서 통계적으로 평균에 가까운 얼굴을 만들기 때문이다. 주름이나 비대칭, 미세한 표정 차이처럼 실제 사람을 구별하게 하는 요소가 줄어드는 대신 누구에게나 익숙하고 무난한 얼굴이 만들어지는 것이다.
이런 이유로 AI 얼굴은 기묘하게 완벽하다. 코나 입 하나만 떼어 보면 문제가 없지만 얼굴 전체를 보면 지나치게 균형이 잡히고, 매력적이지만 나중에 다시 떠올리기는 어렵다. 연구팀이 제시한 6가지 항목은 개별적인 ‘가짜 표시’라기보다 이런 평균화 경향을 감지하기 위해 만들어진 관찰 기준이다.
에이미 도웰 교수는 “피실험자 45명의 훈련 전후로 서로 다른 얼굴을 제시해 특정 사진을 외워 정답을 맞히지 못하도록 했다”며 “훈련을 마친 뒤에는 피실험자 전원의 판별 능력이 향상됐고 평균 정확도는 훈련 전보다 거의 두 배 높아졌다. 성적이 좋았던 참가자 일부는 완벽에 가까운 정확도를 보였다”고 전했다.
이어 “훈련 전에는 틀린 답을 고르면서도 자신감을 보이는 경우가 있었지만, 훈련 후에는 판단의 정확도와 자신감이 보다 균형을 이뤘다”며 “본인이 확실히 아는 경우와 그렇지 않은 경우를 구별하는 능력까지 개선됐다는 의미”라고 강조했다.
연구팀은 피실험자들이 같은 얼굴을 반복해서 봤기 때문에 성적이 오른 것은 아니라고 봤다. 별도의 대조 실험에서는 훈련 없이 검사를 반복했을 때 이와 같은 상승효과가 나타나지 않았다.
AI 이미지를 구별하는 기존의 교육은 여섯 번째 손가락, 일그러진 치아, 비대칭 귀걸이처럼 잘못 그린 부분을 찾는 데 집중했다. 그러나 생성형 AI 기술이 발전하면서 이런 오류는 빠르게 사라졌다. AI 판별 프로그램에 전적으로 맡기는 방법도 한계가 있다. 판별 AI가 어떤 근거로 결론을 내렸는지 사람이 이해하기 어렵고, 이미지 압축이나 편집, 새로운 생성 모델에 취약할 수 있다. 연구팀은 사람이 판단 과정에 참여하면서 설명 가능한 근거를 갖는 방식이 자동 판별 기술을 보완할 수 있다고 봤다.
에이미 도웰 교수는 “이번 연구가 모든 AI 이미지에 통하는 만능 해법은 아니다”며 “실험에 이용된 모델 외에 확산 모델로 만든 얼굴이나 움직이는 영상, 의도적으로 비대칭과 개성을 추가한 진보한 AI 얼굴에도 같은 훈련 효과가 나타나는지는 검증이 필요하다”고 언급했다.
이윤서 기자 lys@sputnik.kr
