"기계가 인간 통제를 벗어날 가능성을 인정한 꼴이다."
생성형 인공지능(제너레이티브 AI) 챗(Chat)GPT를 개발한 미국 오픈 AI 사가 특수팀을 발족했다. AI가 인간의 감시망을 벗어나지 않도록 관리하는 전담팀인데, 학계에서는 영화 '터미네이터'가 사실상 현실이 됐다는 반응이 나왔다.
오픈 AI는 6일 공식 채널을 통해 AI가 인간의 지성을 뛰어넘더라도 사람의 엄격한 통제 하에 놓이도록 감시하는 특수팀을 구성한다고 발표했다.
세계적으로 생성형 AI의 유행을 몰고 온 오픈 AI는 이번 조치로 AI가 인간의 지성을 뛰어넘을 수 있다는 것을 회사 차원에서 인정했다. 오픈 AI는 향후 10년 안에 등장할 것으로 전망되는 뛰어난 지성을 갖춘 AI가 인간의 삶에 큰 도움이 되는 동시에, 인간의 무력화나 멸망까지 초래할 가능성을 공인한 셈이다.
구체적으로 오픈 AI는 인공지능의 안전성을 확보하는 다양한 통제 기술을 고도화한다. 최고 수준의 AI 학자 또는 기술자를 충원하고, AI의 발전 방향이 올바른지 모니터링한다.
전담팀은 최종적으로 인간이 할당한 목표를 AI가 달성하는 동시에, 미리 설정한 통제 범위를 절대 벗어나지 않도록 가두는 시스템을 구축할 계획이다.
오픈 AI는 일련의 AI 통제 기술을 길어도 4년 안에 모두 완성한다는 계획이다. 이런 오픈 AI의 프로젝트에 대해 업계와 학계에서는 "4년 안에 AI가 인간의 지성을 뛰어넘는다는 의미이기도 하다"는 우려의 목소리가 나왔다.
문명의 이기를 대표하는 기계가 인간을 배신하고 반란을 일으키는 시나리오는 제법 오래전에 나왔다. 걸작 SF 영화 '2001: 스페이스 오디세이'의 할(HAL) 9000이나 영화 '터미네티어' 시리즈의 기계 집단 스카이넷이 대표적이다.
기계가 야기할 디스토피아를 경고하는 석학도 늘고 있다. 딥러닝의 선구자이자 구글에서 AI 연구를 지휘하던 인공지능 권위자 제프리 힌턴(75)이 대표적이다. 최근 구글을 퇴사한 그는 온라인 강연이나 매체와 인터뷰를 통해 인간 통제를 벗어난 AI의 위험성을 전파하고 있다.
정이안 기자 anglee@sputnik.kr
