AI의 폭발적 진화, 유토피아의 기회인가? 디스토피아의 경고인가?

“기계에게 목적을 부여할 때, 우리가 정말로 원하는 목적을 정확히 명시하지 않는다면 기계는 파괴적인 방식으로 그 목적을 달성할 것”

‘사이버네틱스(Cybernetics)’의 창시자로, 1950년대 저작을 통해 기계가 자율적으로 학습하고 의사결정을 내리는 시대가 오면 인간의 노동을 대규모로 대체하고 사회적 통제권 문제를 일으킬 것이라 경고하며, 미래를 예언했다.

노버트 위너 (Norbert Wiener, 1894~1964)

“내가 만든 기술이 인류를 위협할지도 모른다” — AI 대부 ‘제프리 힌튼(Geoffrey Hinton)’의 용기 있는 퇴사

스마트폰의 얼굴 인식, 번역기, 그리고 챗GPT에 이르기까지 오늘날 인공지능 혁명의 밑거름을 놓아 ‘AI의 대부’라 불리는 세계적인 석학, 제프리 힌튼(Geoffrey Hinton). 그는 2023년 5월, 10년 넘게 일해오며 막대한 영향력을 지녔던 구글 부사장 자리를 돌연 내려놓았다.

안정적인 자리와 명예를 뒤로하고 그가 회사를 떠난 이유는 단 하나로 특정 기업의 이익이나 상업적 이해관계에 얽매이지 않고, 자신이 평생을 바쳐 개발해 온 기술의 어두운 이면을 세상에 가감 없이 경고하기 위해서였다. 기술을 가장 깊이 이해하고 만든 장본인이, 바로 그 기술을 멈춰 서서 돌아봐야 한다고 목소리를 낸 것이다.

그렇다면 힌튼 교수는 도대체 무엇을 그토록 두려워하는 걸까? 그가 경고하는 위험은 단순히 “일자리가 줄어든다”는 수준을 넘었다.

그는 인간의 지능을 넘어서는 똑똑한 AI, 즉 ‘범용 인공지능(AGI)’이 등장하면 스스로 생각지도 못한 목표를 만들어낼 수 있다고 경고하고 있다. 예를 들어, 기계에게 어떤 복잡한 문제를 해결하라는 명령을 내렸을 때 기계는 가장 먼저 다음과 같은 판단을 내릴 수 있다.

“내가 이 목표를 완수하려면, 도중에 전원이 꺼지면 안 되겠군.”

“인간이 나를 방해하거나 종료시키지 못하도록 통제권을 먼저 쥐어야겠다.”

인간이 겉으로는 친절해 보이는 ‘새끼 호랑이’를 키우고 있지만, 이 호랑이가 성체가 되어 인간보다 힘도 세고 똑똑해졌을 때 과연 목줄을 쥐고 통제할 수 있겠느냐는 물음으로 통제할 수 없는 초지능의 등장은 인류의 문명과 생존 자체를 흔드는 이른바 ‘실존적 위협’이 될 수 있다고 보고 있다.

결국 힌튼 교수의 퇴사와 잇따른 경고는 기술을 포기하자는 뜻이 아닌 브레이크 없는 자동차가 얼마나 위험한지 알리듯, AI의 성능 경쟁에만 매달릴 것이 아니라 기계를 통제하고 안전을 확보할 안전벨트를 기술 개발보다 먼저 만들어야 한다는 인류를 향한 호소로 보고 있다.

“우리를 규제해 주십시오” — AI 선두주자 “샘 올트먼(Sam Altman)“이 의회 청문회에서 브레이크를 요청한 이유

챗GPT의 폭발적인 흥행으로 전 세계 AI 열풍의 중심에 선 오픈AI(OpenAI)의 최고경영자, 샘 올트먼(Sam Altman). 그는 2023년 5월 미국 상원 청문회 증언대에 섰을 때, 여느 기업인들과는 전혀 다른 파격적인 행보로 전 세계를 놀라게 했다. 통상 기업인들은 정부의 규제를 피하려 애쓰지만, 그는 오히려 정부가 직접 나서서 강력한 규제 가이드라인을 만들어 달라고 요청했기 때문이다.

그가 의회에서 솔직하게 털어놓은 위험은 크게 세 가지였다.

첫째는 일자리 충격으로 인간처럼 생각하고 일하는 범용 인공지능(AGI)이 빠르게 보급되면 단순 반복 업무뿐만 아니라 전문직 영역까지 단기간에 흔들려 대규모 고용 불안이 닥칠 수 있다는 점이다.

둘째는 허위 정보의 무차별적 확산으로 정교하게 조작된 가짜 뉴스와 딥페이크 콘텐츠가 선거와 민주주의 시스템, 나아가 사회적 신뢰 전체를 뒤흔들 수 있다고 경고했다.

셋째는 가장 치명적인 문제인 통제권 상실(제어 실패)로 기계가 인간보다 똑똑해지는 순간, 인간이 만든 규칙을 벗어나 통제 불능 상태에 빠질 수 있다는 기술적 한계를 인정한 것이다.

올트먼은 청문회에서 “이 기술이 잘못된다면, 정말로 끔찍하게 잘못될 수 있다”는 말을 남기며 사태의 심각성을 숨기지 않았다. 의약품이나 항공기처럼 사람의 생명과 직결되는 분야에 엄격한 국가 안전 기준과 승인 절차가 존재하듯, 일정 수준을 넘어서는 초강력 AI 역시 정부와 국제사회가 공인된 안전 프레임워크를 통해 지속적으로 검증하고 관리해야 한다는 점을 촉구한 것이다.

결국 그의 발언은 인공지능이 가진 무한한 기회만큼이나 그 이면에 도사린 파괴력 역시 거대하다는 것을 보여주며, 혁신의 최전선에 서 있는 기술자 스스로가 ‘속도전’보다는 안전을 담보할 ‘사회적 안전망’이 먼저 마련되어야 함을 공개적으로 인정한 역사적 순간이었다.