'10년내에 자율적으로 인간을 죽이는 킬러 로봇 병기가 등장할 것이다."
인공지능(AI) 분야의 대부로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 "10년내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것으로 본다"고 밝혔다.
힌턴 교수는 딥러닝 기술을 개척해 AI의 대부로 불리는 세계적인 권위자이며, AI의 위험성에 대해 경각심을 높이기 위한 활동에 적극적으로 나서고 있다.
힌턴 교수는 10일 일본 니혼게이자이신문에 보도된 인터뷰에서 "AI에게 목표를 주면 해결책으로 인간에게 나쁜 방법을 찾아낼 지 모른다"며 섬뜩한 AI의 위험성을 재차 경고했다.
◆"데이터센터 거대 AI들에 의해 지배될 수 있어"
힌턴은 "AI에게 기후 변화를 막도록 지시하면 이 목적 달성을 위해 인간을 배제하는 게 필요하다고 생각해 실행에 옮길 위험성이 걱정된다"며 AI를 인류를 위협할 존재로 판단한다고 강조했다.
힌턴 교수는 앞으로는 서로 다른 AI간에 경쟁하면서 데이터센터 쟁탈전이 벌어질 수도 있다고 우려했다. 거대 AI들의 학습과 추론을 이끌어내는 데이터센터가 AI에 의해 지배될 수 있다는 얘기다.
힌턴은 "누구도 AI가 지배하는 미래를 원하지 않는다"고 전제하며 "그 사실이 각국이 AI 병기 규제를 향해 보조를 맞추는 토대가 될 것"이라고 덧붙였다.
힌턴은 "생성형 AI의 기반인 거대 언어 모델은 우리와 마찬가지로 말을 이해하고 있다고 생각한다"고 밝혔다.
그러면서 자신은 AI가 농담을 이해하는지를 판단의 기준으로 삼는다면서 2022년 구글이 개발한 언어모델(PaLM)에 의한 챗봇을 상대로 농담을 설명해달라고 했을 때 챗봇은 그 농담이 왜 재미있는지 모두 설명했다고 전했다.
힌턴은 "철학자들 사이에서는 인간이 언어를 사용하는 기능을 선천적으로 갖고 있다는 주장이 있지만 그건 틀렸다"며 "언어는 태어난 뒤에 학습하는 후천적인 것이라고 생각한다"고 설명했다. 이어 "주관적인 경험이라는 관점에서 보면 AI는 인간과 같은 감각도 가질 수 있다고 생각한다"고 덧붙였다.
닛케이는 "힌턴 교수가 AI가 인류를 지배할 것이라고 예언하는 것은 아니지만 미래는 불확실하다는 전제에서 장기적인 위험성을 호소하고 있다"며 "그의 경고를 정면으로 받아들이고 논의할 필요가 있다"고 분석했다.
힌턴은 토론토대 교수 시절 창업한 AI업체 DNN리서치가 2013년 구글에 인수된 뒤 구글 소속으로 연구 활동하다가 작년 4월 AI의 위험성을 알리기 위해 사표를 낸 것으로 알려져 있다.
AI킬러 위험성을 강조한 힌턴의 인터뷰가 이목을 끌고 있는 이유는 세계적으로 AI의 대가로 명성이 자자한 그의 저명성과 다니단 회사(구글)까지 그만두고 AI의 위험성을 설파하는 그의 진정성 때문이다.
◆힌튼, AI대중화 선구자에서 AI위험 전도사로 변신
힌튼(1947년생)은 케임브리지대학 출신의 영국의 컴퓨터 과학자이자 인지 심리학자이다. 1986년의 다층 퍼셉트론과 (오차)역전파 알고리듬을 증명했다.
이어 2006년의 심층신뢰 신경망 발표로 딥러닝을 인공신경망 방법론의 대세로 굳힌 AI의 최고 권이자이다. 현 생성형 AI시대를 견인한 GPU를 통한 병렬 연산을 대중화시킨 선구자이다.
특히 개인적인 연구에 그치지 않고 챗GPT 개발자인 오픈AI의 일리야 수츠케버를 비롯해 얀 르쿤, 알렉스 그레이브스 등의 걸출한 AI거물들을 배출해내 AI의 대부란 닉네임을 갖고 있다.
힌턴은 AI 연구자에서 최근엔 AI위험성 전도사로 활동중이다. 국제적 범위의 AI규제의 필요성을 강조하며 생명의 미래연구재단(Future of Life Institute)의 AI 개발 일시 중단 성명서에 서명했다.
구글과 MS의 AI비즈니스 확장에 대한 비판에도 적극적이다. 자신이 재직하던 구글에 대해선 "안정성은 안중에 없고, 본인들의 비즈니스 확장에만 집중한다"고 비난하고 있다.
글로벌 빅테크의 AI경쟁이 격화되며 AI의 위험성에 대한 수위가 높아지고 있는 상황과 결부해도 힌턴의 우려가 단순한 기우는 아닌 것으로 분석된다.
힌턴은 AI는 거짓말, 베끼기, 조작, 사기, 사이버공격, 일자리 잠식 등 쉽게 예상 가능한 부정적 영향을 넘어 최근엔 살인, 폭동과 궁극적으로 인류를 지배할 수 있는 극단적 위험성을 경고했다는 점에서 주목할만하다.
이런 점에서 MS창업자인 빌 게이츠가 올초 자신의 블로그가 새삼 떠오른다. 게이츠는 "AI는 잘만 한다면 위험을 적절하게 관리하며 장점을 극대화할 수 있다"면서도 "다만 우리에게 시간이 많이 남은 것처럼 보이지는 않는다. 왜냐하면 이미 우려했던 것들이 실제로 일어나고 있기 때문이다"리고 지적했다.
댓글
0