"인공지능(AI)의 안전성은 우리가 원하는 방향으로 AI가 행동하도록 하는 것입니다. AI기능이 더 발전하면 인간 사회가 이 시스템을 반드시 관리·통제할 수 있어야 합니다."
챗GPT 개발사인 미국 오픈AI의 한국계 임원인 제이슨 권 최고전략책임자(CSO)가 한국을 찾아 AI의 안전성 논란과 관련, AI기술과 AI통제력이 동시에 향상돼야 한다고 강조했다.
제이슨 권은 12일 서울 중구 페럼타워에서 서울대가 주최한 '서울 AI정책콘퍼런스2024' 대담에서 AI의 안전과 관련한 질문에 "어떻게 시스템이 운영되고 어떤 식으로 통제하느냐의 문제"라며 말문을 열었다.
제이슨 권은 "AI 기능이 더 발전하면 통제하는(control) 능력도 더 개선되는 것이 맞다"며 "챗GPT도 예전 모델과 달리 지금은 바람직하지 않은 콘텐츠를 요청하면 바로 제시하지 못한다"고 설명했다.
AI의 지능행성 속도가 빨라지면서 AI가 인간을 지배하는 시대가 다가오고 있다는 공포감이 커지고 있다. 권 CSO는 글로벌 AI기술 리더기업인 오픈AI에서 미래 사업전략 수립과 함께 AI 안전성을 둘러싼 윤리적·법적문제를 총괄하는 핵심 인물이이다. 기술 개발을 제외하고 AI 관련 글로벌 표준을 만드는 일을 하고 있다.
권 CSO는 "오픈AI가 추구하는 AI 방향은 AI의 과학적 혁신을 계속 유용하게 발전시키는 것"이라며 "사람들의 생산성을 높이는 동시에 안전성을 확보해야 하는 것이 우리의 목표"라고 강조했다.
그는 보통사람 이상의 지능을 갖춘 AI, 즉 범용인공지능(AGI) 개발과 관련, 생각보다 빨리 나올 수 있다고 했다. AGI의 출현이 일반적인 예상 시점인 3~5년후가 아니다 더 일찍 출시될 수 있다는 얘기다.
권 CSO는 “GAI기술이 완성되도 모든 것을 할 수 있는 AI를 하루아침에 갑자기 내놓진 않을 것”이라고 잘라말했다. 그렇게 되면 모든 걸 붕괴시킬 것이기 때문이라고 덧붙였했다.
오픈AI의 GAI 기술 개발은 이미 상당한 수준으로 진행됐으나 안정성, 윤리성 등 부작용을 우려해 속도 조절을 하고 있다는 의미로 해석된다. 권 CSO는 이를 위해 "AI의 안전성에 대해 미국, 영국의 연구기관들과 협력하는 등 외부기관과 협력을 많이 하고 있다"고 설명했다.
AI 안전성 이슈 중 가장 우려되는 것은 AI 모델의 자율성이다. 이는 AI가 스스로 학습 데이터를 생성해서 학습하며 발전하는 것을 말한다. 권 CSO는 “AI가 세상에 없던 지식을 만들어내고, 인간의 통제를 넘어서는 상황이 가장 위험하다”고 말했다.
그는 "최근 AI시스템이 인간이 의도한 목표나 윤리 원칙대로 조종하고 제어하는 기술, 즉 얼라인먼트(alignment)팀원을 개발팀 곳곳에 재배치, 이용자의 위험한 요청을 거부하는 안전기술과 AI모델을 활용해 사이버 공격 등 나쁜 행위를 하는 이용자를 모니터링하는 기술을 집중적으로 개발하고 있다고 전했다.
오픈AI 주요 임원중 유일한 한국계인 권CSO는 작년 11월 오픈AI 공동 창업자 샘 올트먼의 해임 사태가 빚어졌을 때 올트먼의 복귀를 중재한 핵심 인물로 널리 알려져있다.
댓글
0