일론 머스크가 그가 함께 창립한 회사에서 만든 도구를 포함해 각성한 AI가 초래하는 '위험'에 맞서 싸우고 있다

일론 머스크는 그가 '치명적인' 위협이라고 부른 각성 인공지능에 맞서기 위해 연구팀을 구성하고 있다고 전해진다. 머스크(51세)는 최근 몇 주 동안 '인공지능 연구자'로 구성된 선별된 그룹에 연락하여 ChatGPT의 대안을 개발하기 위한 새로운 연구 소를 만들 방법에 대해 논의했다고 The Information이 전했다. 12월, PayPal, Tesla, SpaceX 및 기타 사업체의 창립자는 ChatGPT와 같은 AI 도구의 부상에서 발생할 수 있는 잠재적 위험에 대해 경고했다. 머스크는 트위터에서 AI가 '각성하도록 훈련되는' 한 예로 ChatGPT를 언급했다. 보도에 따르면 최근 세계에서 가장 부유한 사람으로서의 지위를 회복한 머스크는 Google 모회사인 Alphabet의 DeepMind AI 부서에서 일한 이고르 바부시킨을 비롯한 여러 저명한 AI 연구자들을 모집할 계획이다. 머스크는 ChatGPT를 만든 회사인 OpenAI의 공동 설립자로서 자신의 회사에 대한 경쟁자를 만들고자 하는 상황이 반전이라고 할 수 있다. Grit Capital CEO인 진비에브 로흐-데크터가 머스크가 OpenAI를 공동 창립한 뒤 AI가 '문명에 가장 큰 위험 중 하나'가 된다는 아이러니를 트위터에 올렸을 때, 머스크는 그러한 개발이 결코 의도한 것이라고 답했다. “OpenAI는 구글에 대한 카운터 웨이트 역할을 하기 위해 비영리로 설계된 오픈 소스(그래서 나는 'Open' AI라고 명명했다) 회사로 만들어졌지만, 지금은 마이크로소프트가 사실상 통제하는 폐쇄형 최대 이익 회사가 되었다.”라고 그는 답했다. “전혀 내가 의도한 바가 아니다.” 이달 초 아랍 에미리트 두바이에서 열린 세계 정부 정상 회의에 가상으로 참석한 머스크는 AI 규제의 시급한 필요성에 대해 또 다른 경고를 발했다. “문명의 미래에 대한 가장 큰 위험 중 하나가 AI”라고 머스크는 말했다. “하지만 AI는 긍정적인 면과 부정적인 면을 모두 가지고 있으며, 큰 가능성과 능력을 지니고 있지만 이에 따른 큰 위험도 존재한다.” 머스크의 경고는 새로운 것이 아니다: 2017년까지 거슬러 올라가, 머스크는 여전히 초기 단계에 있는 OpenAI가 AI 기술이 인류에게 미치는 위험을 최소화하는 데 도움이 되기를 희망한다고 말했다. 현실적인 '터미네이터' 영화가 되지 않도록 세계를 막겠다고 다짐하면서, 머스크는 그때도 이미 OpenAI가 불리하다는 점을 인정했다. “성공할 가능성이 5~10% 정도 될지도 모르겠다.”고 그는 당시 말했다. 그의 비관적인 예측은 뉴 사우스 웨일즈 대학교의 AI 교수인 토비 월시와 같은 AI 전문가들로부터 일부 반발을 불러일으켰다. 월시는 머스크의 발언이 경고성에 불과하다고 말했다. “이 기계가 인류에 대한 존재론적 위협이 되지 않도록 하기 위해 건강한 연구 커뮤니티가 활동하고 있다.”고 월시는 말했다. “그때까지 어떤 안전 장치가 필요한지를 정확히 찾아낼 것이라고 예상한다.” 애리조나 주립대학교에서 컴퓨터 공학을 가르치는 수바라오 캄반파티도 머스크의 발언을 경고성으로 묘사했다. 캄반파티는 머스크가 AI를 포함한 '초지능의 지배' 상황을 생각하고 있을 가능성이 높다고 하며, 이를 인터뷰에서 '터무니없는' 주장이라고 설명했다. 그의 입장에서 머스크는 AI에 의해 경제 활동이 지배될 가능성에 대한 해결책을 제안했다: 테슬라 CEO는 2017년 2월 두바이에서 열린 세계 정부 정상 회의에서 인간이 기계의 일부가 되어야 끊임없이 발전하는 기술 형태와 상호작용할 수 있으며, 그렇지 않으면 무의미해질 위험이 있다고 말했다. 머스크는 AI가 점점 더 많은 직업에서 인간의 일을 대신하게 될 수 있다고 지적하면서 대량 고용의 시나리오를 언급했다. 기계 학습과 로봇 기술이 발전함에 따라, “로봇이 더 이상 더 잘 할 수 없는 직업이 점점 줄어들 것”이라고 그는 말했다. 인간이 경쟁력을 유지하는 열쇠는 “생물학적 지능과 디지털 지능의 더 긴밀한 융합”이라고 머스크는 덧붙였다. 억만장자인 그는 인간이 이 간극을 메워야 한다고 말했다: “그것은 주로 당신의 뇌와 디지털 자아 사이의 연결 대역폭, 즉 속도에 관한 것이다, 특히 출력에 관해서.” 머스크는 Neuralink를 설립할 때 그러한 생물학적 업그레이드를 염두에 두었을지 모른다. Neuralink는 신경 활동에서 “읽을” 뿐만 아니라 뇌에 신호를 “쓰기” 위한 도구를 설계하고 있다는 의료 기기 회사다. 그 당시 머스크는 이 기술이 원숭이의 뇌 안에 삽입되었고 그 동물이 생각을 통해 컴퓨터를 제어할 수 있었다고 말했다. 그는 2019년 말까지 사람에게도 이식할 수 있기를 열망했다. 그 목표는 12월에 수정되었으며, 머스크는 Neuralink가 무선 뇌 칩을 성공적으로 개발하고 2023년 중반까지 해당 장치에 대한 인간 임상 시험을 시작할 것으로 예상하고 있다고 발표했다. “내가 Neuralink를 장기적으로 디지털 초지능의 위험 완화책으로 만든 이유는, 우리가 디지털 지능과의 공생을 효과적으로 이루게 된다면… 집단적 인간 의지가 우리가 원하는 방향으로 사물을 조정하기 더 잘 할 수 있으며, 또는 온화한 AI와 함께 적어도 그 자체에 대한 여행을 할 수 있도록 하는 것이다.”라고 그는 2021년 12월 The Babylon Bee와의 인터뷰에서 말했다. “우리는 이미 부분적으로 사이보그 상태에 있다… 우리가 사용하는 전화, 컴퓨터 및 애플리케이션이 이미 우리 자신의 디지털 확장인 이 시점에서.