한국에선 잘 알려지지 않았지만, 오픈AI 창업을 주도한 것은 테슬라의 일론 머스크 CEO입니다. 머스크는 2015년 12월 와이콤비네이터의 CEO 샘 올트먼, 제프리 힌턴의 수제자 일리야 수츠케버 등을 규합해 먼저 AI 비영리단체 설립을 제안했습니다. 이후 공동창업자로 스트라이프 CTO 그레그 브로크만, 로봇공학자 존 슐먼, 딥러닝 연구가 보이치에흐 자렘바 등이 합류합니다. 이들은 인공일반지능인 AGI 출현을 진심으로 믿는 인물로 꼽힙니다. 제가 쓴 책
챗GPT 전쟁에 자세히 나와 있습니다.
(챗GPT 전쟁 책)
용어사전 인공일반지능: 마크 구브루드(Mark Gubrud) 노스 캐롤라이나대학교 교수가 1997년 나노기술과 국제 안보라는 논문에서 자기 복제 시스템을 갖춘 군사용 인공지능의 출현을 전망하며 처음 사용한 단어입니다. 개념적으로, 인간의 지시 없이도 스스로 학습과 훈련이 가능한 꿈의 인공지능입니다. 인류를 위한 선이 될 수도, 악이 될 수도 있는 AI 개념인 것이죠.
기업 생존 VS 기업 목표
일론 머스크는 "인공지능은 인간의 삶을 바꾸고 질병과 빈곤 같은 커다란 문제를 해결할 수 있는 잠재력이 있다"면서도 "반면 우리에게 가장 큰 실존적인 위협이 무엇일지 묻는다면, 그것 역시 인공지능일 것"이라고 말한 바 있습니다. 또 수츠케버 역시 "도구와 마찬가지로 좋거나 나쁘게 사용될 가능성이 있다"고 주장했습니다.
하지만 오픈AI 내적 갈등은 커졌습니다. 기업 생존과 기업 목표간 충돌입니다. 2018년 머스크는 오픈AI가 구글에 비해 뒤처져 있다고 주장하면서 직접 CEO로 나서겠다고 밝혔습니다. 이 무렵 구글 딥마인드가 알파고를 2016년 선보인 이후입니다. 하지만 다른 공동창업자들이 반대에 나섰습니다. 이후 머스크는 오픈AI를 떠났고, 약속한 투자도 이행하지 않았습니다.
오픈AI는 위기에 직면합니다. 이후 오픈AI 유한투자(OpenAI LP)라는 영리 자회사를 설립해 오픈AI를 하이브리드 모델로 변경한 것이 샘 올트먼입니다. 그는 마이크로소프트(MS)와 손을 잡습니다. MS는 2019년 오픈AI LP에 초기 투자를 단행했고, 이후 2022년까지 총 100억 달러에 달하는 자금을 투자한 것으로 전해집니다.
하지만 이 같은 방법에 대해서도 내적 갈등이 사라진 것은 아닙니다. 올트먼은 CEO로서 상업적 확대가 필요했고, 이는 또 다른 갈등을 촉발했습니다. 2020년 말 일부 직원이 엔스로픽(Anthropic)이라는 스타트업을 설립해 떨어져 나갑니다. 엔스로픽은 구글의 투자를 유치한 스타트업입니다. 또 국내에서는 SK텔레콤 LG CNS 등이 투자해 주목을 끌었습니다.
(관련 기사)
수츠케버 "AI 시스템 위협을 막겠다"
올여름부터 수츠케버는 AI 안전 전문가인 얀 라이케(Jan Leike)와 함께 '정렬(AI alignment)' 연구 팀을 구성해 AI 시스템이 부적절하게 실행되는 것을 방지하기 위한 기술 솔루션 개발에 공을 들였습니다.
- 용어사전 AI 정렬: AI 시스템을 인간이 의도한 목표, 선호도, 윤리적 원칙에 맞게 조정하는 것을 목표로 하는 것을 가리킵니다. 미래 AI는 인간의 의도를 벗어날 가능성이 크기 때문에 시스템이 심각하게 벗어나기 전에 막자는 취지입니다..
정렬팀은 컴퓨팅 리소스 상당 부분을 초지능의 위협을 해결하는 데 사용하겠다고 내부에 선언했습니다. (돈은 앞으로 우리팀이 쓰겠다) 수츠케버는 앞서 X를 통해 "현재 GPT가 약간의 자의식이 있는 것 같다"고 말해 주변을 놀래키기도 했습니다. 그는 AI가 자의식이 있다고 믿는 인물입니다. 또 2019년 다큐멘터리 '아이휴먼'에서 "미래는 인공지능에게 좋은 날이 될 것"이라면서도 "인간에게도 좋은 날이 오면 좋겠다"고 말했습니다.
오픈AI는 이날 올트먼 해임 직후 블로그를 통해 "인류를 해치거나 권력을 과도하게 집중시키는 AI 또는 AGI를 활성화하는 것을 피하고, AGI를 안전하게 만드는 데 필요한 연구를 수행해야 한다"고 밝혔습니다. 올트먼의 퇴출로 오픈AI는 챗GPT 서비스 개발보다 연구 개발에 중점을 둘 것으로 전망이 됩니다.
크게 보기 오픈AI의 향후 행보는 챗GPT와 같은 서비스에 중점을 두기 보다는, AGI 연구와 안전한 AI 구축에 힘을 쏟을 것으로 보입니다. 후발 주자들은 한 숨 돌릴만한 이슈입니다. 하지만 MS로서는 당혹스럽기 그지 없는 일일 수밖에 없습니다. 또 수츠케버와 미라 무라티가 손을 잡은 것은 분명합니다만, 이들이 세계적 기업을 이끌 수 있을지는 미지수입니다.
직원1: 이번 해고가 쿠데타입니까
수츠케버: (쿠데타로) 그렇게 불러도 됩니다. 다만 저는 (그렇게 부르는 것에) 동의하지는 않겠습니다.
직원2: CEO를 제거하는 것이 회사를 경영하는데 있어 좋은 선택이었나요?
올트먼: "오픈AI에서 보낸 시간을 사랑합니다. 개인적으로도 큰 변화의 시간이었고 세상을 조금이라도 변화시키는 계기가 되었다면 좋겠습니다. 무엇보다도 재능 있는 사람들과 함께 일할 수 있어서 정말 좋았어요. 다음 계획에 대해서는 나중에 더 자세히 말씀드리겠습니다."
