딥페이크 기술이 단순 가짜 뉴스 생산을 넘어서 정보 자체에 대한 불신을 야기할 수 있다는 지적도 나온다.
게티이미지뱅크 제공
빌 게이츠 마이크로소프트(MS) 창립자는 지난해 7월 자신의 블로그를 통해 "AI로 만든 딥페이크와 가짜 정보는 민주주의를 훼손할 수 있다"고 지적했다.
가짜뉴스가 그럴듯한 '가짜 증거물'과 결합돼 소셜 네트워크 서비스(SNS)를 타고 퍼지면서유권자의 올바른 판단을 방해한다는 것이다.
국내에서는 제22대 국회의원 총선거를 약 두 달 앞두고유세에서의 딥페이크 기술 사용이 전면 금지됐지만 전문가들은 "인지 능력만으로는 진위를
판단하기 어렵다"고 말한다.
4월 10일 열리는 국회의원 총선거를 앞두고 중앙선거관리위원회(선관위)는 딥페이크 기술로 만든 영상,
사진 등을 이용한 유세 활동을 29일부터 금지한다고 밝혔다.
딥페이크 기술은 인공지능(AI)을 활용해 사람이나 사물을 정교하게 합성,
매우 그럴듯한 가짜 이미지나 영상을 만드는 기술을 말한다.
선거운동용 딥페이크 영상은 전면 금지되며 이를 어길 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다.
AI로 조작된 영상임을 표시한다고 해도 법에 저촉된다.
앞서 유력 정치인을 상대로 한 딥페이크 이미지와 음성 등이 유튜브,
X(전 트위터) 등을 타고 공유됐다.
한동훈 국민의힘 비상대책위원장,
이재명 더불어민주당 당대표 등의 조작된 음성파일이 유튜브에 업로드됐다 삭제됐다.
대선을 앞둔 미국에서는 조 바이든 미국 대통령의 목소리로 '투표하지 말라'고 말하는 가짜 음성이 유포됐다.
지난해에는 도널드 트럼프 전 미국 대통령이 경찰에 체포되는 가짜 영상도 SNS를 타고 퍼졌다.
딥페이크로 조작한 도널드 트럼프 전 미국 대통령이 체포되는 영상. 폭스뉴스 유튜브 갈무리
하지만 사람의 인지 능력만으로는 딥페이크를 구분할 수 없다는 분석이 나온다.
지난 2021년 10월 독일 막스플랑크 인간개발연구소 연구팀은 210명 실험참가자를 대상으로 딥페이크 영상을 구분하게 한 결과 "딥페이크 활용 여부를 가려낼 수 없다"는 연구 결과를 국제 학술지 '아이사이언스'에 발표했다.
연구진은 "대부분의 참가자는 실험 시작 전 '진위를 가려낼 수 있다'고 자신했지만 딥페이크에 계속해서 속았다"고 밝혔다.
국제 학술지 '사이언스'에 따르면 가짜 이미지는 통상 사진 속 피사체의 그림자 모양이나 미묘하게 일그러진 부분 등을 통해 구분할 수 있다.
티지 그루트웨이저 웨스턴 시드니대 컴퓨터뇌신경학자는 AI로 만든 가짜 음성의 경우 실제 사람의 발화에서 나타나는 '음…',
'어…' 등의 음성이 거의 발견되지 않는다고 설명했다.
녹음 품질도 실제 사람 간 대화보다 더 좋은 편으로 나타났다.
다만 AI 기술이 정교해지면서 시각적인 분별은 더 어려워질 것이라는
분석이다.
딥페이크를 감지할 수 있는 애플리케이션(앱)도 개발되고 있다.
IT 기업 '인텔'은 뉴욕주립대 연구팀과의 공동연구를 통해 96%의 정확도로 가짜 동영상을 밀리초 단위로 탐지할 수 있는 딥페이크 검출기 '페이크캐처'를 출시했다.
미세한 혈류의 변화 신호를 분석해 진위를 판단한다.
국내 AI 기업 '딥브레인AI'도 가상 얼굴이나 특정인의 얼굴을 합성한 딥페이크 이미지를 구분할 수 있는 탐지 서비스를 지난 12일 내놨다.
딥페이크 기술이 단순 가짜 뉴스 생산을 넘어서 '정보' 자체에대한 불신을 야기할 수 있다는 지적도 나온다.
스티븐 슬로맨 미국 브라운대 인지심리학과 교수는 지난 29일(현지시간) 국제 학술지 '사이언스'에 "사람들에게 진짜 영상1개와 가짜 영상 1개를 보여주고 어떤 것이 딥페이크인지 고르라고 할 때 자신이 믿고 싶지 않은 영상을 딥페이크라고 지목할 가능성이 높다"고 말했다.
또 "이는 전문가나 딥페이크 탐지기의 분석 결과와는
무관할 것"이라고 말했다.
2021년 예일대 정치학과 연구팀이 논문 사전 게재 사이트 'OSF'에 발표한 실험 결과에 따르면 실험 참가자들에게 딥페이크 영상임을 표기한 정치 관련 영상을 보여준 결과 진위에 대한 분별보다는 '주어진 모든 정보 자체를 불신한다'는 반응이 나왔다.
슬로만 교수는 "딥페이크 기술은 현존하는 어떤 종류의 매체보다 더 큰 위협"일고 덧붙였다.
세계적 팝스타 테일러 스위프트도 '딥페이크'에 당했다
미국 팝스타 테일러 스위프트. 위키미디어 제공
세계적 팝스타 테일러 스위프트의 얼굴을 딥페이크 기술로 합성한 음란물이 소셜네트워크서비스(SNS)를 통해 퍼지면서 미국 사회에 큰 파장이 일고 있다.
백악관 대변인은 28일(현지시간) "사회에 경종을 울리는 사건"이라며 "국회가 입법 조치를 취해야한다"는 입장을 내놨다.
미국 싱어송라이터 테일러 스위프트는 2023년 타임지 '올해의 인물'로 선정된 팝스타다.
스위프트가 앨범 투어를 돌기 시작한 지난해스위프트의 방문지마다 소비율이 급격히 높아지며 지역 경제가 들썩이자 '테일러노믹스(테일러+경제)'라는 신조어까지 등장했다.
앞서 1월 16일~17일경(현지시간) SNS 상에서 스위프트의 얼굴을 합성한 딥페이크 음란물이 SNS를 통해 빠르게 퍼져나갔다.
딥페이크는 인공지능(AI)을 활용해 합성한 가짜 이미지나 영상을 말한다.
스위프트의 가짜 이미지는 'X'(전 트위터)에 공유돼 17일 계정이 정지되기 전까지 4700만 회 조회된 것으로 나타났다.
X는 첫 게시글이 올라온 지 19시간이 지난 뒤 사진이 공유된 다수 계정을 정지했지만 이미 '공유' 기능을 타고 다른 SNS까지 빠르게 확산됐다.
X는 이어 '테일러 스위프트' 검색 기능을 급히 막아뒀다.
X는 '이용자를 속이거나 해악을 초래할 수 있는 합성,
조작된 미디어의 공유'를 정책적으로 금지하고 있다.
CNN에 따르면 X 관계자는 이번 사태에 대해 "안전을 최우선으로 놓고 신중을 기해 조치를 취했다"고 27일(현지시간) 밝혔다.
해당 딥페이크 이미지는 마이크로소프트(MS)사가 출시한 AI 이미지 생성기인 '디자이너'로 생성된 것으로 알려졌다.
26일(현지시간) 사티아 나델라 MS 최고경영자(CEO)는 NBC 뉴스에 출연해 "놀랍고 끔찍하다"는 반응을 보였다.
그러면서 "(테크 기업은) 더 안전한 콘텐츠가 생성되도록 가드레일을 설치할 책임이 있다"고 말했다.
이번 사건으로 딥페이크 기술의 위험성이 부각되자 백악관에는 '딥페이크 기술 제어 정책을 조속히 마련해야 한다'는 청원이 물밀듯이 쏟아진 것으로 알려졌다.
이에 백악관도 28일(현지시간) 미국 ABC 뉴스를 통해 "사회의 경종을 울린 사건"이라며 "의회가 입법 조치를 취해야 한다"는 입장을 발표했다.
카린 장 피에르 백악관 대변인은 ABC 뉴스에 "딥페이크로 만든 이미지들이 유통되고 있다는 사실에 경각심을 갖고 있다"며 "딥페이크 피해자를 위한 24시간 운영 긴급센터를 발족하는 등 노력하고 있다"고 말했다.
그러나 전문가들은 "딥페이크 규제 조치는 효과가 없다"며 의구심을 표하는 상황이다.
AI 탐지 사이버 보안 회사 '리얼리티 디펜더'를 운영하는 벤 콜먼 최고경영자(CEO)는 26일(현지시간) 뉴욕타임스와의 인터뷰를 통해 "미국 내 일부 주에서 음란물 및 정치적 목적의 딥페이크를 제한하는 규제를 만들었지만 영향력이 없다"며 "연방정부 차원에서의 규제는 없는 실정"이라고 말했다.
국내에서도 총선을 앞두고 정치인에 대한 허위 정보를 퍼뜨릴 수 있는 딥페이크 기술 단속에 나섰다.
지난해 12월 개정된 공직선거법에 따라 29일부터 딥페이크 기술을 통한 이미지·영상 제작 및 게시가 전면 금지된다.
중앙선거관리위원회도 AI 전문가 등으로 꾸려진 딥페이크 감별반 운영에 나섰지만 실제 단속 효과는 크지 않을 것이라는 전망도 제기된다.
선거의 계절 딥페이크 판별 등 AI가 불러온 혁신의 물결
뇌-컴퓨터 인터페이스 장치가 마비 환자의 뇌 신호를 해독해 로봇팔을 움직이는 개념도. 사진 출처 Science.
미국 대통령 선거,
한국 국회의원 선거 등 굵직한 선거 이슈가 올해 예정된 가운데 국제학술지 ‘네이처’가 지난 23일 2024년 혁신이 기대되는 흥미로운 기술로 인공지능(AI) 관련 기술을 우선적으로 꼽았다.
생성형AI가 만들어내는 가짜 이미지나 영상을 뜻하는 딥페이크를 가려내는 기술에 이목이 집중될 것이라는 분석이다.
또뇌신경질환을 치료하는‘뇌-컴퓨터 인터페이스(BCI)’에 AI를 적용하는 시도도 흥미롭게 전개될 것으로 보았다.
● 딥페이크와의 전쟁·BCI 기술 발전 등 AI에 '촉각'
우선 딥페이크를 가려내는 기술로는 눈에 보이지 않는 워터마크를 콘텐츠에 삽입하는 기술이 거론된다.
AI가 생성한 콘텐츠라는 사실을 식별할 수 있는 방법이다.
콘텐츠의 조작 근거를 찾아내는 소프트웨어 개발도 이어지고 있다.
귀의 독특한 주름,
치아의 불규칙성 등으로 조작을 감지한다.
네이처는 "모든 딥페이크에 적용 가능한 소프트웨어 기술 개발은어렵기 때문에 딥페이크 탐지 기술은 올 한해 내내 화두가 될 것"이라고
밝혔다.
AI의 위험성을 설파해 왔던 일론 머스크 테슬라 최고경영자(CEO)가 설립한 뉴럴링크의 움직임에도 관심을 모으고 있다.
뇌와 컴퓨터를 연결해 뇌의 신호를 전달,
해독하는 BCI 기술에 AI를 적용하면 뇌 신호 해독 속도가 비약적으로 빨라질 것이라는 전망이다.
BCI의 반응 속도가 빨라지면 마비 환자의 로봇팔을 더 원활하게 제어하거나 인지장애 등 뇌신경질환 환자 치료 효율을 높일 수 있다.
단백질 구조를 예측하는 AI의 딥러닝 기술도 주목된다.
한국도 세계 수준의 기술을 확보하는 데 초점을 맞추고 있는 인공효소,
생체 재료 등 합성생물학 관련 연구결과들이 지속적으로 등장할 것으로 예상된다.
● 유전자가위 치료 시대 '성큼'...세포·미시세계 탐구 지속
지난해 미국과 영국에서 승인된겸상적혈구빈혈 유전자가위 치료제 ‘카스거비’에 이어 또다른 유전자가위 치료제가 나올 것으로 전망됐다.
결함이 있는 유전자를 절단하고 교정하는 치료 시대가 열린 것이다.
네이처는 "메사추세츠공대 연구진이 개발한 보다 규모가 큰 단위로 DNA를 교정할 수 있는 '프라임 편집'기술도 올해 주목된다"며 "프라임 편집은 병원체 내성을 가진 농작물 개발에도 활용할 수 있다"고 밝혔다.
몸속 세포를 지도화하는 ‘세포 아틀라스’ 프로젝트도 주목된다.
100개국 3000여명의 과학자들이 참여하는 대형 프로젝트다.
지난해폐 세포 지도를 공개했다.
전체 세포 지도가 완성되려면 5년 이상 걸릴 것으로 추정된다.
세포라는 미세 환경이 질병에 미치는 영향,
세포별 약물 표적 치료 효과 등을 밝히는 연구다.
미시 세계에 대한 탐구는 현미경 분야에서도 진행 중이다.
과학자들은 세포를 분자 수준에서 관찰하는 데 성공했고 이제 원자 단위 세계를 들여다보는 방법을 찾고 있다.
독일 막스플랑크 생화학연구소가 개발한원자 크기 해상도로 단백질 구조를 파악할 수 있는 기술에 관심이 쏠리고 있다.
3D 프린팅 기술로 나노 단위 구조물을 만드는 기술도
주목된다.
나노 크기 구조물은 재료의 강도나 에너지 저장능력 등을 향상시킬 수 있다.
나노 물질을 정밀하게 만들려면 프린팅 속도가 중요하다.
홍콩중문대는 패턴화된 2D 광시트로 프린팅 속도를 1000배 향상시켰다.
금속 나노 구조물 제조 및 비용 절감 등 한계에 대한 도전도 이어질 전망이다.
일기예보 게임체인저 등장...슈퍼컴 없이 날씨 정확히 예측하는 AI
구글 딥마인드 ‘그래프캐스트’
인공지능은 허리케인과 같은 극심한 날씨를 정확하게 예측할 수 있는 것으로 나타났다.
Ig0rZh/게티이미지뱅크 제공.
인공지능(AI)을 이용하면 슈퍼컴퓨터 없이 일반 컴퓨터만으로도 날씨를 정확하게 예측할 수 있다는 연구결과가 나왔다.
미국 로스앤젤레스 캘리포니아대 AI연구원 연구팀은 구글 딥마인드의 딥러닝 모델이 일반 데스크톱 컴퓨터에서 전 세계 날씨를 정확하게 예측하며 이를 실행하는 데 1분도 걸리지 않는다는 논문을 14일 국제학술지 ‘사이언스’에 발표했다.
오늘날 일기예보는 심각한 폭풍이나 폭염 등 극심한 날씨 변화를비교적 정확하게 예측할 수 있는 수준에 이르렀다.
하지만 이를 예측하기 위해 24시간 365일 가동하는 데 큰 비용이 드는슈퍼컴퓨터를 가동해야 한다.
반면 AI는 적은 비용으로 빠르게 날씨를 예측할 수 있다.
연구팀은 딥마인드의 AI 날씨 예측 모델인 ‘그래프캐스트’가 기존의 그 어떤 접근법보다 정확하게 단시간 내 날씨를 예측할 수 있다고 밝혔다.
기존의 기상 예측 시스템은 위성,
기상 관측소,
바다 부표 관측,
제트기 센서 측정값 등을 기반으로 현재 상황의 스냅샷을 격자형 컴퓨터 모델에 공급해 분석을 시행해기상을 예측한다.
날씨 예측을 위해 복잡한 방정식을 계산해야 하는데 백만 개의 처리장치를 가진 슈퍼컴퓨터가 수행해도 수 시간이 소요되고 막대한 비용이 들어간다.
그래프캐스트는 딥러닝을 활용해 지난 40년간의 유럽중거리기상예측센터의 데이터를 훈련하고 대기가 변화하는 패턴을 학습한다.
기압,
바람,
온도,
습도 등 날씨 변수 간의 연결을 학습한 뒤 날씨를 예측하는데 허리케인 경로,
극심한 온도 변화 등을 10일까지 예측할 수 있다.
연구팀은 “32대의 컴퓨터가 AI 모델을 훈련하는 데 4주가 걸렸지만,
결과적으로 일반 컴퓨터 1대로 1분 내에 기상을 예측할 수 있을 정도로 빠르고 정확하고 유용하다”며 “복잡한 방정식을 풀지 않아도 되기 때문에 빠른 수행이 가능하고 성능이 뛰어나지 않은 컴퓨터로도 예측할 수 있다”고 말했다.
그 예로 그래프캐스트는 지난 9월 미국과 캐나다 연안을 강타한 ‘허리케인 리’의 상륙 위치를 정확히 예측했다.
그래프캐스트는 9일간의 허리케인 경로를 예측한 반면,
유럽중거리기상예측센터는 6일의 경로를 예측할 수 있었다.
이 모델의 잠재력은 날씨 예측에 그치지 않는다.
구름,
가스,
에어로졸의 복잡한 관계 속에서 발생하는 지구온난화 추세를 전망하는 데도 활용될 수 있다.
당장 AI가 전통적인 일기예보를 대체할 수 있는 건
아니다.
연구팀은 “기존의 날씨 예측을 보완할 수 있는 유용한 도구로 활용될 수 있다”며 “향후정확하게 날씨를 예측하는 게임체인저가 될 것”이라고 말했다.
'뽀뽀하는 트럼프,가짜 푸틴'…인공지능,선거 시기 골칫거리 되나
각국 선거를 앞두고 AI로생성한허위정보를 단속하기 위한 움직임이 이어지고 있다.
게티이미지뱅크
지난 13일 열린 대만 총통 선거를 시작으로 한국의 총선,
미국 대통령 선거 등 지구촌 곳곳에서 굵직한 선거가 이어지는 가운데 선거철 생성형AI의 악용을 막아야 한다는 목소리가 높아지고 있다.
생성형AI를 이용해 만든 가짜 이미지가 선거 유세에 활용하는 사례들이 나타나면서 유권자의 올바른 판단을 돕기 위해서라도 AI 기업과 당국이 나서야 한다는 것이다.
챗GPT를 서비스하는 오픈AI,
'바드'를 선보인구글 등은 생성형AI 악용을 방지하기
위한 방안을 내놨다.
● '파우치는 가짜' 헐뜯던 트럼프가 파우치에게 '뽀뽀'를?
지난 6월 로이터통신에 따르면 미국 플로리다주 주지사 론 드산티스의 SNS 계정에 뜻밖의 사진이 등장했다.
도널드 트럼프 전 미국 대통령이 신종 코로나바이러스 감염증(코로나19) 팬데믹 대응을 이끌던 앤서니 파우치 전 미국 국립보건원(NIH) 산하 국립알레르기감염병연구소(NIAID) 소장을 포옹하는 사진이었다.
다른 버전에는 트럼프 전 대통령이 파우치 소장의 코에 입을 맞추고 있었다.
드 산티스 플로리다 주지사 X 계정 갈무리
트럼프 전 대통령과 파우치 소장은 코로나19 대응책을 두고 날선 각을 세우던 관계다.
트럼프 전 대통령은 '파우치는 멍청이,
가짜'라며 공개 석상에서 독설을 퍼붓기도 했다.
파우치 소장을 향한 트럼프 열렬 지지자의 공격이 거세지자 미 복지부는 경호 강화에 나서기도 했다.
사실 이 사진들은드 산티스 주지사 선거캠프 측에서 허위로 만들어낸 사진이었다.
이는 트럼프 전 대통령과 드 산티스 주지사가 공화당 대통령 후보자리를 두고 경쟁하면서 드 산티스 주지자 측이 트럼프 전 대통령 측을 견제하기 위해 만든 것으로 알려졌다.
당시 CNN 보도에 따르면 트럼프 전 대통령 선거캠프도 드 산티스 주지사와 특정 동물을 합성한 사진을 SNS에 게재하는 등 가짜 이미지를 만든 바 있다.
한 누리꾼이 자신의 SNS에 올린 문재인 전 대통령의 2021년 신년 기자회견 사진. 온라인 커뮤니티 갈무리
국내에서는 지난 2021년 문재인 전 대통령의 신년 기자회견 당시 프롬프터 화면을 조작한 사진이 온라인에서 떠돌았다.
SNS를 통해 빠르게 확산된 이 사진에는 문 전 대통령 맞은편에 설치된 프롬프터에 '대통령님,
말문 막히시면 원론적인 답변부터 하시면서 시간을 끌어보십시오'라는 문구가 적혀있었다.
이 역시 조작된 사진이었다.
실제 원본 사진에는 기자들의 즉문즉답에 대답하기 위한 질문 정보가 실려있었다.
사진 촬영 시점도 2021년이 아닌 2020년이었던 것으로 드러났다.
생성형AI가 아닌 간단한 편집툴로도 조작할 수 있는 이미지이지만 사실관계를 확인할
새 없이 순식간에 화제가 됐다.
딥페이크로 생성된 자기자신과 대화하는 블라디미르 푸틴 러시아 대통령. 실제 푸틴 대통령(왼쪽),
AI로 생성한 푸틴 대통령(오른쪽). 가디언 유튜브 갈무리
러시아에서는 '가짜 푸틴'이 공식 석상에 등장했다.
지난해 12월 14일 모스크바 크렘린궁에서 열린 연례 기자회견에 참석한 블라디미르 푸틴 러시아 대통령은 국민들과 화상 질의응답 시간을 가졌다.
이 가운데 푸틴의 외모와 목소리를 똑같이 따라한 '딥페이크 푸틴'이 화면에 나타났다.
딥페이크 푸틴은 실제 푸틴 대통령의 표정이나 제스처를 똑같이 따라하며 푸틴 대통령에게 질문을 던졌다.
외신은 푸틴 대통령의 건강이 악화되며 대역을 쓰고 있다는 소문이 돌자 그 소문을 일축시키기 위해 일부러 딥페이크 영상을 노출시켰다고 해석했다.
● 허위정보 막을 대안 내놓는 기업들… 효과는 '글쎄'
생성형AI로 만든 가짜 정보에 대한 우려가 본격적인 선거철에 접어들면서 점점 커지자챗GPT를 운영하는 오픈AI는 15일(현지시간) 블로그를 통해 선거철 생성형AI 악용을 방지하기 위한 대책을 내놨다.
오픈AI는 선거 기간 챗GPT를 이용해 선거 유세에 활용되는 애플리케이션을 만들 수 없게 한다.
후보자나 지역 지관과 1:1로 대화할 수 있는 챗봇을 만드는 행위도 금지된다.
투표 장소,
투표권,
투표 방식 등에 대한 허위 정보를 퍼뜨리거나 투표 참여를 저지하기 위한 애플리케이션도 만들 수 없다.
이미지 생성 프로그램인 '달리3(DALL·E 3)'에는 달리3으로 생성한 이미지임을 확인할 수 있는 검증 기술을 도입한다.
해당 이미지가 AI로 생성됐음을 확인할 수 있는 워터마크가 내장된다.
달리3으로 생성한 이미지를 검출하는 기능도 언론,
연구자 등을 통한 내부 테스트 후 공개될 예정이다.
앞서 생성형AI '바드(Bard)'를 보유한 구글,
포토샵 프로그램을 운영하는 어도비 등도 규제에 나섰다.
생성된 이미지에 워터마크를 내장해 AI 사용 사실을 확인할 수 있게 했다.
바드는 AI 검색 기능에서 선거 관련 질문을 제한한다.
페이스북,
인스타그램을 운영하는 메타는 정치 광고 게재시 AI 사용 여부를 명시하도록 했다.
AI 기업이 내놓은 대책에 실효성이 부족하다는 지적도 있다.
15일(현지시간) 미국 일간지 워싱턴포스트(WP)는 오픈AI가 챗GPT 등 자사 생성형AI에서 허위정보단속안을 공표했음에도 지난 8월 WP 확인 결과 서비스에 실제 적용되지는 않았다고 밝혔다.
또 이미지에 명시된 워터마크는 사용자가 임의로 잘라낼 수 있는데다 내장형 워터마크의 경우에도 이미지의 명도나 색상을 조절하는 방식으로 숨길 수 있다는 지적이다.
한편중앙선거관리위원회는4월 총선을
앞두고 이달 11일부터 AI모니터링 전담요원,
AI감별반 등을 확대 편성하는 등 딥페이크 콘텐츠 단속에 나선다.
SNS에서도 허위정보로 판별된 콘텐츠를 신속히 삭제하는 등 선거철 모니터링을 강화하겠다는 방침을 밝혔다.
"가짜 아이유 목소리 잡아낸다"…유튜브, AI 생성 '커버곡' 규제 나서
유튜브가 AI 생성 콘텐츠 규제에 나선다.
게티이미지뱅크 제공
구글이 운영하는 동영상 공유서비스 유튜브가 인공지능(AI)으로 만든 '페이크(fake) 커버곡 영상' 단속에 나선다.
가디언,
NBC 등 외신은 14일(현지시간) 유튜브가 AI로 생성했지만 마치 해당 가수가 실제 녹음한 곡인양 업로드하는 행위를 규제하는 새 가이드라인을 도입하기로 했다고 전했다.
생성형 AI를 이용해 특정 아티스트의 목소리나 창법과 유사한 음성을 만들 수 있게 되면서,
아티스트가 실제 녹음한 곡이 아님에도 마치 음원을 발매한 것처럼 영상을 올리는 사례가 늘어나자 플랫폼 차원에서 이를 규제해야 한다는 목소리가 높아졌다.
최근에는 AI로 만든 목소리가 미국 힙합·팝가수 드레이크와 위켄드라고 주장하며 '하트 온 마이 슬리브'라는 곡을 공개하자 세계 3대 음악 레이블 중 하나인 유니버셜 뮤직그룹이 즉각 반발하고 나섰다.
유니버셜은 드레이크와 위켄드의 음반 저작권을 소유하고 있다.
이후 해당 곡은 스트리밍 서비스에서 삭제됐지만 따로 가이드라인이 없는 유튜브에선 여전히 공개돼 있었다.
유튜브는 14일(현지시간) 자사 블로그 게시글을 통해 향후 몇 달 안에 AI가 생성한 콘텐츠에 의무적으로 'AI가 만들었다'는 표시를 붙이도록 해 유튜브 사용자가 AI에 의해 제작된 콘텐츠를 볼 때마다 해당 사실을 알려주는 제도를 도입할 것이라고 밝혔다.
또 얼굴이 알려진 연예인 등을 포함,
식별할 수 있는 개인의 목소리나 얼굴을 모사한 AI 페이크 영상이 게시될 경우 삭제를 요청할 수 있도록 한다는 계획이다.
지금까지 유튜브에는 AI 생성 영상에 대한 별도의 규정이나 삭제 조항이 없었다.
다만 "삭제 요청이 들어온 모든 콘텐츠가 삭제되는 것은 아니다"라며,
"콘텐츠가 패러디 혹은 풍자인지,
공직자나 유명인이 등장하는지 등에 대해 면밀히 검토할 것"이라며 세부적인 검토 기준을 덧붙였다.
만약 AI로 만든 페이크 영상임을 밝히지 않고 그 사실이 발각될 경우 규정 위반으로 간주해 해당 채널의 콘텐츠를 삭제하거나 광고료 지불을 중단한다고 밝혔다.
아티스트의 저작권을 소유한 음반회사는 아티스트의 목소리를 모방한 AI 생성 음악 콘텐츠의 삭제를 요청할 수 있게 된다.
국내만 해도 아이유,
박효신,
뉴진스 등 유명 아티스트들의 목소리를 모방한 음악 콘텐츠가 다수 업로드돼 있으며 각 영상의 조회수는 수십만 회에 달한다.
특정 가수의 목소리를 모사한 AI 음악 콘텐츠만 업로드하는 채널도 수십여 개에 달하는 것으로 알려져 있다.
한계도 지적된다.
유튜브는 자체 프로그램을 개발해
AI 생성 콘텐츠임을 밝히지 않은 콘텐츠도 가려낼 것이라고 밝혔지만,
외신들은 정확히 어떻게 이를 구별해낼 수 있을 것인지에 대해선 불투명하다고 전했다.