“알렉사, 할머니가 오즈의 마법사를 붙잡고 줄까?”6월 21일부터 4일 미국 라스 베이거스에서 아마존의 리마 스(re:MARS)콘퍼런스가 열렸다. 머신 러닝(Machine learning), 자동화(Automation), 로봇 공학(Robotics)우주 탐사(Space)을 테마로 매년 열리는 행사이다. 해당 콘퍼런스에서 아마존은 인상적이지만 큰 논란을 불러일으키는 기술을 공개했다.공개한 비디오 클립에서 한 아이가 인공 지능(AI)음성 비서인 알렉사(Alexa)에 할머니의 목소리로 자기 전에 동화책을 읽어 달라고 요청하자, 알렉사는 목소리를 변경하고 명령을 수행했다. 원래 로봇 음성 대신 실제 아이의 할머니처럼 부드럽고 인간적인 목소리로, 오즈의 마법사를 읽어 주었어. 그런데, 실은 이 아이의 할머니는 세상에 없었다.아마존 수석 부사장(SVP)인 수석 연구원 로히토·프라사ー도(Rohit Prasad)는 모든 소리를 모방할 수 있는 그거 쿠사의 기능을 시연했다. 1분 미만의 음성 샘플에서 더 내용의 발화를 고화질로 출력하는 기술이다. 현재는 개발 중 기술이며, 출시 일정은 밝히지 않았다.프라사ー도 SVP는 해당 기술이 특히 사망한 가족 구성원들을 기억하는 데 사용할 수 있다고 전했다. 신종 코로나 바이러스 감염증의 유행 기간 중에 ” 많은 사람이 사랑하는 사람을 보냈다”로 “AI가 상실의 고통을 없앨 수는 없지만 기억은 남길 수 있다”고 덧붙였다. 이런 맥락에서 아마존은 인공 지능과보다 인간처럼 대화하도록 하는 데 집중했다.로 인간 프라사ー도은 아렉 사로 아마존이 이루고자 하는 것은 “일반화 가능한 지능(generalizable intelligence)”을 만들거나 사용자 환경에 적응하며 적은 외부 입력에서 새로운 개념을 배우는 것이다. 그래서 몇시간 만에 스튜디오에서 녹음한 파일 대신 1분 정도의 오디오에서도 제대로 목소리를 모방하고 출력하는 기술을 개발 중이다. 그러나 이번의 소식을 접한 사람들은 적지 않은 우려를 표시하고 있다.
출처 : Mnet TV AI 음악 프로젝트 ‘다시’
가장 자주 제기될 우려는 딥 페이크 관련 문제이다. 영상 합성 기술인 딥 페이크 특히 이 경우에는 음성 합성 기술인 딥 보이스에 따른 부작용이 발생할 수 있다. 기술이 발전하면서 일상에서도 무난히 딥 음성 기술과 만날 수 있다. 좋아하는 연예인이 읽어 주는 오디오 북도 들어라. 숨진 가수의 목소리를 복원하고 새로운 곡을 무대에 올리기도 했다.그러나, 딥 보이스가 악용되자 심각한 피해를 준다. 합성된 영상에 딥 보이스의 목소리를 달고 가짜 뉴스를 만들 수 있다. 또 유명인의 얼굴에서 포르노 합성물을 만드는 등 디지털성 범죄 피해도 심각하다. 보이스 피싱이나 사칭 문제가 발생할 가능성이 있다.딥 음성 기술은 학습시키는 음성 데이터만 있으면 쉽게 활용할 수 있다. 일례로 마이크로 소프트가 개발한 사용자 지정 뉴럴 네트워크 음성(Custom Neural Voice)가 있다. 학습한 오디오 샘플에서 사용자가 원하는 자연스러운 음성을 출력할 수 있다.마이크로 소프트는 소프트웨어를 개발하고 도덕성과 관련되어 국내외에서 오랫동안 토론을 거쳤다. 토론 끝에 유저를 제한하고 출시하기로 했다. 소프트웨어를 사용하려면, 마이크로 소프트 측에 유저 정보나 사용 목적 등을 기재한 신청서를 작성해야 한다. 전문가가 신청서를 검토한 뒤 승인한 사용자만 이용이 가능하다.
인기글
만약 알렉사가 1분 정도 녹음 파일만 사람의 목소리를 모방할 수 있다면 악용될 소지가 커진다. 개인이 너무나 쉽게 남의 목소리를 모방할 수 있기 때문이다.또 학습한 소리를 특히 고인의 목소리를 학습할 경우 고인의 목소리에 대한 권리와 학습 데이터를 얼마나 보유하느냐는 문제도 남아 있다.따로 IT전문 매체인 기즈모도(Gizmodo)는, 죽은 사랑하는 사람의 목소리를 들었을 때 프라사ー도이 예상된 반응이 나올지 의문을 제기했다. 오히려 사랑하는 사람을 잃은 것에 대해서 화 낼 수 있다”라고 주장했다. 또 AI가 자신의 목소리로 살아 있는 가족과 대화하는 것에 대해서 고인은 어떻게 생각할지에 대한 문제도 지적했다.기술이 발표되자마자 격렬한 우려가 제기된 만큼 기능이 공식 도입하기 전에 많은 고민이 필요할 것으로 보인다. 여러 문제에 대한 대책을 마련하지 않은 채 출시하면 사람들의 이유 있는 우려를 잠 재우기는 어려울 것이다.텍 플러스 에디터 김·보현 나·유 그오은 [email protected][fv0012]
삼성의 보급형 갤럭시SFE 시리즈와 곧 헤어져야 할지도 모른다는 주장이 제기됐다. 지난 15일 샘모바일은 삼성전자가 팬 에디션 시리즈를 출시한 지 2년 만에 이를 정리할 수도 있다고 단독 보도했다. 샘모바일은 주로 삼성전자 소식을 전하는 외신이다.tech-plus.co.kr
삼성의 보급형 갤럭시SFE 시리즈와 곧 헤어져야 할지도 모른다는 주장이 제기됐다. 지난 15일 샘모바일은 삼성전자가 팬 에디션 시리즈를 출시한 지 2년 만에 이를 정리할 수도 있다고 단독 보도했다. 샘모바일은 주로 삼성전자 소식을 전하는 외신이다.tech-plus.co.kr
삼성의 보급형 갤럭시SFE 시리즈와 곧 헤어져야 할지도 모른다는 주장이 제기됐다. 지난 15일 샘모바일은 삼성전자가 팬 에디션 시리즈를 출시한 지 2년 만에 이를 정리할 수도 있다고 단독 보도했다. 샘모바일은 주로 삼성전자 소식을 전하는 외신이다.tech-plus.co.kr
