영국 스타트업, 세계 최초 AI 딥페이크 감지 브라우저 출시

런던에 본사를 둔 사이버 보안 신생 기업 Surf Security은 "군용" 신경망 기술을 사용하여 딥페이크를 감지한다. 이 시스템은 상태 공간 모델(State Space Models)을 사용하여 오디오 프레임의 불일치를 분석하여 언어와 악센트에 걸쳐 AI가 생성한 복제본을 감지한다.

Surf Security의 CTO인 지브 얀코비츠(Ziv Yankowitz)는 "효과를 극대화하기 위해 정확도와 속도에 집중했다."라고 말했다. 그는 이 도구의 신경망은 최고의 AI 음성 복제 플랫폼에서 만든 딥페이크를 사용하여 훈련되었다고 말했다.

이 시스템은 처리하기 전에 오디오를 정리하는 통합된 배경 소음 감소 기능을 갖추고 있다. "2초 이내에 딥페이크 오디오를 찾아낼 수 있다."라고 얀코비츠는 말했다.

이 새로운 기능은 WhatsApp, Slack, Zoom 또는 Google Meet와 ​​같은 온라인 비디오나 커뮤니케이션 소프트웨어를 포함한 오디오 파일에 사용할 수 있다. 버튼을 누르기만 하면 시스템에서 오디오(녹음된 것이든 라이브이든)가 진짜인지 아니면 AI에서 생성된 것인지 확인한다. Surf는 향후 브라우저 툴킷에 AI 이미지 감지 기능을 추가할 것이라고 밝혔다.

딥페이크는 점점 더 심각해지는 문제이다.

AI를 사용하여 설득력 있는 가짜 오디오나 비디오를 만드는 딥페이크는 점점 더 심각한 위협이 되고 있다.

이번 주에 BBC의 연구원들은 유명한 진행자 데이비드 애튼버러의 딥페이크 오디오 클립을 발견했는데, 이 클립은 유명 진행자의 목소리와 구별할 수 없을 정도로 들린다. 다양한 웹사이트와 YouTube 채널에서 딥페이크를 사용하여 그가 러시아, 미국 선거에 대해 한 번도 한 적이 없는 말을 하게 만들고 있다.

이것은 추악한 빙산의 일각에 불과하다. 딥페이크는 대규모 사기를 가능하게 하고, 가짜 뉴스를 통해 정치적 불안을 조장하고, 거짓 또는 유해한 콘텐츠를 만들어 평판을 파괴하는 데 사용되었다.

Surf는 전 세계의 기업, 미디어 기관, 경찰, 군대를 AI 복제의 증가하는 위험으로부터 보호하기 위해 새로운 딥페이크 감지기를 출시했다고 밝혔다.

그러나 딥페이크와의 싸움은 기계를 선한 목적으로 사용하는 인간과 기계를 사악한 목적으로 사용하는 다른 인간 간의 끊임없는 싸움이다.

"AI 음성 복제 소프트웨어는 날이 갈수록 더 유능해지고 있다."라고 얀코비츠가 인정했다. "그래서 모든 사이버 보안과 마찬가지로, 우리는 끊임없이 진화하는 군비 경쟁에서 승리하기 위해 노력하고 있다."

Surf는 내년 초에 딥페이크 감지기의 전체 버전을 출시할 예정이다.