안녕하세요!

​Digital 시대를 만들어가는 Embedded System과 산업용 컴퓨터 및 Display Solution 기업 비맥스테크놀로지입니다!

딥브레인AI의 딥페이크 자동 탐지 솔루션 활용을 위한 웹사이트 화면.

딥브레인AI가 5일 서울 코엑스에서 개최한 '2024 생성 AI 포럼'에서 '딥페이크 자동 탐지 솔루션'을 공개했습니다.

​

딥페이크는 인공지능(AI) 기술로 사진·영상 등을 생성·변조하는 기술입니다. 최근 딥페이크를 악용한 성범죄물이 사회적 문제로 떠오르면서 딥브레인AI의 솔루션이 각광받았습니다. 현재 경찰청, 국립과학수사연구원(국과수) 등 공공에 도입돼 딥페이크 악용 범죄 수사 등에 활용되고 있습니다.

​

이날 행사에서 딥브레인AI는 솔루션의 '자동 탐지'와 '단건 탐지' 기능을 소개했습니다.

​

자동 탐지는 유튜브, 틱톡, 텔레그램 등 웹사이트를 자동 크롤링한 뒤 수집된 콘텐츠의 딥페이크 생성물 여부를 확인하는 기능입니다.

​

수집된 영상은 딥페이크 기술이 적용된 경우 'Real', 딥페이크 기술이 적용되지 않은 경우 'Fake'로 나타납니다. 립싱크, 페이스 스왑(얼굴을 다른 얼굴로 바꾸는 것), 얼굴 생성 등 다양한 요소를 고려해 해당 콘텐츠가 진짜일 확률 또는 가짜일 확률이 표시됩니다.

단건 탐지는 이용자가 사진 또는 영상을 직접 업로드해 해당 콘텐츠의 딥페이크 기술 적용 여부를 확인하는 기능입니다.

기자가 김정은 북한 국무위원장이 출연한 영상을 첨부하자 'Fake 77.64%'라는 표시가 나왔습니다. 해당 영상은 딥페이크로 생성한 가짜 영상이었습니다.

딥브레인AI의 딥페이크 탐지 솔루션을 통해 김정은 북한 국무위원장이 출연한 영상의 딥페이크 생성물 여부를 확인한 결과. 딥페이크 생성물일 확률(Fake)이 77.64%로 나타났다. 립싱크 3.81%, 페이스 스왑(얼굴을 다른 얼굴로 교체) 93.08%, 얼굴 생성 0.39%로 세 가지 기술의 적용 확률을 고려해 이 같은 결과가 나타났다.

딥브레인AI는 공공을 넘어 해당 솔루션을 수요가 높은 엔터 기업을 비롯한 민간에 서비스형 소프트웨어(SaaS) 방식으로 제공할 계획입니다.

딥브레인AI 관계자는 “데이터 학습량은 웹크롤링을 통해 올해 초 이전까지 학습한 사진·영상 데이터 520만건을 넘어 기하급수적으로 늘어나 탐지 정확도가 높아지고 있다”며 “딥페이크 기술이 발전하는 만큼 탐지 솔루션도 지속 발전시켜나갈 것”이라고 말했습니다.

​

출처: 전자신문

혹시나 더 궁금하신 점이나 문의사항이 있으시면 ​비맥스테크놀로지​​로 문의해 주세요!

오늘도 비맥스테크놀로지의 공식 블로그에 방문해 주셔서 감사합니다:)