출처 : 데이터넷(https://www.datanet.co.kr)
사회공학기법 결합 저품질 딥페이크로 사용자 속여
성범죄·불법투자 유도 등 다양한 범죄 악용’
[데이터넷] 2024년은 AI로 시작해 AI로 마무리되는 AI 전환 시대라 평할 수 있다. AI 맹주를 위해 네트워크 업계의 빅딜이 일어났고, 사이버 보안도 AI를 활용한 창과 방패 싸움의 연속이었다. AI로 데이터센터 산업도 급성장을 예고했고, AI 반도체 대전도 본격화되는 한편 AI를 향한 IT 서비스 업계의 합종연횡도 한창이다. AI는 첨단 기술의 출발점이자 도착점이 되면서 디지털 생태계 전반의 중심이 됐고, 혁신의 견인차로 안착했지만 부작용을 극복하고 기술 활용의 균형점을 찾아야 하는 과제도 확인했다. 네트워크와 보안 분야를 중심으로 2024년 한 해를 되돌아본다. <편집자>
딥페이크가 심각한 사회문제로 대두되고 있다. 사이버 공격자들이 사기나 혐오 조장, 가짜뉴스 제작을 위해 딥페이크를 사용하고 있을 뿐만 아니라, 일반인, 청소년들도 딥페이크를 이용해 부적절한 영상을 만들어 유포하고 있다.
딥페이크는 무료 혹은 저가로 쉽게 만들수 있으며, SNS를 통해 빠르게 확산되기 때문에 피해자는 자신도 모르게 조작된 영상으로 인해 평생 씻을 수 없는 고통을 받게 된다.
딥페이크는 타깃으로 정한 피해자만 속이면 되기 때문에 영상의 품질을 높일 필요도 없다. 레코디드퓨처는 딥페이크와 사회공학기법 공격을 이용하면 저품질 딥페이크로도 피해자를 충분히 속일 수 있다고 설명했다.
특히 노인, 청력이 저하된 사람, 모국어가 아닌 사람에게 그럴듯하게 꾸민 거짓 정보를 주면서 가짜 프로젝트에 투자하도록 유인해 금전을 탈취한다. 공격자가 딥페이크 영상에 비용을 투자하지 않아도 충분한 수익을 얻을 수 있다는 설명이다.
합법적인 언론사와 기자로 위장한 딥페이크도 등장하고 있다. 공영방송 뉴스 클립처럼 보이는 딥페이크 영상을 통해 가짜 뉴스를 퍼뜨리고, 조작된 내부고발을 하며, 불법 도박에 가담하도록 하는 내용을 담고 있다. 방송 스튜디오와 앵커, 기자가 모두 신뢰할 수 있는 것 처럼 꾸며지기 때문에 사용자는 방송의 내용을 믿을 수 밖에 없다.
이처럼 딥페이크로 인한 문제가 심각해지면서 대안 마련이 시급해지고 있다. 이에 AI 관련 기술을 가진 기업의 딥페이크 영상 탐지·분석 기술도 속속 등장하고 있다. 샌즈랩, 라온시큐어, 딥브레인AI 등이 관련기술을 선보이면서 시장확산에 나섰다.
글로벌 IT 기업들도 관련 기술을 공개하면서 신뢰할 수 있는 AI 환경에 동참하고 있다. 인텔 페이크캐처, 마이크로소프트 비디오 어센티케이터, 구글 신스ID 등이 대표적인 솔루션이다.
기사링크 : https://www.datanet.co.kr/news/articleView.html?idxno=198842
답글 남기기