인공지능으로 만든 클립과 이미지의 몽타주 속에서 중국어로 말하는 자오의 모습을 담은 이 영상은 공인을 사칭하기 위해 인공지능을 무단으로 사용하는 것에 대한 강한 우려를 불러일으켰습니다. CZ는 목소리와 립싱크의 정확성이 "충격적"이라고 설명했습니다.
생성 AI 도구를 통한 암호화폐 업계 경영진의 디지털 복제가 증가하고 있으며, 이번 사건은 악의적인 사칭의 명백한 예입니다. 2023년 바이낸스 CEO에서 물러난 후에도 자오는 암호화폐 업계에서 계속 영향력을 행사했으며, 이전에도 딥페이크의 위험성에 대해 대중에게 경고한 바 있습니다.
2024년 10월 한 달 동안 자오는 자신을 묘사하는 조작된 콘텐츠가 확산되고 있다며 암호화폐 송금을 요구하는 동영상을 믿지 말라는 구체적인 경고를 내렸습니다.
그 사이 하드웨어 제조업체들은 소비자 기기에 센싱 시스템을 통합하기 시작했습니다. 바르셀로나에서 열린 모바일 월드 콩그레스 2025에서는 기기 자체에 내장된 실시간 오디오 및 비디오 조작을 감지할 수 있는 도구가 공개되어 아직 상용 배포까지는 멀었지만 자율적인 진위 확인 솔루션을 향한 한 걸음 내디뎠습니다.
전 바이낸스 CEO 창펑 자오(Changpeng "CZ" Zhao)가 AI 기술 덕분에 자신의 목소리를 완벽하게 모방한 동영상에 대한 놀라운 경험을 이야기했습니다.
Zhao 포스팅을 통해 동영상 속 만다린 더빙이 매우 정확하게 재현되어 자신의 실제 목소리와 구별할 수 없었다고 밝혔습니다.
인공지능으로 만든 클립과 이미지의 몽타주 속에서 중국어로 말하는 자오의 모습을 담은 이 영상은 공인을 사칭하기 위해 인공지능을 무단으로 사용하는 것에 대한 강한 우려를 불러일으켰습니다. CZ는 목소리와 립싱크의 정확성이 "충격적"이라고 설명했습니다.
생성 AI 도구를 통한 암호화폐 업계 경영진의 디지털 복제가 증가하고 있으며, 이번 사건은 악의적인 사칭의 명백한 예입니다.
2023년 바이낸스 CEO에서 물러난 후에도 자오는 암호화폐 업계에서 계속 영향력을 행사했으며, 이전에도 딥페이크의 위험성에 대해 대중에게 경고한 바 있습니다.
2024년 10월 한 달 동안 자오는 자신을 묘사하는 조작된 콘텐츠가 확산되고 있다며 암호화폐 송금을 요구하는 동영상을 믿지 말라는 구체적인 경고를 내렸습니다.
말한 바 있습니다.
이 영상은 수년간의 공개 인터뷰와 온라인 콘텐츠를 수집해 만든 것으로, 실제 바이낸스의 공식 통화처럼 믿을 수 있는 가상의 만남입니다.
오늘날 음성 복제 기술은 원본조차 가짜를 알아볼 수 없을 정도로 사람을 잘 모방할 수 있게 해줍니다. 이는 소셜 네트워크에서의 신원 도용을 훨씬 뛰어넘는 위험입니다.
백만 달러 사기 딥페이크의 구체적인 위험성을 보여주는 사례
2월에 발생한 사건은 딥페이크의 심각한 금융 위험을 강조합니다: 홍콩의 Arup 직원이 Microsoft Teams를 통한 화상 통화 중 사기를 당해 약 2,500만 달러를 이체했습니다.
사우스차이나모닝포스트에 따르면, 통화에 참여한 모든 참가자는 영국 CFO와 다른 동료들의 목소리와 외모를 모방한 AI 시뮬레이션이었습니다.
보컬 클로닝: 점점 더 접근성이 높아지는 기술
실감나는 음성 복제 기술은 점점 더 접근성이 높아지고 있으며 작동에 필요한 음성 데이터도 매우 적습니다.
ElevenLabs와 같은 서비스를 통해 사용자는 60초 미만의 녹음으로 사실적인 음성 복제를 만들 수 있습니다.
영국의 한 금융 기관에 따르면, 영국 성인의 25% 이상이 작년에만 복제된 목소리를 이용한 사기를 당했다고 합니다.
CyFlare의 보고서에 따르면 음성 복제 API를 다크넷 마켓플레이스에서 최저 $5에 구입할 수 있다고 합니다. 상용 모델은 일반적으로 워터마킹을 포함하고 동의를 필요로 하는 반면, 오픈소스나 불법 모델은 아무런 보호를 제공하지 않습니다.
EU, 딥페이크에 대한 명시적 규정 필요하지만 법안은 2026년에야 마련될 예정
2024년 3월에 채택된 EU 인공 지능 규정에 따라 공개적으로 보이는 모든 딥페이크 콘텐츠에는 명확한 라벨이 표시되어야 합니다.
그러나 이 규정의 완전한 시행은 2026년으로 예정되어 있어 상당한 취약 기간이 남아 있습니다.
그 사이 하드웨어 제조업체들은 소비자 기기에 센싱 시스템을 통합하기 시작했습니다.
바르셀로나에서 열린 모바일 월드 콩그레스 2025에서는 기기 자체에 내장된 실시간 오디오 및 비디오 조작을 감지할 수 있는 도구가 공개되어 아직 상용 배포까지는 멀었지만 자율적인 진위 확인 솔루션을 향한 한 걸음 내디뎠습니다.
Sign up for 스파지오크립토®
No spam. Unsubscribe anytime.
다음 읽기
다크웹에서 판매되는 암호화 사용자 데이터: 높은 위험
레저, 제미니, 로빈후드 사용자의 민감한 데이터가 다크웹에서 판매되고 있습니다. 암호화폐 보안에 대한 우려가 커집니다.
새로운 트렌드: 다양한 거래소에 상장된 기블리 토큰
스튜디오 지브리에서 영감을 받은 GHIBLI 토큰은 Gate.io, BingX 및 기타 플랫폼에 상장되며 인기를 얻고 있습니다. 24시간 만에 20% 성장.
Chatbot Grok, Bankr 통해 토큰 출시, $27만 모금
챗봇 그로크가 뱅커를 통해 토큰을 출시하며 27만 달러를 모금했습니다. AI와 블록체인의 통합을 위한 중요한 단계.
DeepSeek 암호화 사기: 중국, 경고 발령
중국 당국은 가짜 플랫폼과 감염된 앱으로 투자자에게 사기를 치는 범죄 집단에 대해 경고합니다.