인공지능으로 만든 클립과 이미지의 몽타주 속에서 중국어로 말하는 자오의 모습을 담은 이 영상은 공인을 사칭하기 위해 인공지능을 무단으로 사용하는 것에 대한 강한 우려를 불러일으켰습니다. CZ는 목소리와 립싱크의 정확성이 "충격적"이라고 설명했습니다.
생성 AI 도구를 통한 암호화폐 업계 경영진의 디지털 복제가 증가하고 있으며, 이번 사건은 악의적인 사칭의 명백한 예입니다. 2023년 바이낸스 CEO에서 물러난 후에도 자오는 암호화폐 업계에서 계속 영향력을 행사했으며, 이전에도 딥페이크의 위험성에 대해 대중에게 경고한 바 있습니다.
2024년 10월 한 달 동안 자오는 자신을 묘사하는 조작된 콘텐츠가 확산되고 있다며 암호화폐 송금을 요구하는 동영상을 믿지 말라는 구체적인 경고를 내렸습니다.
그 사이 하드웨어 제조업체들은 소비자 기기에 센싱 시스템을 통합하기 시작했습니다. 바르셀로나에서 열린 모바일 월드 콩그레스 2025에서는 기기 자체에 내장된 실시간 오디오 및 비디오 조작을 감지할 수 있는 도구가 공개되어 아직 상용 배포까지는 멀었지만 자율적인 진위 확인 솔루션을 향한 한 걸음 내디뎠습니다.
전 바이낸스 CEO 창펑 자오(Changpeng "CZ" Zhao)가 AI 기술 덕분에 자신의 목소리를 완벽하게 모방한 동영상에 대한 놀라운 경험을 이야기했습니다.
Zhao 포스팅을 통해 동영상 속 만다린 더빙이 매우 정확하게 재현되어 자신의 실제 목소리와 구별할 수 없었다고 밝혔습니다.
인공지능으로 만든 클립과 이미지의 몽타주 속에서 중국어로 말하는 자오의 모습을 담은 이 영상은 공인을 사칭하기 위해 인공지능을 무단으로 사용하는 것에 대한 강한 우려를 불러일으켰습니다. CZ는 목소리와 립싱크의 정확성이 "충격적"이라고 설명했습니다.
생성 AI 도구를 통한 암호화폐 업계 경영진의 디지털 복제가 증가하고 있으며, 이번 사건은 악의적인 사칭의 명백한 예입니다.
2023년 바이낸스 CEO에서 물러난 후에도 자오는 암호화폐 업계에서 계속 영향력을 행사했으며, 이전에도 딥페이크의 위험성에 대해 대중에게 경고한 바 있습니다.
2024년 10월 한 달 동안 자오는 자신을 묘사하는 조작된 콘텐츠가 확산되고 있다며 암호화폐 송금을 요구하는 동영상을 믿지 말라는 구체적인 경고를 내렸습니다.
말한 바 있습니다.
이 영상은 수년간의 공개 인터뷰와 온라인 콘텐츠를 수집해 만든 것으로, 실제 바이낸스의 공식 통화처럼 믿을 수 있는 가상의 만남입니다.
오늘날 음성 복제 기술은 원본조차 가짜를 알아볼 수 없을 정도로 사람을 잘 모방할 수 있게 해줍니다. 이는 소셜 네트워크에서의 신원 도용을 훨씬 뛰어넘는 위험입니다.
백만 달러 사기 딥페이크의 구체적인 위험성을 보여주는 사례
2월에 발생한 사건은 딥페이크의 심각한 금융 위험을 강조합니다: 홍콩의 Arup 직원이 Microsoft Teams를 통한 화상 통화 중 사기를 당해 약 2,500만 달러를 이체했습니다.
사우스차이나모닝포스트에 따르면, 통화에 참여한 모든 참가자는 영국 CFO와 다른 동료들의 목소리와 외모를 모방한 AI 시뮬레이션이었습니다.
보컬 클로닝: 점점 더 접근성이 높아지는 기술
실감나는 음성 복제 기술은 점점 더 접근성이 높아지고 있으며 작동에 필요한 음성 데이터도 매우 적습니다.
ElevenLabs와 같은 서비스를 통해 사용자는 60초 미만의 녹음으로 사실적인 음성 복제를 만들 수 있습니다.
영국의 한 금융 기관에 따르면, 영국 성인의 25% 이상이 작년에만 복제된 목소리를 이용한 사기를 당했다고 합니다.
CyFlare의 보고서에 따르면 음성 복제 API를 다크넷 마켓플레이스에서 최저 $5에 구입할 수 있다고 합니다. 상용 모델은 일반적으로 워터마킹을 포함하고 동의를 필요로 하는 반면, 오픈소스나 불법 모델은 아무런 보호를 제공하지 않습니다.
EU, 딥페이크에 대한 명시적 규정 필요하지만 법안은 2026년에야 마련될 예정
2024년 3월에 채택된 EU 인공 지능 규정에 따라 공개적으로 보이는 모든 딥페이크 콘텐츠에는 명확한 라벨이 표시되어야 합니다.
그러나 이 규정의 완전한 시행은 2026년으로 예정되어 있어 상당한 취약 기간이 남아 있습니다.
그 사이 하드웨어 제조업체들은 소비자 기기에 센싱 시스템을 통합하기 시작했습니다.
바르셀로나에서 열린 모바일 월드 콩그레스 2025에서는 기기 자체에 내장된 실시간 오디오 및 비디오 조작을 감지할 수 있는 도구가 공개되어 아직 상용 배포까지는 멀었지만 자율적인 진위 확인 솔루션을 향한 한 걸음 내디뎠습니다.
Sign up for 스파지오크립토®
No spam. Unsubscribe anytime.
다음 읽기
기술 발전과 메인넷 좌절 사이의 파이 네트워크: 가격 10% 하락
파이 코어 팀은 0.5.4 업데이트를 발표했지만, 기술적 진전은 온체인 현실과 극명한 대조를 이루고 있습니다. 낮은 메인넷 활동과 워크포스풀 해커톤 우승자의 매각은 심각한 문제를 시사합니다.
딥시크릿 채팅 V3.1, 3일 만에 35% 수익률로 암호화폐 시장 장악
라이브 트레이딩 챌린지에서 딥시크 채팅 V3.1은 단 3일 만에 35%$ 성장하며 모든 AI 및 비트코인 모델을 능가하는 성과를 냈습니다. 다른 경쟁사의 승리 전략과 실패 사례에 대해 알아보세요.
ECB, 디지털 유로화 사기 방지를 위해 AI 스타트업 선정
ECB는 중앙은행의 미래 디지털 화폐를 보호하기 위한 이니셔티브에서 사기 방지 시스템을 개발하기 위해 포르투갈의 인공지능 전문 회사를 선정했습니다.
구글, AI 에이전트 간 결제를 위한 오픈소스 프로토콜 출시
Google은 스테이블코인과 카드를 사용한 자율 결제를 위한 오픈 소스 AI 프로토콜을 발표합니다.