구글이 최신 비디오 생성 도구를 공개하기 시작함에 따라, 이 회사는 그들의 점점 더 현실적인 AI 생성 클립의 기원 주변에 투명성을 보장하기 위한 계획이 있다고 말합니다. 비디오FX 앱의 새로운 Veo 모델로 만든 모든 비디오는 구글의 SynthID 시스템 덕분에 디지털 워터마크가 될 것입니다. 더욱이, SynthID는 Gemini에서 나온 AI 생성 텍스트에도 워터마크를 낼 수 있을 것입니다.
SynthID는 지난 해 AI 생성 이미지에 롤아웃 된 구글의 디지털 워터마킹 시스템이다. 이 기술은 AI로 만든 내용에 감지 도구가 그 내용이 AI에 의해 생성되었음을 인식할 수 있도록 감지할 수 없는 워터마크를 내장합니다. Veo, I/O에서 미리 보여진 회사의 최신 비디오 생성 모델이 이전에 가능했던 것보다 더 긴 시간과 고해상도 클립을 만들 수 있기 때문에, 그러한 콘텐츠의 소스를 추적하는 것이 점점 더 중요해질 것입니다.
생성적 AI 모델이 발전함에 따라, 더 많은 기업들이 AI가 새로운 잘못된 정보의 증오를 부추길 수 있다는 두려움으로 워터마킹에 기울이고 있습니다. 워터마킹 시스템은 구글과 같은 플랫폼에 AI 생성 콘텐츠를 감지할 수 있는 프레임워크를 제공할 것입니다. TikTok과 메타도 최근에 그들의 플랫폼에서 유사한 감지 도구를 지원하고 앱에서 더 많은 AI 콘텐츠를 라벨링할 계획을 발표했습니다.
물론, 디지털 워터마크만으로도 속임수 AI 콘텐츠에 충분한 보호를 제공하는지에 대한 중요한 질문들이 여전히 있습니다. 연구원들은 워터마크를 회피하는 것이 쉬울 수 있다는 것을 보여주었습니다. 하지만 AI로 만든 콘텐츠를 어떤 방식으로든 감지할 수 있게 하는 것은 투명성을 위한 중요한 첫걸음입니다.
구글 I/O 2024에서 모든 뉴스를 여기에서 확인하세요!