AI에 라벨을 붙이는 더 나은 방법을 찾기 위한 경쟁

C2PA라는 인터넷 프로토콜은 암호화를 사용하여 이미지, 비디오 및 오디오에 레이블을 지정합니다.

이 기사는 권력, 정치, 실리콘 밸리에 관한 MIT Technology Review의 주간 기술 정책 뉴스레터인 The Technocrat에서 발췌한 것입니다. 매주 금요일 받은편지함으로 받아보려면 여기에서 가입하세요.

저는 최근 AI가 만들거나 변경한 콘텐츠를 식별하는 데 도움을 주기 위해 일부 주요 기술 및 미디어 회사가 지원하는 프로젝트에 대한 짧은 이야기를 썼습니다.

AI로 생성된 텍스트, 이미지, 비디오가 붐을 이루면서 국회의원과 일반 인터넷 사용자 모두 더 많은 투명성을 요구해 왔습니다. 단순히 라벨을 추가하라는 요청이 매우 합리적인 것처럼 보일 수도 있지만 실제로는 쉬운 일이 아니며 AI 기반 감지 및 워터마킹과 같은 기존 솔루션에는 몇 가지 심각한 함정이 있습니다.

내 동료 Melissa Heikkilä가 쓴 것처럼 현재 기술 솔루션의 대부분은 "최신 세대의 AI 언어 모델에 맞설 가능성이 없습니다." 그럼에도 불구하고 AI 생성 콘텐츠에 라벨을 붙이고 탐지하는 경쟁은 계속되고 있습니다.

이것이 바로 이 프로토콜이 등장하는 곳입니다. 2021년에 시작된 C2PA(C2PA를 만든 그룹인 콘텐츠 출처 및 진위성 연합의 이름을 따서 명명)는 콘텐츠 출처를 명확히 하는 정보로 콘텐츠에 안전하게 라벨을 붙이는 새로운 기술 표준 및 무료로 사용 가능한 코드 세트입니다. 에서.

이는 예를 들어 이미지가 원본 장치(예: 휴대폰 카메라), 편집 도구(예: Photoshop), 그리고 궁극적으로 이미지가 업로드되는 소셜 미디어 플랫폼에 의해 정보로 표시된다는 것을 의미합니다. 시간이 지남에 따라 이 정보는 일종의 기록을 생성하고 모든 기록이 기록됩니다.

기술 자체와 C2PA가 다른 AI 라벨링 대안보다 더 안전한 방식은 약간 복잡하지만 꽤 멋지다. 나는 내 글에서 이에 대해 더 자세히 설명하지만 아마도 영양 표시처럼 생각하는 것이 가장 쉬울 것입니다(내가 대화한 대부분의 사람들이 선호하는 비유입니다). C2PA 창립 멤버인 Truepic이 Revel AI와 함께 만든 라벨이 포함된 딥페이크 동영상의 예를 여기에서 볼 수 있습니다.

Truepic의 홍보 담당 부사장인 Mounir Ibrahim은 "출처에 대한 아이디어는 상호 운용 가능하고 변조가 가능한 방식으로 콘텐츠를 표시하여 해당 영양 표시와 함께 투명성을 유지하면서 인터넷을 통해 이동할 수 있도록 하는 것입니다."라고 말합니다.

C2PA는 처음 출시되었을 때 Adobe, Microsoft 등 소수의 유명 기업의 지원을 받았지만 지난 6개월 동안 회원 수가 56% 증가했습니다. 바로 이번 주에 주요 미디어 플랫폼인 Shutterstock은 C2PA를 사용하여 모든 AI 생성 미디어에 라벨을 붙일 것이라고 발표했습니다.

이는 옵트인 접근 방식을 기반으로 하므로 신문이나 광고주와 같이 콘텐츠의 출처를 확인하고 공개하려는 그룹은 미디어에 자격 증명을 추가하도록 선택합니다.

프로젝트 리더 중 한 명인 Adobe에서 근무하는 Andy Parsons는 C2PA에 대한 새로운 관심과 긴급성이 생성 AI의 확산과 미국과 EU 모두에서 새로운 수준의 투명성을 요구하는 입법에 대한 기대 때문이라고 말합니다. .

비전은 원대합니다. 관련 사람들은 여기서 진정한 성공이 보편적이지는 않더라도 광범위한 채택에 달려 있다고 인정했습니다. 그들은 모든 주요 콘텐츠 회사가 표준을 채택하기를 희망한다고 말했습니다.

Ibrahim은 이를 위해서는 유용성이 핵심이라고 말합니다. “인터넷 어디든 SSL 암호화와 마찬가지로 동일한 방식으로 읽고 처리되도록 하고 싶습니다. 이것이 바로 온라인 생태계를 더욱 투명하게 확장하는 방법입니다.”

모든 눈이 AI가 생성한 잘못된 정보를 지켜보는 미국 선거 시즌에 접어들면서 이는 중요한 발전이 될 수 있습니다. 프로젝트 연구원들은 예상되는 맹공격이 발생하기 전에 새로운 기능을 출시하고 더 많은 소셜 미디어 플랫폼을 확보하기 위해 경쟁하고 있다고 말했습니다.

현재 C2PA는 주로 이미지와 비디오를 다루지만 회원들은 텍스트 기반 콘텐츠를 처리하는 방법을 연구하고 있다고 말합니다. 나는 이 글에서 프로토콜의 다른 단점 중 일부를 다루지만, 이해해야 할 정말 중요한 것은 AI의 사용이 공개되더라도 기계가 생성한 잘못된 정보의 피해를 막지 못할 수도 있다는 것입니다. 소셜 미디어 플랫폼은 해당 정보를 사이트에 유지할지 여부를 결정해야 하며, 사용자는 콘텐츠를 신뢰하고 공유할지 여부를 스스로 결정해야 합니다.