오픈 AI, 자사 생성형 AI로 만든 화상검지기술 개발 발표

생성형 AI, ChatGPT를 개발하는 미국의 오픈 AI는 자사의 생성형 AI로 만들어진 화상을 검지하는 기술을 개발하고 있다고 밝혔습니다.

올해 1월 하순에 SNS상에서는 미국의 인기 가수 테일러·스위프트 씨의 생성형 AI가 사용된 것으로 보이는 가짜 화상이 확산해 커다란 사회 문제를 불러일으켰습니다.

이러한 가운데, ChatGPT를 개발하는 오픈 AI는 7일, 이 회사의 생성형 AI로 만들어진 화상을 검지하는 기술을 개발하고 있다고 발표했습니다.

98%의 정확도로 생성형 AI에 의한 화상인지 아닌지 그 여부를 판단할 수 있다고 합니다.

생성형 AI로 만들어진 교묘한 가짜 화상이 확산되는 것을 막으려는 의도가 있는 것으로 보입니다.

또한 화상이나 영상 제작자나 편집 이력을 누구나 볼 수 있도록 하여 신뢰성을 높이려는 업계 단체 'C2PA' 운영위원회에 참가한다고 밝혔습니다.

오픈 AI는 생성형 AI의 개발로 세계를 이끌어 왔으나, 안전성 등을 둘러싸고 비판도 받아 왔습니다.

가짜 화상 대책을 내세움으로써 이러한 비판을 회피하려는 의도도 있는 것으로 보입니다.