연구자들은 AI가 이제 실제 사진과 거의 구별할 수 없는 실제 사람 이미지를 생성할 수 있다는 것을 발견했으며, 이는 시각적 미디어에 대한 신뢰와 신뢰할 수 있는 감지 도구에 대한 시급한 필요성에 심각한 영향을 미칩니다.
인공지능은 새로운 이정표에 도달했으며, 그 의미는 매혹적이면서도 동시에 우려스럽습니다. 최근 한 연구에서는출판되었다 인지 연구: 원리와 함의(Cognitive Research: Principles and Implications) 저널에 발표된 논문에 따르면, AI는 이제 진짜 사진과 거의 구별할 수 없는 실제 인물 이미지를 생성할 수 있습니다. 이러한 획기적인 발전은 새로운 차원의 "딥페이크 리얼리즘"을 예고하며, 시각 매체에 대한 잘못된 정보와 신뢰에 대한 시급한 우려를 불러일으킵니다.
스완지 대학교, 링컨 대학교, 아리엘 대학교의 연구진은 ChatGPT와 DALL·E를 포함한 고급 AI 모델을 사용하여 초현실적인 이미지를 제작하기 위해 협력했습니다. 이 AI 모델은 유명인과 같은 유명인 얼굴과 가상 얼굴 이미지를 모두 생성한 결과, 친숙한 얼굴조차도 실제 사진과 구별할 수 없다는 것을 발견했습니다.
스완지 대학교 심리학과 제레미 트리 교수는 보도자료를 통해 "연구에 따르면 AI를 이용해 생성된 가상 인물의 얼굴 이미지는 실제 사진과 구별할 수 없습니다. 하지만 이번 연구에서는 실제 인물의 합성 이미지를 생성하는 데 한 걸음 더 나아갔습니다."라고 밝혔습니다.
연구진은 4가지 별도의 실험을 통해 비교 사진을 사용하고 참가자가 이전에 일부 얼굴에 대해 알고 있던 사실을 적용하는 것이 별로 도움이 되지 않는다는 것을 발견했습니다.
한 실험에서 미국, 캐나다, 영국, 호주, 뉴질랜드 등 여러 국가의 참가자들에게 실제 얼굴과 AI가 생성한 얼굴을 섞어 보여주었습니다. 연구진은 참가자들이 어떤 이미지가 진짜인지 구분하는 데 어려움을 겪는 것을 발견했는데, 이는 AI가 생성한 사진이 얼마나 사실적인지를 보여주는 사례입니다.
또 다른 실험에서는 참가자들에게 폴 러드와 올리비아 와일드 같은 할리우드 스타의 사진을 보여주고 진짜 사진과 AI가 생성한 사진을 구별하도록 했습니다. 참가자들이 자주 잘못 식별한 것은 이러한 합성 이미지의 정교함을 강조했습니다.
트리는 "일상적인 AI 도구가 이런 일을 할 수 있다는 사실은 시각적 미디어에 대한 잘못된 정보와 신뢰에 대한 시급한 우려를 불러일으킬 뿐만 아니라, 시급히 신뢰할 수 있는 탐지 방법이 필요하다는 것을 의미합니다."라고 덧붙였습니다.
이러한 기술 발전은 심오한 의미를 지닙니다. AI가 생성한 이미지는 유명인이나 정치인의 기만적인 지지를 유도하는 등 다양한 방식으로 악용될 수 있습니다. 이는 여론에 상당한 영향을 미치고 시각 콘텐츠에 대한 신뢰를 떨어뜨릴 수 있습니다.
"이 연구는 AI가 대부분의 사람들이 실제 사진과 구별하기 어려운, 새로운 얼굴과 이미 알고 있는 얼굴 모두의 합성 이미지를 만들어낼 수 있음을 보여줍니다. 얼굴에 대한 친숙함이나 참고 이미지가 가짜를 찾아내는 데 큰 도움이 되지 않았기 때문에, 가짜를 감지할 새로운 방법을 시급히 찾아야 합니다."라고 트리는 덧붙였습니다. "자동화된 시스템이 결국 이 작업에서 인간을 능가할 수도 있겠지만, 현재로서는 무엇이 진짜인지 판단하는 것은 시청자의 몫입니다."
출처: 스완 지 대학교