인공지능이 만든 AI 사진인지 아닌지 구별해주는 AI or Not 웹사이트

합성 사진과 합성이 아닌 사진을 쉽게 구별하는 방법은 빛입니다. 실제로 포렌식 감정을 할 때 합성 사진은 빛의 방향이 합성 부분만 명확하거나 다른 방향이면 합성 사진이라고 판별합니다. 눈으로 봐도 우리가 어색하다고 느껴지는 합성 사진은 빛의 각도가 배경이 되는 사진과 다르기 때문입니다. 

야외에서 빛은 태양이라는 자연광 1개일 경우가 많습니다. 반면 실내는 형광등처럼 확산광도 많고 조명이 많아서 여러 각도에서 들어오기에 특정 각도의 빛을 만들기 어렵죠. 게다가 디퓨저라도 끼면 빛의 각도는 사라집니다. 

합성 사진과 합성 동영상인 CG가 티가 나는 이유는 빛의 각도를 세밀하게 계산하기 쉽지 않고 보정하기 어려워서인지 확산광으로 대충 처리해버립니다. 이러면 티가 너무 납니다. 그래서 건물해체쇼를 하고 슈퍼히어로가 하늘을 날아도 태양이 없는 흐린 날이나 밤에 날게 합니다. CG 제작비를 줄위기 위한 꼼수죠. 

그런 면에서 13년 전 영화지만 현재 CG보다 좋아 보이는 트랜스포머의 CG는 정말 좋은 CG입니다. CG 기술력의 퇴보인지 요즘 나오는 영화 CG보다 더 좋아요. 지금은 더 화려한 액션을 보여주는 CG 영화들이 많지만 그냥 애니메이션 같아서 뚱하게 보게 되네요. 

서두에 너무 장황한 것 같지만 제가 말하고 싶은 건 이겁니다. AI가 만든 합성 사진과 실제 사진의 가장 큰 차이는 빛의 각도가 균질하냐 또는 너무 빛이 느껴지지 않은 이미지는 AI가 만든 그림일 수 있습니다. 

페북 이웃분이 누가 찍은 사진이냐고 타임라인에 올린 사진입니다. 한 주점에서 봤는데 너무 좋아서 촬영자가 누구인가 궁금하셨나 봅니다. 그런데 이 사진 좀 이상하죠. 빛도 자연스럽지 못하고 더구나 호랑이가 저런 표정 짓기 쉽지도 않고요. 전경이 흐려진 걸 보면 광학력을 이용한 카메라로 촬영한 사진 같기도 하지만 뭔가 어색합니다. 

요즘 유행하는 미드저니나 스테이블 디퓨전 같응 생성형 AI가 만든 이미지가 아닐까 하는 생각이 들었습니다. 
내가 본 사진이 인공지능이 만든 사진인지 아닌지 감별해 주는 사이트가 있습니다. 

https://www.aiornot.com/

AI Image Classification & Authenticity Detection | AI or Not

AI OR NOT이라는 이 사이트는 스테이블 디퓨전이나 Dall-E 또는 GAN을 사용해서 만든 이미지를 식별할 수 있습니다. 물론 100% 신뢰가 있는 사이트는 아니지만 어느 정도 구분을 잘합니다. 

사용법은 간단합니다. 판별을 원하는 사진을 드래그앤 드롭 또는 클릭해서 업로드를 하면 됩니다. 

사진을 넣어보니 예상대로 이 이미지는 제너레이트 AI로 만든 이미지라고 합니다. 다시 말하지만 100% 신뢰성이 있는 사이트는 아닙니다. 그래서 맞다 틀리다를 평가하는 메뉴도 있네요. 

그러나 구분은 꽤 잘 하는 편입니다. 물론 저는 눈으로 보고도 AI가 만든 합성 이미지인지 잘 맞추는 편이지만 저같이 눈썰미가 높은 분들이 많지는 않습니다. 저야 워낙 이쪽에 관심이 많고 경험치가 있지만 관심 없는 분들은 잘 모를 수 있죠. 

그런 분들에게 좋습니다. 

그래서 이번엔 포토샵의 킬러 콘텐츠 기술인 포토샵 베타에 들어가 있는 생성 채우기 기능으로 합성을 해봤습니다. 이게 원본 사진이고 스쿠터 자리에 올드카를 넣으라고 텍스트로 명령했습니다. 

이게 포토샵의 생성채우기로 만든 합성 이미지입니다. 이걸 구분할까요? 보면 빛의 각도가 동일해서 구분이 쉽지 않습니다. 이건 저도 구분 못할 정도로 정교합니다. 

인간이 만든 사진이라고 합니다. 구분을 못하네요.

정교해서일까요? 이유는 생각보다 간단합니다. AI OR NOT은 스테이블 디퓨전, 미드저니, Dall-E 같은 GAN에 의해서 만들어진 이미지만 감지할 수 있습니다. 포토샵 생성형 AI는 감지 못하네요. 하지만 스테이블 디퓨전으로 만들 사진도 100% 구분 못합니다. 따라서 신뢰도가 높지 않지만 간단하게 체크하는 용도로는 좋을 듯하네요.