지난해 12월 26일 경남 창원시의 한 네일샵에서 네일 서비스를 받은 직후 A양의 손 모습을 촬영한 사진. 사진 독자

경남 창원에서 네일샵을 운영하는 김모(53)씨는 지난해 12월 27일 A양(19)으로부터 사진 1장을 전송 받았다. 전날 네일 서비스를 받고 간  A양의 손가락 주변이 빨갛게 변한 모습이 담긴 사진이었다. A양은 “서비스를 받고 난 뒤 손가락에 염증이 생겼다”며 “발생한 모든 건강 문제와 그에 따른 결과에 대한 책임을 끝까지 묻겠다”고 엄포를 놓았다. 당황한 김씨는 “환불 및 치료비 등의 보상을 해주겠다”며 “정확한 병명이 담긴 진단서를 보여달라”고 했고, A양은 몇 시간 후 진료 확인서를 보내 왔다.

진료 확인서에는 A양이 피부염 진단을 받았다고 적혀 있었다. 그런데 자세히 살펴보니 뭔가 이상했다. 글자자 깨진 것처럼, 자음과 모음이 연결되는 부분이 자연스럽지 않았기 때문이다. 이상하게 여긴 김씨는 해당 진료 확인서를 발급했다는 병원을 직접 찾아갔고, 병원 측으로부터 “해당 진단서를 발급한 사실이 없다”는 답변을 받았다. 이후 김씨는 어떻게 된 일인지 따져 물었고, 추궁을 받던 A양은 “챗GPT로 진료 확인서를 만들었다”며 잘못을 시인했다. 김씨는 9일 중앙일보에 “먼저 보낸 손 사진은 AI로 조작한 것이라는 의심을 전혀 못했었다”며 “진료 확인서를 자세히 살펴보지 않았다면 눈 뜨고 당할 뻔 했다”고 말했다.

A양이 네일샵 사장 김모씨(53)에게 ″서비스를 받은 후 염증이 났다″며 보낸 사진. AI로 조작된 사진으로 드러났다. 사진 독자

해당 사건 수사를 담당하는 경남 창원중부경찰서는 지난 6일 김씨와 A양에 대한 조사를 마쳤다. A양은 경찰 조사에서 “돈이 필요해서 그랬다”고 진술했다고 한다. 경찰은 자신이 수사를 받게 된 사실에 앙심을 품은 A양이 김씨를 찾아갈 우려도 있다고 판단해 김씨에게 스마트워치도 지급했다. 경찰은 조만간 사문서위조 및 사기 등 혐의로 A양을 검찰에 송치할 방침이다.

챗GPT 등 생성 AI 기술이 발전하고 보편화되면서, 이를 악용하는 범죄 역시 잇따르고 있다. 지난해 12월 10일 부산지방법원은 AI로 조작한 병원 서류 등으로 보험사를 속여 1억원이 넘는 보험금을 부당하게 챙긴 20대 B씨에게 징역 2년을 선고했다. B씨는 병원에서 발급 받은 입·통원 확인서 속 입원 기간 등을 챗GPT를 활용해 조작하는 방식으로 가짜 서류를 만들고, 이를 보험사에 보내 보험금을 과도하게 청구하는 범행을 저질렀다. 또 지난해 1월엔 한 마약사범이 AI로 거짓 탄원서를 썼다가 사문서위조 등의 혐의가 추가돼 더 무거운 처벌을 받기도 했다.

미국·영국 등 해외에서도 AI를 악용한 범죄가 사회적 문제로 떠오르고 있다. 특히 음식 사진을 조작해 배달업체에 환불을 요구하는 사례가 흔하다. 배달 업체들이 신속하게 고객 불만을 처리하기 위해 별다른 검증 없이 일단 환불해주는 경우가 많다는 점을 노린 것이다.

A양이 김모씨에게 보낸 진료확인서. AI 특유의 글자 깨짐이 보여 결국 A양은 챗GPT로 만들었다고 범행을 실토했다. 사진 독자

전문가들은 “AI를 활용한 범죄는 특히 자영업자와 노년층에게 더 치명적이어서, 적절한 보호막이 필요하다”고 조언했다. 오윤성 순천향대 경찰행정학 교수는 “범죄 수법이 점점 다각화되고 고도화되면서 취약한 사람들이 위험에 노출되는 경우가 갈수록 늘고 있지만, 이에 대한 처벌은 여전히 미미한 편이라 형량 강화를 검토할 필요가 있다”고 말했다. AI교육협회장인 문형남 숙명여대 글로벌융합학부 교수는 “AI로 사진을 생성하거나 조작하는 게 매우 쉬워졌기 때문에 누구나 손쉽게 만들고 유포한다”며 “워터마크(디지털 식별 표지)를 의무화 하는 방안 등이 필요해 보인다”고 말했다. 또한 “진짜보다 더 진짜 같은 AI 제작물의 홍수 속에서, 정보의 진위를 가려내는 AI 문해력을 키우기 위한 국가 차원의 교육도 병행돼야 한다”고 덧붙였다.