|
호주 온라인 매체 뉴스닷컴은 16일 팔로워 약 40만여명을 보유한 인기 피트니스 인플루언서가 AI 생성 프로필임을 명시하고 있음에도 상당수 이용자가 이를 진짜 사람으로 오인하면서 피해를 보고 있다고 보도했다.
해외 조직으로 알려진 해당 계정 운영자는 AI 기술로 만든 ‘카이 브래들리’라는 이름의 가상 인물로 활동하며 건강한 레시피와 식단을 공유한다고 홍보해 왔다.
댓글을 남기면 67페이지 분량의 특별 요리책을 보내주겠다며 이용자들을 유도한 뒤 건당 27호주달러(약 2만4000원) 상당의 디지털 서적을 판매한 것으로 전해졌다.
그러나 대금을 지불하고도 요리책을 받지 못하거나, 안내된 레시피대로 만든 음식이 완성되지 않는 등 피해 사례가 잇따르고 있다.
이 계정에는 “구매한 레시피가 존재하지 않는다”, “소개된 대로 간식을 만들어 봤지만 약속했던 맛이 나지 않는다” 등의 불만 댓글이 남겨져 있다.
뉴스닷컴은 카이 브래들리 외에도 수십개의 AI 페르소나 계정을 확인했다. 이들 계정은 건강·피트니스뿐만 아니라 전통 중국 의학이나 아프리카 민간요법에 관심 있는 이들까지 다양한 부류를 타깃으로 건강기능식품이나 가이드북 등의 구매를 유도하는 콘텐츠를 일괄 생산하고 있다.
사이버 범죄 수사 전문가들은 AI 기반 인플루언서 사기가 전 세계적으로 빠르게 확산하고 있다고 경고했다.
사이버 보안 기업 노턴의 딘 윌리엄스 연구원은 “고도화된 AI가 사기범들의 사회공학적 기법(심리적 조작)을 한층 정교하게 만들었다”며 “더 이상 기존 유명인을 흉내 낼 필요 없이 새로운 캐릭터를 창조해 신뢰를 쌓은 뒤 제품을 판매할 수 있게 된 것”이라고 분석했다.
소비자 위협 정보 업체 트렌드라이프의 로즈 앤 가빌레트 이사는 “디지털 환경에 익숙한 젊은 세대일수록 현실과 생성형 AI 콘텐츠의 경계를 구분하기 어려워한다”며 사기 피해가 노년층에만 국한되지 않는다고 조언했다.
한편, 호주 경쟁소비자위원회(ACCC)는 지난 한 해 동안 발생한 온라인 사기 피해액이 21억8000만 호주달러(약 2조원)에 달하며 정교해진 AI 기술이 이런 피해를 심화시키고 있다고 경고했다.










