'AI 오물'에 점령된 인터넷세상

요즘 들어 인터넷을 둘러보다 보면, 문장의 앞뒤가 안 맞거나 여러 번 읽어도 무슨 말을 전하고 싶은지 모르겠는 글들이 많다. 그리고 SNS를 조금만 둘러봐도 출처를 알 수 없는 기괴한 이미지들이 SNS를 점령했다. 도대체 인터넷에 무슨 일이 일어나고 있는 것이며, 이것들의 정체는 무엇일까?

이것들은 슬롭(slop)이라고 불리며 슬롭의 유래는 ‘가축에게 주는 맛 없는 사료나 찌꺼기 죽’이라는 뜻이다. ‘AI 오물’이라고 불리기도 한다. 2024년 중반부터 <가디언(The Guardian)>, <뉴욕 타임스> 등 외신에서 생성형 AI가 만든 저품질 콘텐츠를 지칭하기 위해 사용하기 시작한 최신 용어이며, 주로 생성형 인공지능 기술을 사용하여 만들어진 글과 그림 등 저품질 작품들에 대해 경멸하는 용도로 사용되는 단어다.

이것들의 가장 큰 문제는 진짜인지 가짜인지 판가름하기 쉽지 않다는 것이다. 아직 어린 사람들이나 인터넷이 익숙하지 않은 사람들은 인터넷 안에서 진짜와 가짜를 구분할 수 있는 능력이 없는 상태인데, 방대한 양의 가짜 뉴스를 접하게 된다면 가짜 뉴스를 진짜라고 인식하고, 그 이후에도 더욱 더 ‘디지털 문맹’이 될 수밖에 없는 것이다.

AI슬롭은 기사나 언어 매체만의 문제가 아니다. 영상 미디어 매체에서도 생성형 인공지능으로 만들어진 AI슬롭이 굉장히 많다. 가디언(The Guardian)의 최신 기사에 따르면 “새로운 유튜브 사용자에게 노출되는 영상의 20% 이상이 ‘AI슬롭’으로 밝혀졌다. 이는 유튜브 플랫폼이 저질 콘텐츠(AI slop)의 범람을 막는 데 어려움을 겪고 있음을 보여준다.

슬롭 영상은 AI 음성, 가짜 뉴스로 주로 이루어져 있다. 이것을 조사한 비영리 단체 및 연구 기관의 연구원은 유튜브의 알고리즘이 시청 시간을 늘리기 위해 설계된 탓에, 제작 비용은 거의 들지 않으면서도 자극적인 클릭을 유도하는 AI 생성 영상들을 의도치 않게 선호하고 있다고 지적했다. 특히 이러한 AI슬롭에서 발견된 일부 사례에는 존재하지 않는 역사적 사건을 실제처럼 묘사하거나, 건강에 치명적일 수 있는 잘못된 민간요법을 추천하는 AI 영상들이 포함되어 있었다.

그래서 AI슬롭을 구별하는 방법은 뭘까?  첫 번째로, AI 슬롭의 글들은 검색엔진에 걸리기 위해 특정 단어를 여러 번 넣는 경향이 있다. 글은 장황하게 긴데 내용은 빈껍데기 같다면, 그리고 말투가 어색하다면 AI 슬롭일 가능성이 높다.

두 번째로, 누가 썼는지 찾아보자. 정확한 작성자가 없다면 그건 생성형 인공지능으로 만들었을 가짜 뉴스일 가능성이 크다. 토끼풀 독자들은 여러 미디어를 보고 무조건 믿기보다 한 번 더 AI slop인지 구별할 수 있는 사람이 되자.