정용진 신세계 부회장이 인스타그램이 올린 #멸공 이라는 단어 때문에 삭제되었다는 글을 인스타그램에 올렸습니다.
이 사건을 보면서 여러가지 생각이 드네요.
먼저 대기업을 운영하는 사업가라면 #멸공 이라는 단어는 자제해야죠. 아무리 공산당이 싫어도 공산당을 멸하자라는 말은 어울리지 않습니다. 뭐 이마트가 중국에서도 철수하고 베트남에서 철수해서 화가 났을 수도 있지만 동생이 운영하는 신세계 인터내셔널은 중국에 화장품을 판매하고 있습니다. 그리고 중국은 세계 최대의 시장 중 하나이기에 언제 기회가 생겨서 중국에 다시 진출할지도 모르고요. 특히나 중국은 애국주의를 넘어서 징고이즘이라고 하는 편협한 애국주의가 강한 나라라서 이 정용진 부회장 이슈가 중국에 알려지면 신세계는 타격을 받을 수 있습니다.
코로나 끝나면 예전 같지 않아도 중국 쇼핑객들이 신세계 면세점에서 돈을 많이 쓸텐데 멸공은 좀 심했습니다.
그런데 이 멸공이라는 단어는 20대들은 잘 모를 수 있습니다. 70~80년대는 엄청 들었죠. 멸공은 공산당을 멸하자라는 말로 과격한 말이죠. 그러나 반공이 국가 기조였던 박정희, 전두환 시절에는 멸공은 그냥 흔한 말이었습니다. 군가로 '멸공의 횃불'도 있는데요.
지금도 멸공이라는 단어를 흔하게 쓰고 있고 멸공이라는 단어를 쓴다고 진보주의자들이 뭐라고 하지도 않습니다. 친북 인사들도 멸공이라고 쓰지 말라고 하지도 않죠. 오히려 멸공이라는 단어를 쓰고 알아 듣는 사람들은 오래된 사람들인 중노년층이라는 자기 고백 단어일 뿐입니다.
전 멸공이라는 단어 자체는 반대하지 않고 별 느낌도 없습니다. 그런데 말이죠. 이런 문화적 맥락, 사회적 맥락을 모르는 회사가 바로 페이스북과 인스타그램입니다.
작년 크리스마스 이브 아침에 페이스북은 멋진 선물을 줬습니다. 2020년 2월에 쓴 글이 커뮤니티 규정 위반이라고 삭제했습니다. 삭제 이유는 혐오 발언이라고 하네요. 단어 자체는 인정합니다. 그런데 그 단어가 다음 뉴스 댓글이 개편을 하면서 예를 들어 이런 단어를 사용하면 바로 삭제된다는 예시였습니다. 제가 누군가에게 말한 단어가 아닙니다. 예시입니다. 그런데 예시이건 말건 그냥 그 단어가 들어갔다고 삭제합니다.
보통 이런 멍청한 결정을 내리는 건 AI죠. AI가 고도화되었다 어쩐다 하지만 아직까지 인간을 뛰어넘지 못했습니다. 대표적으로 문맥에 따라서 같은 단어도 허용이 되고 금지가 되어야 하는데 이걸 못합니다. 특히 페이스북 AI는 능력이 아주 떨어집니다. 그래서 항의를 하려고 했더니
여기에 신고를 하라고 하네요. 여기가 뭔지도 모르겠지만 무엇보다 영어로 신고해야 하나 봅니다. 어차피 들어주지도 않을 거 한글로 써서 제출했는데 지금까지도 처리가 안되고 있습니다. 페이스북에서 혐오 글 보면 가끔 신고를 하는데 신고 처리가 보통 1주일 이상 길게는 1년 아예 처리도 안 하는 것도 많습니다. 인력이 부족한 건지 개선할 의지가 없는지 여러모로 운영을 엉망으로 하는 페이스북입니다.
인스타그램은 페이스북 그룹에서 운영하기에 동일한 시스템으로 돌아 갈 겁니다.
2021년 7월에는 영국이 봉쇄 해제하자마자 마스크 벗고 파티를 여는 모습에 미개하다고 한 말을 문제 삼아서 비공개 처리를 했습니다. 이게 혐오 발언인가요? 비판의 글도 못 쓸 정도로 엄격합니다. 이뿐이 아닙니다. 페이스북은 참 이상한 운영을 합니다.
예를 들어서 개인에 대한 직접적인 욕설과 모욕을 주고 읽기도 힘든 극심한 욕설을 신고를 해도 커뮤니티 위반이 아니랍니다. 그런데 민족 비하, 국가 비하나 인종 비하하잖아요. 과거 글까지 다 들쳐서 비공개 처리합니다. 심하고 과할 정도입니다.
멸공도 그 맥락에서 삭제했을 겁니다. 공산국가에 사는 사람들과 공산주의 분들에 대한 혐오 단어로 등록해 놓으면 삭제가 됩니다. 한국에서는 누구나 흔하게 쓰는 멸공이라는 단어를 페북과 인스타그램은 삭제합니다. 예를 들어서 제가 카카오 소속의 티스토리에 멸공이라는 단어를 이렇게 많이 써도 삭제 안 당합니다. 이 글 신고해 보세요. 삭제당하나? 그러나 페이스북에서나 인스타그램에서 멸공 신고해 보세요. 삭제당합니다. 아니 삭제당하기 전에 자동으로 삭제됩니다.
혐오 발언과 단어를 처리하는건 AI일까? 사람일까?
한국은 문맥 파악도 못하고 처리하는 걸 보면 AI가 하는 것 같기도 합니다. 그렇게 AI가 처리하는 것이 100% 완벽할 수 있기에 이의제기를 하면 사람이 재검토를 하는 제도를 만들어야 합니다. 이의 제기 기능이 있지만 판정이 번복되는 경우가 없는 걸 보면 사람이 살펴보긴 하나라는 생각을 하게 됩니다.
그런데 핀란드는 AI가 없고 11명의 사람들이 혐오 발언을 처리한다고 하네요.
https://yle.fi/news/3-12238371
Facebook failing at Finnish moderation
A data leak reveals Facebook is unable to control hate speech in minority languages like Finnish.
yle.fi
핀란드 언론사인 Yle 뉴스는 페이스북은 AI에 의해 특정 단어나 부적절한 표현을 필터링한다고 주장하고 있습니다. 2019년 AI가 검출 삭제한 정책 위반 콘텐츠가 1500만 건으로 이중 91%인 1200만 건이 혐오 발언이었다고 하네요. 이렇게 많은 혐오 발언을 검출하고 삭제할 수 있었던 이유에 대해서 페이스북은 페이스북에서 가장 사용이 많은 언어인 스페인어, 아랍어, 인도네시아어와 영어에 대한 혐오발언을 AI가 감지하고 자동 삭제하기 때문이라고 말하고 있습니다.
하지만 페이스북 내부 문서에 따르면 페이스북 AI는 17개 언어의 코로나19에 관한 콘텐츠를 감시하고 31개 언어로 사회적 주제를 감시하고 있다고 밝히고 있습니다. 이 31개 언어에는 핀란드어가 포함되어 있지 않고 있습니다. 그럼 핀란드어는 누가 담당하냐. 바로 독일 베를린에 거주하는 핀란드인 11명이 수동으로 처리하고 있다고 밝혔습니다.
페이스북은 AI가 혐오 발언을 삭제하기 시작하면서 삭제한 글이 960만 건에서 2250만 건으로 늘었다고 하지만 저 31개 언어에 포함되지 않는 언어는 사람이 수동으로 삭제하고 있습니다. 한국은 어떨까요? 핀란드는 인구가 554만 명이고 한국은 5천만 명이라서 한국도 AI가 처리하는 것 같기도 합니다. 그래서 #멸공을 지우고 문맥 파악도 못하고 1년 전 글을 지우고 있네요.
여러모로 이상한 기업 페이스북입니다. 문맥 파악 능력이 없으면 인력을 늘리던가 AI 학습 좀 제대로 시키던가 이의 제기를 하면 제대로 살펴 보던가요. 요즘 갑자기 별 문제가 없는 글을 삭제한다는 페이스북 글들이 많은데 다 멍청한 AI가 삭제하고 있네요.
