이 이야기는 현대적인 농담처럼 시작하지만, 안타깝게도 결말은 펀치라인으로 끝나지 않는다. 페이스북 어딘가에서 한 영상이 재생되고, 진지한 표정의 여성 기자가 능숙한 극적 연출로 프랑스의 쿠데타를 알린다. 탱크, 권력 장악, 에마뉘엘 마크롱에 맞선 한 대령, 비상사태에 빠진 파리. 작은 문제는 이 모든 일이 일어난 적이 없다는 것이다. 전혀. 쿠데타도, 대령도, 정권 전복도 없었다. 단지 하나의 아이디어, 하나의 프롬프트, 한 번의 클릭, 그리고 지켜보는 수백만 명의 사람들만 있었을 뿐이다.
그렇게 불쾌하지 않았다면 웃어넘길 수도 있었을 것이다. 왜냐하면 이 “기자”는 쿠데타 자체만큼이나 존재하지 않기 때문이다. 그녀는 인공지능이 만들어 낸 디지털 유령으로, 자신을 AI 분야의 학습자이자 동시에 교육자로 여기는 부르키나파소 출신 한 남성이 구상한 존재다. 훗날 그는 자신에게 “악의는 없었다”고 강변한다. 이는 이제 피해가 이미 발생한 뒤에는 어김없이 등장하는 말이 되었다.
이 이야기는 탈진실 시대를 위한 사용 설명서처럼 읽힌다. 한 아프리카 국가의 정상이 프랑스에서 공화국이 막 붕괴한 것이냐고 걱정스럽게 묻자, 프랑스 대통령 자신도 이를 알게 된다. 페이스북에는 영상을 삭제해 달라는 요청이 전달된다. 페이스북은 검토한다. 페이스북은 결정한다. 규정 위반은 없다. 현실은, 그렇게 보이듯이, 이용 약관 안에 확고한 자리를 갖고 있지 않다.
영상 제작자는 더없이 눈에 띄지 않는 이름인 ‘이슬람’으로 활동하며, 10월부터 여러 AI 생성 클립을 선보이고 조금씩 현실을 시험하고 있다. 처음에는 뱀으로 변하는 남성들. 이어 고래가 내리는 비. 그다음에는 구름 위의 용들. 파리에서 사자들이 공격하는 장면쯤이면 의심할 법도 했지만, 어쨌든 이런 말이 통하는 듯하다. 세상이 이미 너무 터무니없어 보일수록, 헛소리는 덜 눈에 띈다.
어느 순간 정치적인 이야기가 된다. 베냉에서 실제 쿠데타 시도가 일어나자 절호의 소재가 되고, 얼마 뒤에는 인공적인 RFI 기자가 처음에는 서아프리카에서, 이어서는 곧바로 프랑스에서 벌어진 정권 장악을 “보도한다”. 수백만 조회수. 도달률. 관심. 그리고 물론 한쪽에 슬쩍 붙은 안내문도 있다. 이런 바이럴 영상을 직접 만들고 싶은 사람은 WhatsApp으로 연락해도 된다고. 요즘은 이를 교육 캠페인이라고 부른다.
이 사건에서 진짜 흥미로운 것은 기술적 성과가 아니다. 그건 평범하다. AI는 이제 놀랄 만큼 그럴듯하게 말하고, 바라보고, 억양을 넣을 수 있다. 정말 주목할 만한 것은 이 기술을 따라다니는 도덕적 공허함이다. 예전에는 운동장에서 헤드라인을 꾸며내듯이 쿠데타를 지어낸다. 그리고 문제가 생기면 후회의 어휘 속으로 물러난다. 허구였다, 표현이 좋지 않았다, 오해였다. 이런.
그 남자는 사과한다. 자신이 강조하듯 진심으로. 그는 제도, 국민, 권위를 존중한다고 한다. 앞으로는 책임감 있게 일하고, 검증하며, 더 나아지겠다고 한다. 사람들은 거의 그를 믿을 뻔한다. 마치 아이들이 폭죽에 불을 붙이면 무슨 일이 일어나는지 잠깐 보고 싶었을 뿐이라고 설명할 때 믿는 것처럼. 문제는 소셜 네트워크에서는 폭죽이 아니라 신뢰가 폭발한다는 점이다.
특히 흥미로운 세부 사항은 일부 영상이 이미 자기반성적으로 등장한다는 것이다. 한 AI 기자는 자신은 실제가 아니라 인위적으로 만들어졌다고 설명하면서, 동시에 바로 그런 기만을 만드는 방법을 가르치는 강좌를 제안한다. 투명성이 판매 수단이 된 셈이다. 이는 소매치기가 절도 후에 다음 세미나를 알리는 명함을 남기는 것과 대략 비슷하다.
물론 이 모든 것을 기이한 주변 일화로 치부할 수도 있다. 한 명의 개인 제작자, 몇 개의 영상, 하나의 오해. 하지만 그 메커니즘은 잘 알려져 있다. 정체성이 위조되고, 언론 브랜드가 모방되며, 정치적 위기가 시뮬레이션된다. 친러시아 허위정보 캠페인은 이미 이를 완벽하게 해냈다. 새로워진 것은 편리함뿐이다. 예전에는 편집국, 서버, 구조가 필요했다. 오늘날에는 노트북 한 대와 약간의 뻔뻔함이면 충분하다.
이러한 영상들을 신고에도 불구하고 삭제하려 하지 않았던 페이스북은 이 과정에서 지루해하는 문지기 역할을 한다. 규칙이 형식적으로 지켜지는 한, 그 허튼소리는 들어올 수 있다. 밖에서 누군가가 공황에 빠지는지는 부차적인 관심사일 뿐이다. 결국 플랫폼은 진실부가 아니다. 그것은 시장이며, 공황은 잘 팔린다.
결국 남는 것은 “진심 어린 사과”와 삭제된 영상들이다. 보이지 않는 손해는 그대로 남는다. 신뢰는 폭발음과 함께 무너지는 것이 아니라, 조용히 클립 하나하나마다 침식된다. 언젠가는 모든 뉴스 앞에서 그것이 진짜인지, 아니면 그저 잘 만들어진 애니메이션인지 스스로 묻게 된다. 그리고 바로 그때, 현실을 위해 애쓰는 모든 이들이 패배한다.
할 수 있는 모든 일을 반드시 해야 하는 것은 아니다. 이 문장은 구식으로, 거의 고리타분하게 들린다. 이는 기술적 가능성에 아직 양심이 동반되던 시대에서 나온 말이다. 오늘날에는 종종 그 반대가 통한다. 클릭을 가져오는 것은 시도된다. 사과는 나중에 온다. 아니면 아예 오지 않는다.
아마 이 이야기의 진정한 아이러니는 꾸며낸 쿠데타가 그 뒤따른 후회보다 더 그럴듯하게 보였다는 데 있을 것이다. 이는 누구에게도 좋은 징조가 아니다.
C. Hatty의 논평