AI의 도움 없이 썼다는 걸 어떻게 증명할까
며칠 전 X에서 긴 논쟁이 벌어진 쓰레드를 보았다. AI가 만든 글에 사람 눈에는 보이지 않는 워터마크를 넣을 수 있다는 이야기였다. 정말 지워지지 않는가, 번역하면 어떻게 되는가, 사람이 조금 고치면 누구의 글인가. 답글이 늘어날수록 논쟁은 “인간이 썼다는 사실을 증명할 수 있는가”라는 질문으로 옮겨갔다.
워터마크라고 하면 글 안에 보이지 않는 도장을 찍는 장면이 떠오른다. 실제 방식은 도장보다 카지노에 가깝다. 모델이 다음 토큰을 고를 때 후보들을 비밀 규칙에 따라 두 무리로 나누고 한쪽의 확률을 조금 높인다. 한 번은 자연스러운 선택이다. 수백 번 쌓이면 특정 무리가 우연치고는 자주 나온다. 같은 비밀 키를 가진 검출자는 문장의 뜻이 아니라 이 작은 기울기의 누적을 센다. AI가 문장마다 몰래 형광펜을 칠하는 셈인데, 정작 사람 눈에는 형광색이 보이지 않는다.
이 방식은 실제 연구됐고, 구글 딥마인드는 SynthID-Text를 Gemini 출력에 적용했다. EU AI법도 합성 텍스트를 기계가 읽을 수 있게 표시하고 검출하라는 방향을 제시한다. 다만 법이 특정 워터마크를 명령하는 것은 아니며, 공개 연구만으로 모든 상용 모델에 같은 장치가 들어갔다고 말할 수도 없다.
창을 만드는 쪽은 생성 순간에 흔적을 심는다. 방패를 드는 쪽은 문장을 바꾼다. 그대로 복사하거나 조금 고치면 신호가 남을 수 있다. 하지만 번역하거나 다른 모델이 다시 쓰거나, 사람이 의미만 가져가 새 문장을 만들면 원래 토큰 배열은 크게 무너진다. 잉크를 지우는 대신 같은 내용을 새 종이에 옮겨 적는 셈이다. 출입국 심사를 피하려고 얼굴을 고치는 게 아니라 아예 다른 사람이 대신 입국하는 쪽에 가깝다.
편집에 버티는 방식이 나오면 공격자는 반복 질의로 모델이 선호하는 단어를 추정한다. 그 흔적을 지우는 데서 그치지 않고 인간의 글에 거짓 신호를 심을 수도 있다. 남기기와 지우기, 훔치기와 위조하기가 서로의 다음 수를 만든다. 짧은 글은 표본까지 부족하다. 작은 오탐률도 수억 개의 글에 적용하면 실제 사람의 이름으로 돌아온다. 기계가 쓴 글을 잡으려다 문장이 반듯한 인간부터 불려갈 수 있다.
AI가 쓴 글을 인간 글과 구분하지 못하는 순간은 올까. 텍스트만 본다면 가능하다. 같은 문장은 인간이 쓸 수도, AI가 만들 수도, AI 문장을 인간이 외워 적을 수도 있다. 결과물 안에 원인을 판별할 정보가 없는 경우다.
그래서 검증은 문장 밖으로 나간다. 초고와 중간본, 붙여넣기와 모델 호출, 편집 시점을 기록하고 각 단계에 디지털 서명을 붙인다. 하지만 편집기에서 AI를 호출하지 않았다는 기록은 옆 휴대전화의 답변을 보지 않았다는 증명이 아니다. 서명은 특정 키가 파일에 서명했다는 사실을 보장할 뿐, 생각이 어디에서 시작됐는지는 보장하지 않는다.
그렇다면 창문도 전파도 없는 독방을 만들어보자. 벽과 천장에는 사각지대 없는 360도 카메라를 단다. 들어가기 전 몸과 옷을 검사하고 새 종이와 잉크가 든 펜만 둔다. 펜은 다행히 아직 생각하지 못한다는 인증서도 붙여두자. 한 사람이 몇 시간 동안 글을 쓰는 모든 움직임을 촬영한다. “이 시간 동안 외부 기술의 도움 없이 손으로 썼다”에 가장 가까운 인증일 것이다.
그런데 방에 들어오기 전 AI 문장을 외워왔을 수 있다. 누군가의 생각을 자기 문장으로 바꿨을 수도 있다. 펜을 쥔 사람은 확인해도 생각의 최초 발명자는 확인하지 못한다. 기억까지 검사하려면 카메라는 뇌를 들여다봐야 한다. 인간 글을 인증하려다 인간의 내부를 제출하라고 요구하게 된다.
감시 시간을 늘리면 해결될까. 입실 전 며칠간 인터넷을 끊고, 그래도 부족하면 몇 달을 격리한다. AI가 고른 뉴스와 번역한 표현까지 지우려면 태어날 때부터 디지털 매체를 보지 않은 사람을 길러야 한다. 그때 우리는 인간 저자를 인증하는 것이 아니라 인증 가능한 인간을 사육하고 있다. 글 한 편의 원산지를 확인하려다 사람에게 유기농 표시를 붙이는 꼴이다.
그래도 시장은 멈추지 않을 것이다. 책 표지에는 ‘인간 단독 작성’, ‘AI 조사·인간 집필’, ‘인간 초고·AI 편집’ 같은 표시가 붙을 수 있다. 출판사는 원고보다 작성 기록을 먼저 받고, 학교는 답안과 함께 사고 과정을 제출받고, 문학상은 허용한 도구의 목록을 규정할 것이다. 브레인스토밍은 괜찮고 문장 생성은 안 되는가. 검색은 되고 요약은 안 되는가. 번역과 맞춤법 교정은 어느 쪽인가.
결국 ‘인간이 썼다’는 자연의 경계가 아니라 사회가 정한 생산 규약이 된다.
제조품도 같은 질문을 피하지 못한다. 명품 가방에 붙은 ‘핸드메이드’ 태그를 우리는 언제까지 품질의 증거로 믿을까. 수술 로봇은 이미 의사의 손동작을 더 작고 정밀한 움직임으로 바꿔준다. 로봇팔이 가죽을 재단하고 무두질하고 바느질하는 일을 장인보다 못할 이유도 점점 줄어든다. 바늘땀은 더 반듯하고 불량은 더 적을 수 있다. 그러면 핸드메이드의 값은 완성품의 품질이 아니라 인간의 손이 실제로 닿았다는 이력에서 나온다. 가방도 문장도 잘 만든 물건을 넘어, 누가 어떻게 만들었는지를 사는 상품이 된다. 언젠가는 장인의 삐뚤어진 바늘땀이 결함이 아니라 인간 인증용 워터마크가 될지도 모른다.
규약이 생기면 인증 산업이 따라온다. 글쓰기 앱은 화면과 키 입력을 기록하고, 보험사는 기록이 끊긴 원고의 위험을 높게 매기며, 플랫폼은 출처가 완전한 글을 검색 상단에 놓을 수 있다. 처음에는 가짜 글을 막기 위한 표식이었는데 어느 순간 기록되지 않은 생각이 불리해진다. 카페 냅킨에 적은 문장, 산책하다 떠올린 비유, 누구에게도 보여주지 않은 망설임은 출생증명서가 없다는 이유로 덜 믿을 만한 글이 될 수 있다.
그러면 작가는 두 종류로 갈릴지도 모른다. 모든 생성 과정을 공개해 신뢰를 얻는 작가와, 아무 기록도 남기지 않을 권리를 지키는 작가. 전자는 자신이 인간임을 증명하기 위해 더 많은 감시를 받아들이고, 후자는 사생활을 지키는 대신 AI라는 의심을 감수한다. 인간의 글을 보호하려 만든 제도가 인간에게만 자기 생각의 알리바이를 요구하는 셈이다.
여기서 이상한 역전이 일어난다. AI는 버튼 한 번으로 수천 개의 글을 만들고 조용히 퇴근한다. 인간은 한 문장을 자기 것이라고 인정받기 위해 생애의 기록을 제출한다. 기계의 생산비는 0에 가까워지는데 인간성의 증명비는 계속 오른다. 결국 ‘인간 단독 작성’은 품질 보증보다 느림과 고립, 감시 비용을 견딘 사람이 얻는 사치품 표시가 될 수도 있다.
아날로그 독방에서 나온 글이 AI와 함께 쓴 글보다 더 진실하거나 아름답다는 보장은 없다. 다만 빈 종이 앞에서 혼자 선택했다는 수행은 남는다.
어쩌면 우리가 지키려는 것은 순수한 문장이 아니라 선택의 자리인지도 모른다. 누가 마지막 문장을 남겼고, 틀렸을 때 누구의 이름으로 책임지는가.
16
3August 18, 2026 3.1K 6 29
