AI 생성물에 표시를 남기라는 요구가 더 이상 원칙론에 머물지 않는다. 유럽 인공지능법(EU AI Act)의 본격 시행을 앞두고 주요 대형언어모델(LLM) 서비스가 숨겨진 텍스트 워터마킹(Invisible Text Watermarking)을 실제 출력물에 적용하기 시작했다. 특허 명세서 작성에 AI를 활용하는 실무라면 이 변화는 단순한 기술 이슈가 아니다. 누가 초안을 만들었는지보다 누가 검토하고 책임졌는지를 둘러싼 증거 문제로 이어질 수 있기 때문이다.
EU AI Act 제50조 제2항과 워터마킹 의무
EU AI Act 제50조 제2항은 AI가 생성한 콘텐츠에 워터마킹과 식별 조치를 두도록 요구한다. 주요 LLM 제공업체가 검토하는 방식 가운데 하나가 텍스트의 의미 흐름이나 토큰 분포에 미세한 신호를 심는 숨겨진 텍스트 워터마킹(Invisible Text Watermarking)이다. 눈에는 드러나지 않지만 복사-붙여넣기나 가벼운 수정 뒤에도 AI 생성 여부를 추적할 수 있도록 설계하는 방식이다.
Regulation (EU) 2024/1689, Article 50(2)
Providers of AI systems, including general-purpose AI systems, generating synthetic audio, image, video or text content, shall ensure that the outputs of the AI system are marked in a machine-readable format and detectable as artificially generated or manipulated. Providers shall ensure that their technical solutions are effective, interoperable, robust and reliable as far as this is technically feasible, taking into account specificities and limitations of different types of content, the costs of implementation and the generally acknowledged state of the art, as may be reflected in relevant technical standards. This obligation shall not apply where the AI system performs an assistive function for standard editing or does not substantially alter the input data provided by the deployer or the semantics thereof, or where authorised by law to detect, prevent, investigate or prosecute criminal offences.
번역
합성 음성, 이미지, 동영상 또는 텍스트 콘텐츠를 생성하는 범용 AI 시스템을 포함한 AI 시스템의 제공자는, 해당 AI 시스템의 산출물이 기계판독 가능한 형식으로 표시되고 인위적으로 생성되었거나 조작되었음을 탐지할 수 있도록 보장하여야 한다. 제공자는 콘텐츠 유형별 특수성과 한계, 이행 비용 및 관련 기술표준에 반영될 수 있는 일반적으로 인정된 최신 기술수준을 고려하여, 기술적으로 실현 가능한 범위에서 자신의 기술적 해결수단이 효과적이고, 상호운용 가능하며, 견고하고 신뢰할 수 있도록 보장하여야 한다. 다만, AI 시스템이 통상적인 편집을 위한 보조적 기능을 수행하거나 배포자가 제공한 입력 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우, 또는 범죄의 탐지·예방·수사 또는 기소를 위하여 법률상 허용된 경우에는 이 의무가 적용되지 아니한다.
조문에서 눈여겨볼 표현은 "marked(표시)"와 "detectable(탐지 가능)"이 병렬 의무로 놓여 있다는 점이다. 표시를 심는 것만으로 끝나는 구조가 아니다. 그 결과물이 인위적으로 생성되거나 조작되었다는 사실을 실제로 탐지할 수 있어야 한다.
Anthropic은 Claude 출력물에 어떻게 적용했나
Anthropic은 EU AI Act 준수 조치의 하나로 2026년 8월 2일 이후 출시된 모델부터 Claude 출력물에 워터마킹을 삽입하기 시작했으며, 이 정책을 전 세계에 적용한다고 발표했다. (AI Weekly, 2026)
Anthropic이 설명한 표식은 텍스트 자체에 은닉된(imperceptible) 형태다. 문장의 의미·품질·가독성에는 영향을 주지 않는다고 한다. 다만 검출 결과를 곧바로 저작 주체의 증명으로 읽어서는 안 된다. Anthropic이 밝힌 한계는 다음과 같다.
- "Claude로 처리했을 수 있다"는 신호일 뿐, 출처를 입증하는 독립 증거는 아니다.
- 교정·번역·요약·형식 변환을 위해 Claude를 보조적으로 사용한 경우에도 마크가 남을 수 있다.
- 복사하여 붙여넣은 뒤에도 텍스트의 고유한 일부로 유지된다.
- 일부 편집을 거친 뒤에도 마크가 잔존할 수 있다.
오히려 공개되지 않은 부분이 더 중요하다. Anthropic은 워터마크가 텍스트 자체에 은닉된다고 설명했지만, 표식의 구체적인 구조나 검출 방식, 삭제 방법은 밝히지 않았다. (Claude Help Center, "How Claude marks AI-generated content")
단서 조항이 있는데도 왜 일괄 적용하나
EU AI Act 제50조 제2항의 단서 조항은 모든 AI 이용 장면에 동일한 마킹 의무를 부과하지 않는다. 통상적인 편집을 위한 보조적 기능을 수행하거나 원문의 입력 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우에는 의무가 면제된다.
그런데 Anthropic의 현재 정책은 이런 예외 상황을 개별적으로 가려 워터마크를 달리 적용하는 방식이 아니다. 예외 케이스를 기술적으로 판별하기 어렵다는 현실적 사정이 작용했을 가능성이 있다. 별도의 예외 판별 체계를 개발하기보다 Claude가 관여한 텍스트에 표식을 폭넓게 남기는 쪽을 택한 것으로 읽힌다.
ChatGPT 결과물에서도 과거 유사한 표식을 둘러싼 논란이 있었고, 이를 없애기 위한 프롬프트가 유행한 적이 있다. 다만 이번 흐름은 단순한 서비스 정책의 차원을 넘어선다. EU AI Act에 따른 법적 의무 이행이 배경에 있다는 점에서 Anthropic 한 회사의 선택으로만 보기 어렵다.
특허 실무에서 생기는 책임 문제
USPTO 지침이 묻는 것은 AI 사용 여부가 아니다
발명에서 출원까지 걸리는 시간을 줄이려는 압박이 커질수록 AI를 이용한 명세서 작성 수요도 커진다. 문제는 작성 속도보다 검증 책임이다.
미국 특허청(USPTO)의 2024년 4월 「Guidance on Use of Artificial Intelligence-Based Tools in Practice Before the United States Patent and Trademark Office」(89 Fed. Reg. 25609) 지침에 따르면, AI를 사용했다는 사실 자체를 IDS(정보제출의무, Information Disclosure Statement) 형태로 별도 개시할 필요는 없다. 그러나 37 CFR § 11.18(b)에 따른 대리인의 인증(certification) 의무는 그대로 남는다.
37 C.F.R. § 11.18(b) — Signature and certificate for correspondence filed in the Office
(b) By presenting to the Office any paper, the party presenting such paper, whether a practitioner or non-practitioner, is certifying that— (1) All statements made therein of the party's own knowledge are true, all statements made therein on information and belief are believed to be true ... (2) To the best of the party's knowledge, information and belief, formed after an inquiry reasonable under the circumstances, (i) The paper is not being presented for any improper purpose ... (iii) The allegations and other factual contentions have evidentiary support or, if specifically so identified, are likely to have evidentiary support after a reasonable opportunity for further investigation or discovery ...
번역
특허청에 어떠한 서면을 제출함으로써, 그 서면을 제출하는 자는 개업대리인인지 비대리인인지와 무관하게 다음 사항을 인증한다. (1) 제출서면에 포함된 자기의 직접 지식에 기초한 모든 진술은 진실하고 ... (2) 상황에 비추어 합리적인 조사를 거친 후 형성된 당사자의 지식, 정보 및 신념에 따른 최선의 판단으로, (iii) 주장 및 그 밖의 사실상 주장은 증거적 근거를 가지며 ...
참고: legaltimes.co.kr
실무의 초점은 AI 사용 사실 자체가 아니라 대리인이 그 결과물을 얼마나 검증했는지에 맞춰진다. 제출 서류에 서명하면 대리인은 "합리적 조사(Reasonable Inquiry)"를 거쳤음을 보증한다. AI의 환각(Hallucination)으로 만들어진 선행기술 구분이나 기술적 사실이 충분한 확인 없이 명세서나 의견서에 들어간 경우, 워터마크는 대리인 징계나 불공정 행위(Inequitable Conduct) 주장에서 결정적 증거로 활용될 빌미가 될 수 있다.
공개되는 File Wrapper가 남기는 문제
출원 명세서와 심사이력(File Wrapper)은 공공에 공개된다. AI를 이용해 작성한 특허 명세서와 심사이력 파일도 당연히 외부 분석의 대상이 될 수 있다. 특허 침해 소송에서 상대방(Opposing Counsel)은 별도의 디스커버리(Discovery) 요청 없이도 텍스트 파싱과 워터마크 검출 알고리즘을 이용해 AI 작성 여부를 즉시 검증할 수 있다.
특허 실무에서는 무엇을 남겨야 하나
지울 흔적보다 남길 검토 기록이 중요하다
특허 실무에서 먼저 고민할 것은 워터마크를 어떻게 지울지가 아니다. AI 사용이 일상화될수록 중요한 것은 어떤 자료를 확인했고, 누가 수정했으며, 어떤 판단을 거쳐 제출본을 확정했는지를 기록으로 남기는 일이다. 워터마크 회피보다 인간 검토와 책임의 증거화가 우선해야 한다.
AI 출력은 어디까지나 초안이다
AI 출력은 조사와 표현을 돕는 초안으로 다루는 편이 안전하다. 발명의 과제·해결수단·효과·실시예·용어 정의·청구항을 지지하는 설명은 담당 변리사 또는 기술자가 독립적으로 확인한다. OA(Office Action) 대응도 다르지 않다. 인용문헌의 실제 기재, 청구항 해석, 차이점, 예측가능성, 2차적 고려사항(Secondary Considerations) 및 인용 판례는 원문을 기준으로 다시 검증해야 한다.
워터마크는 책임 판단의 출발점일 뿐이다
워터마크가 검출되었다는 사실만으로 서명 책임이 결정되는 것은 아니다. 대리인이 기술적 사실, 선행기술 진술, 실시 가능성(Enablement), 청구범위의 뒷받침(Written Description) 및 의견서 논리를 실제로 독립 검토했다면, 워터마크의 존부는 보조적 사실에 그친다. 서명 책임의 본질은 검토와 판단을 누가 수행했는지에 있다.
Anthropic의 현재 공식 입장도 이 점에 선을 긋고 있다. 워터마크 검출 결과만으로 원작성자, 인간 검토의 부재, 허위 진술 또는 기망 의도를 독자적으로 증명할 수 없다는 것이 공식 한계다.
AI 사용기록과 사건 파일을 구분한다
프롬프트와 모델 출력은 사건 파일과 분리한 내부 AI 사용기록으로 관리하고, 외부 제출본에는 검토·승인 책임자와 검증 근거를 남기는 방식이 바람직하다. 초안 작성에 사용한 프롬프트와 결과물만 보관할 것이 아니라 사람이 실제로 무엇을 확인하고 어떻게 고쳤는지 보여주는 검토 기록과 수정 이력도 함께 보존해야 한다.
고객 약정에도 AI 사용 기준을 적어 둔다
고객과의 약정에는 AI 사용 범위, 비밀정보 입력 통제, 인적 검토 수준, 데이터 보존·삭제, 청구 기준을 명시할 필요가 있다. 향후 상대방이 Claude 마크 검출 결과를 제시하더라도 그 결과가 "처리되었을 수 있음" 이상의 의미를 갖지 않는다는 Anthropic의 공식 한계를 즉시 지적할 수 있도록 준비해야 한다.
참고 자료
[1] Anthropic adopts EU AI Act code, watermarks Claude output — AI Weekly
[2] How Claude marks AI-generated content — Claude Help Center
[3] Regulation (EU) 2024/1689 (EU AI Act), Article 50(2) — EUR-Lex
[4] USPTO Guidance on AI-Based Tools (89 Fed. Reg. 25609, Apr. 2024)
[5] 37 C.F.R. § 11.18(b)
