AI That Reads the Technical Meaning of Patents, Not Just Their Words — Training on Claims and Descriptions to Detect Patent Risk

INVENTOR'S TECHNOLOGY COLUMN · AI AND PATENT ANALYTICS

Training AI on Patent Claims and Detailed Descriptions to Identify Patent Risk

The same technology can be described in entirely different words. This article explains an AI-based patent-analysis technique that turns the native structure of patent documents into training signals and identifies passages in a lengthy disclosure that are most closely related to a claim.

Inventor's note. This article presents, for a general audience, the core idea and operating principles of an AI-based patent-analysis technology that I invented and filed for patent protection. The model's semantic-similarity score is not a legal determination of infringement. It is best understood as an analytical signal for identifying patents and product materials that warrant closer review.

Conceptual overview of AI learning the semantic correspondence between patent claims and the detailed description

Contents

1. Why keyword search misses technical relationships
2. Turning patent documents into training data
3. Working around the 512-token limit
4. How BERT reads the relationship between two texts
5. What the reported experiment shows
6. The line between semantic similarity and infringement
7. Practical applications and the value of data
8. Remaining challenges and the path forward

1. Why Keyword Search Misses Technical Relationships

Patent searching is not simply a matter of finding identical words. Comparing a product description with a claim is relatively straightforward when both use the same terminology. The harder cases arise when two documents describe the same technology in different language. A drafter may reorder components, move between broader and narrower concepts, or describe the same function in different terms. A keyword search can easily miss those connections.

The technology I invented and filed for patent protection begins with that problem. Its objective is to move beyond word matching and train an AI model to evaluate how closely the technical meaning of a claim corresponds to a passage in another document. The central idea is to use structural relationships already present within patent documents as training data. Rather than requiring experts to read tens of thousands of documents and manually create an answer key, the system is designed so that the patent documents themselves supply part of the training signal.

2. Turning Patent Documents into Training Data

The starting point is the structure of a patent document. The claims define the legal boundaries of the invention, while the detailed description explains what the invention is and how it may be implemented. Article 42(4)(i) of the Korean Patent Act requires the claims to be supported by the detailed description. That requirement helps prevent an applicant from monopolizing subject matter that was not disclosed and enables a person skilled in the art to understand the relationship between the claimed invention and the specification.

Viewed through a machine-learning lens, that legal structure creates an opportunity. A claim and a passage from the detailed description of the same patent will ordinarily have a strong relationship. By contrast, a claim and a randomly selected passage from a different patent are statistically more likely to be unrelated. The system can therefore assign label 1 to a claim–description pair drawn from the same patent and label 0 to a pair assembled from different patents.

An essential distinction. Label 1 does not mean “legal infringement,” and label 0 does not mean “legal noninfringement.” These are proxy labels designed to teach the model semantic correspondence, not ground-truth labels derived from judicial infringement decisions. Two different patents may concern related technology, and a claim and description from the same patent say nothing by themselves about whether a third party infringes.

The immediate benefit is a substantial reduction in manual labeling. In a conventional supervised-learning project, experts might need to read each document pair and decide whether it is related. Patents take time to read carefully, so the cost rises quickly as the dataset grows. Automatically pairing claims with passages from the same patent—and combining claims with randomly selected passages from other patents—can remove much of that bottleneck.

Negative samples are not mere filler. If a model sees only highly related pairs, it may learn to treat a few overlapping words as sufficient evidence of a meaningful relationship. Training it on claim–description pairs drawn from different patents forces the model to distinguish superficial word overlap from technical correspondence. Positive samples show the model what a relationship looks like; negative samples help define its boundary.

3. Working Around the 512-Token Limit

Document length presents the next obstacle. In its basic form, BERT accepts no more than 512 tokens in a single input. A patent's detailed description, however, often runs to thousands of words. Feeding a claim and the entire description into the model at once is therefore impractical.

My proposed approach first divides the detailed description into chunks of approximately 310 tokens. It then calculates the semantic relationship between the claim and each chunk and selects the highest-scoring passages as input candidates. This differs from mechanically taking text from the beginning of the document. The limited input window is allocated first to passages most likely to bear directly on the claim.

A dot product between vector representations can be used to rank the chunks. The underlying intuition is straightforward. The claim is represented as one semantic vector and each description chunk as another. The operation scores how closely the two vectors point in the same direction. A higher score indicates a greater likelihood that the claim and the passage are semantically related.

1. Segment: Divide the detailed description into chunks of roughly 310 tokens.
2. Score: Calculate the semantic relationship between the claim and each chunk.
3. Select: Choose the highest-scoring chunks as candidates for the BERT input.

4. How BERT Reads the Relationship Between Two Texts

The selected text is formatted so that BERT can distinguish the two inputs. A representative sequence is [CLS] + claim + [SEP] + detailed description + [SEP]. The [SEP] tokens mark the boundary between the texts, while segment embeddings identify which tokens belong to which input. The final representation of the [CLS] token can then serve as a summary vector for classifying the relationship between the two texts.

This structure prevents the claim and the description from collapsing into a single undifferentiated passage. Human readers naturally use headings, paragraphs, and line breaks to identify document boundaries. A model has no comparable intuition unless the input structure expressly tells it, in effect, “Text A ends here, and Text B begins here.”

During training, label-1 and label-0 examples are handled through an alternating-batch strategy. Rather than mixing both classes indiscriminately from the outset, the system calculates the loss for each group and updates the model parameters in a direction that reduces both losses. The purpose is to keep the model's decision rule from drifting toward one class merely because that class is larger or easier to learn.

5. What the Reported Experiment Shows

In the experiment described in the source manuscript, cross-entropy loss decreased from 0.89 to 0.19 over 15 training epochs, and accuracy reached approximately 80%. The manuscript also reports that the model classified all 17 text pairs in a comparison set that used different terminology as label 1.

15 epochsTraining duration

0.89 → 0.19Cross-entropy loss

Approx. 80%Accuracy under the reported conditions

How to read the numbers. These results were obtained under the specific experimental conditions reported in the source manuscript. They do not establish that the same performance will hold across every industry, patent corpus, or dispute. The result for the 17 text pairs should likewise be understood as an observation from a limited comparison set.

More important than the headline numbers is the model's response to changes in wording. One of the central difficulties in patent searching is that the same technology can be obscured by different language. Suppose one document refers to an “adhesive retention mechanism,” while another describes the same arrangement using entirely different terminology. A keyword search may push the documents apart because they share few words. A semantic model is intended to do the opposite: it asks what function each component performs in context and how the components relate to one another.

6. The Line Between Semantic Similarity and Infringement

This discussion naturally calls to mind the doctrine of equivalents. Patent infringement analysis does not necessarily end merely because an accused product departs from the literal wording of a claim. Under Korean Supreme Court precedent, an altered element may in appropriate circumstances be treated as equivalent when requirements concerning the invention's problem-solving principle, substantially identical operation and effect, and interchangeability are satisfied, absent a recognized bar to equivalence.

An AI score is not an infringement ruling. Semantic similarity and infringement under the doctrine of equivalents are not the same concept. A high similarity score does not establish infringement, and a low score does not eliminate legal risk.

A legal analysis must separately address whether every claim limitation is satisfied, as well as prosecution history, the prior art, any deliberate exclusion or disclaimer, and each requirement of the doctrine of equivalents. The practical value of this invention therefore does not lie in having AI replace a judge or lawyer. Its more useful role is to narrow the set of documents that a human expert must read. Among thousands—or tens of thousands—of patents and product documents, the system can elevate candidates that correspond strongly to a claim, after which patent counsel, litigators, and R&D personnel can conduct a rigorous review.

7. Practical Applications and the Value of Data

The same semantic-comparison architecture supports several practical use cases. Patent-risk analysis, portfolio monitoring, and prior-art searching all converge on the task of finding technical relationships expressed in different language.

• Product development: Compare competitor patents with product specifications to identify potential risk candidates early.
• Rights monitoring: Compare descriptions of newly released products with existing claims to prioritize human review.
• Prior-art searching: Surface references that describe relevant subject matter using language different from the claim.

In patent AI, the most expensive resource is not always GPU capacity or model parameters. Often the harder problem is obtaining good training data. Expert labels can be accurate, but they are slow and costly to produce. Public patent documents are abundant, yet they are not ready-made answer keys. This invention seeks a middle path: use the legal and documentary structure already embedded in patents to reduce the cost of generating training data.

Describing the project simply as “turning law into mathematics” misses the point. More precisely, it identifies signals that AI can learn from the structure and rules accumulated in legal documents. The relationship between claims and the detailed description, the selection of relevant passages, the construction of positive and negative samples, and the formatting that distinguishes two text inputs together convert semantic correspondence in patent documents into a computationally tractable problem.

8. Remaining Challenges and the Path Forward

Substantial challenges remain. Terminology and sentence structure vary by technical field, which may require domain-specific training. Random negative sampling can also produce false negatives by pairing documents that are, in fact, technically related. Narrowing the gap between semantic similarity and legal infringement analysis will require claim-element-level analysis supplemented by prosecution history, prior art, and expert-labeled data. BERT's 512-token constraint may also be addressed through longer-context models or hierarchical architectures.

Even so, the starting proposition is clear: a patent is not merely an undifferentiated block of text. A special relationship exists between the claims that define the legal right and the detailed description that explains the technology. Once that relationship is converted into training data, AI can move beyond retrieving documents that use the same words and begin exploring why two documents may be technically related.

The proper role of AI in patent practice is not to displace the expert's ultimate judgment. It is to find, more quickly and across a wider field, the candidates that deserve that judgment. The system first detects semantic connections that may be easy to miss in a large corpus; lawyers and technical specialists then apply the governing legal and engineering standards. The invention I filed occupies that boundary. It is an effort to move beyond searching the words of a patent and toward reading the technical meaning the patent seeks to protect.

Reference

ChinSu Lee (이진수), “Method for Generating a Patent-Analysis Model Using an Artificial Neural Network and Text-Pair Embeddings, Patent-Analysis Method, and Computing Device” [English translation of title], Korean Patent Application No. 10-2024-0075102, filed June 10, 2024.

• Application number: 10-2024-0075102
• Filing date: June 10, 2024
• Priority application: 10-2023-0093439 (July 18, 2023)
• Inventor / applicant: ChinSu Lee (이진수)
• Original Korean title: 인공신경망 및 텍스트 쌍 임베딩을 이용한 특허 분석 모델의 생성 방법, 특허 분석 방법 및 컴퓨팅 장치

특허의 ‘문장’이 아니라 ‘기술적 의미’를 읽는 AI — 청구항과 발명의 설명을 학습시키는 특허 리스크 탐지 기술

발명자 기술 칼럼 · AI와 특허분석

청구항과 발명의 설명을 학습시켜 특허 리스크를 찾는 방법

키워드가 달라도 같은 기술을 가리킬 수 있다. 특허문서가 본래 지닌 구조를 학습 신호로 바꾸고, 긴 설명에서 청구항과 밀접한 부분을 골라내는 AI 특허분석 기술의 아이디어와 작동 원리를 소개한다.

발명자 노트. 이 글은 내가 발명하여 출원한 AI 기반 특허분석 기술을 일반 독자도 이해할 수 있도록 풀어쓴 기술 칼럼이다. 여기서 AI의 의미 유사도 평가는 침해 여부에 관한 법적 확정판단이 아니다. 정밀 검토가 필요한 특허와 제품 후보를 선별하는 분석 신호로 이해하는 것이 정확하다.

청구항과 발명의 설명 사이의 의미적 대응관계를 학습하는 AI 특허분석의 개념도

소목차

1. 키워드 검색은 왜 기술의 연결고리를 놓치는가
2. 특허문서 자체를 학습 데이터로 바꾸는 법
3. 긴 명세서와 512토큰의 벽을 넘는 법
4. BERT가 두 문서의 관계를 읽는 방식
5. 실험 결과는 무엇을 보여 주는가
6. 의미 유사도와 법적 침해판단의 경계
7. 실무 활용과 데이터의 가치
8. 남은 과제와 이 기술이 향하는 곳

1. 키워드 검색은 왜 기술의 연결고리를 놓치는가

특허 검색은 ‘같은 단어를 찾는 일’로 끝나지 않는다. 제품 설명과 청구항에 같은 표현이 반복된다면 비교는 어렵지 않다. 실무가 까다로운 이유는 같은 기술을 전혀 다른 말로 표현할 수 있기 때문이다. 구성의 순서를 바꾸거나 상위개념과 하위개념을 섞고, 하나의 기능을 다른 용어로 풀어내면 키워드 검색만으로는 중요한 연결고리를 놓치기 쉽다.

내가 발명하여 출원한 기술은 바로 이 문제에서 출발했다. 목표는 AI가 특허문서의 단어를 단순 대조하는 수준을 넘어, 청구항에 담긴 기술적 의미와 다른 문서의 설명이 얼마나 밀접하게 대응하는지를 학습하도록 만드는 것이다. 핵심은 특허문서 안에 이미 존재하는 구조적 관계를 학습 데이터로 활용하는 데 있다. 사람이 수만 건의 문서를 읽고 정답표를 일일이 만드는 대신, 특허문서 자체가 일정 부분 학습 신호를 제공하도록 설계했다.

2. 특허문서 자체를 학습 데이터로 바꾸는 법

출발점은 특허문서의 구조다. 특허의 청구범위는 권리의 경계를 정하고, 발명의 설명은 그 발명이 무엇이며 어떻게 구현되는지를 구체적으로 풀어낸다. 우리 특허법 제42조 제4항 제1호가 청구항이 발명의 설명에 의해 뒷받침될 것을 요구하는 이유도 여기에 있다. 공개되지 않은 내용까지 권리로 독점하는 일을 막고, 통상의 기술자가 청구된 발명과 명세서의 대응관계를 이해할 수 있도록 하려는 취지다.

이 법적 구조를 학습 데이터의 관점에서 바라보면 새로운 가능성이 열린다. 동일한 특허문서에서 추출한 청구항과 발명의 설명은 원칙적으로 높은 관련성을 가진다. 반면 서로 다른 특허에서 무작위로 가져온 청구항과 설명 조각은 통계적으로 관련성이 낮을 가능성이 크다. 이 관계를 이용해 동일 특허에서 나온 청구항–설명 쌍에는 레이블 1을, 서로 다른 특허에서 가져온 쌍에는 레이블 0을 부여할 수 있다.

중요한 구분. 레이블 1은 ‘법적 침해’, 레이블 0은 ‘법적 비침해’를 의미하지 않는다. 이는 법원의 침해판단을 정답으로 붙인 데이터가 아니라, 모델이 의미적 대응관계를 학습하도록 만든 대리 레이블(proxy label)이다. 서로 다른 특허라도 관련 기술일 수 있고, 같은 특허의 청구항과 설명이 제3자의 침해를 뜻하는 것도 아니다.

이 설계의 실익은 수작업 레이블링 비용에서 가장 먼저 드러난다. 일반적인 지도학습이라면 전문가가 문서 쌍을 하나씩 읽고 ‘관련 있음’과 ‘관련 없음’을 판정해야 한다. 특허 한 건을 제대로 읽는 데에도 상당한 시간이 필요하므로, 데이터가 커질수록 비용은 가파르게 늘어난다. 같은 특허의 청구항과 설명을 자동으로 묶고 다른 특허의 설명을 무작위로 결합하면 이 병목을 상당 부분 줄일 수 있다.

부정 샘플은 단순한 들러리가 아니다. 관련성이 높은 쌍만 보여 주면 모델은 몇몇 단어가 겹친다는 이유만으로 두 문서가 관련 있다고 오판하기 쉽다. 서로 다른 특허에서 가져온 청구항–설명 쌍을 함께 학습시키면 모델은 단어 몇 개의 일치와 기술적 대응관계를 구별해야 한다. 긍정 샘플이 대응의 모습을 보여 준다면, 부정 샘플은 그 경계가 어디까지인지를 다듬는다.

3. 긴 명세서와 512토큰의 벽을 넘는 법

다음 걸림돌은 문서 길이다. BERT는 기본 구조상 한 번에 처리할 수 있는 입력 길이가 최대 512토큰으로 제한된다. 그러나 특허의 발명의 설명은 수천 단어를 훌쩍 넘는 경우가 흔하다. 청구항과 전체 설명을 한 번에 모델에 넣는 방식은 애초에 성립하기 어렵다.

내가 제안한 방식은 긴 발명의 설명을 약 310토큰 내외의 조각으로 먼저 나눈다. 이어 청구항과 각 조각의 의미적 관련도를 계산해 점수가 높은 부분을 입력 후보로 고른다. 문서의 앞부분부터 기계적으로 잘라 넣는 것이 아니라, 제한된 입력 공간을 청구항과 직접 맞닿아 있을 가능성이 높은 설명에 우선 배정하는 방식이다.

설명 조각을 고르는 과정에는 벡터 간 도트 프로덕트와 같은 연산을 사용할 수 있다. 복잡한 수학식으로 생각할 필요는 없다. 청구항과 설명 조각을 각각 의미 벡터로 표현한 뒤, 두 벡터가 얼마나 같은 방향을 가리키는지 점수화한다고 이해하면 된다. 점수가 높을수록 해당 설명 조각이 청구항과 의미적으로 가까울 가능성이 높다.

1. 분할: 긴 발명의 설명을 약 310토큰 단위의 조각으로 나눈다.
2. 점수화: 청구항과 각 설명 조각의 의미적 관련도를 계산한다.
3. 선별: 관련도 점수가 높은 조각을 BERT 입력 후보로 선택한다.

4. BERT가 두 문서의 관계를 읽는 방식

선별된 텍스트는 BERT가 두 문장을 구별해 읽을 수 있는 형식으로 구성한다. 대표적인 입력은 [CLS] + 청구항 + [SEP] + 발명의 설명 + [SEP]와 같은 구조다. [SEP]는 두 텍스트의 경계를 표시하고, 세그먼트 임베딩은 각 토큰이 어느 문장에 속하는지를 알려 준다. [CLS] 토큰의 최종 표현은 두 텍스트의 관계를 분류하는 대표 벡터로 활용할 수 있다.

이 장치는 청구항과 설명이 하나의 긴 문장으로 뒤섞이는 것을 막는다. 사람은 제목과 문단, 줄바꿈을 보고 두 문서의 경계를 자연스럽게 이해하지만 모델에는 그런 직관이 없다. 따라서 입력 구조 자체가 ‘여기까지가 비교 대상 A이고, 여기부터가 비교 대상 B’라는 정보를 제공해야 한다.

학습 단계에서는 레이블 1과 레이블 0을 번갈아 처리하는 교대 배치 전략을 사용한다. 두 종류를 처음부터 한 바구니에 섞지 않고 그룹별 손실을 따로 계산한 뒤, 두 손실을 함께 줄이는 방향으로 파라미터를 갱신한다. 어느 한쪽 데이터가 더 많거나 쉽게 학습된다는 이유로 모델의 판단 기준이 한 방향으로 기우는 것을 막기 위한 장치다.

5. 실험 결과는 무엇을 보여 주는가

원고에 기록된 실험에서는 15에포크의 학습 과정에서 교차엔트로피 손실값이 0.89에서 0.19로 낮아졌고, 정확도는 약 80% 수준에 도달했다. 특히 서로 다른 표현을 사용한 비교 사례에서는 17개의 텍스트 쌍을 모두 레이블 1로 판별한 결과가 제시되었다.

15에포크실험 학습 횟수

0.89 → 0.19교차엔트로피 손실값

약 80%해당 조건의 정확도

수치 해석의 한계. 이 결과는 원고에 기재된 특정 실험 조건에서 얻어진 값이다. 모든 산업과 특허문서, 모든 특허분쟁에서 동일한 성능이 보장된다는 뜻은 아니다. 17개 비교 쌍의 판별 결과 역시 제한된 사례에 관한 관찰로 이해해야 한다.

숫자보다 더 눈여겨볼 것은 표현이 달라졌을 때의 반응이다. 특허 검색의 난점은 같은 기술을 다른 말로 숨길 수 있다는 데 있다. 한 문서가 ‘접착 고정 메커니즘’이라고 쓴 구성을 다른 문서가 전혀 다른 용어로 풀어 썼다면, 키워드 검색은 공통 단어가 적다는 이유로 두 문서를 멀리 떨어뜨릴 수 있다. 의미 기반 모델이 노리는 지점은 그 반대다. 표현이 달라도 문맥 안에서 각 구성이 어떤 기능을 하고 서로 어떤 관계를 맺는지를 비교한다.

6. 의미 유사도와 법적 침해판단의 경계

이 대목은 자연스럽게 균등론을 떠올리게 한다. 실제 특허침해 판단에서도 청구항의 문언과 침해제품의 표현이 다르다는 이유만으로 판단이 끝나지는 않는다. 대법원 판례는 문언과 달리 변경된 부분이 있더라도 과제의 해결원리, 작용효과, 치환의 용이성 등 일정한 요건을 충족하고 특별한 제외사유가 없다면 균등침해가 성립할 수 있다고 본다.

AI 점수는 침해판결이 아니다. AI의 의미 유사도와 법률상 균등침해는 동일한 개념이 아니다. 모델이 두 기술을 매우 유사하다고 평가해도 침해가 곧바로 성립하지 않으며, 점수가 낮다고 해서 법적 위험이 사라지는 것도 아니다.

실제 판단에서는 청구항의 모든 구성요소 충족 여부, 출원경과, 공지기술, 의식적 제외, 균등론의 개별 요건 등을 별도로 검토해야 한다. 따라서 이 발명의 실무적 가치는 ‘AI가 판사를 대신한다’는 데 있지 않다. 사람이 읽어야 할 문서를 훨씬 좁혀 주는 데 있다. 수천, 수만 건의 특허와 제품 문서 가운데 청구항과 의미적으로 강하게 대응하는 후보를 먼저 찾아내고, 변리사·변호사·연구개발 담당자가 그 후보를 정밀 검토하도록 만드는 것이다.

7. 실무 활용과 데이터의 가치

활용 장면은 여러 갈래다. 침해 리스크 분석, 특허 모니터링, 선행기술 검색이 모두 같은 의미 비교 구조 위에서 만난다.

• 신제품 기획: 경쟁사 특허와 제품 사양서를 비교해 위험 후보를 조기에 추린다.
• 권리 모니터링: 시장에 나온 신제품의 기술 설명과 보유 청구항을 대조해 검토 순서를 정한다.
• 선행기술 조사: 청구항과 다른 표현을 사용하는 문헌을 의미 관계를 통해 끌어올린다.

특허 AI에서 진짜 비싼 자원은 GPU나 모델 파라미터만이 아니다. 실제로는 ‘좋은 학습 데이터를 어떻게 확보할 것인가’가 더 큰 문제일 때가 많다. 전문가가 만든 레이블은 정확하지만 비싸고 느리다. 공개 특허문서는 방대하지만 그 자체가 곧 학습 정답은 아니다. 이 발명은 그 사이에서 특허문서가 원래 지닌 법적·문서적 구조를 활용해 데이터 생성 비용을 낮추려는 시도다.

이를 단순히 ‘법률을 수학으로 바꾸는 것’이라고 부르면 핵심을 놓친다. 더 정확하게 말하면, 법률문서가 오랫동안 축적해 온 구조와 규칙에서 AI가 학습할 수 있는 신호를 찾아내는 것이다. 청구범위와 발명의 설명의 관계, 관련 문단의 선별, 긍정·부정 샘플의 구성, 두 텍스트를 구분하는 입력 구조가 결합되면서 특허문서의 의미적 대응관계가 계산 가능한 문제로 바뀐다.

8. 남은 과제와 이 기술이 향하는 곳

남은 과제도 적지 않다. 기술분야가 달라지면 용어와 문장 구조도 달라지므로 도메인별 학습이 필요하다. 무작위 부정 샘플 속에 실제 관련 문헌이 섞이는 문제도 피하기 어렵다. 의미 유사도와 법적 침해판단 사이의 간극을 좁히려면 청구항 구성요소별 분석에 출원경과, 선행기술, 전문가 판정 데이터를 겹쳐야 한다. 512토큰이라는 BERT의 제약 역시 더 긴 컨텍스트 모델이나 계층형 구조를 사용하면 다른 방식으로 풀 수 있다.

그래도 출발점은 선명하다. 특허문서는 단순한 텍스트 덩어리가 아니다. 권리를 정의하는 청구항과 그 권리를 기술적으로 설명하는 본문 사이에는 특별한 관계가 존재한다. 그 관계를 학습 데이터로 바꾸면 AI는 키워드가 같은 문서를 찾는 검색기에서 한 걸음 더 나아가 ‘기술적으로 왜 관련 있는가’를 탐색하는 도구가 될 수 있다.

특허 업무에서 AI의 자리는 인간 전문가의 최종 판단을 빼앗는 곳이 아니다. 오히려 전문가가 판단해야 할 후보를 더 빠르고 넓게 찾아 주는 자리다. 수많은 문서 속에서 놓치기 쉬운 의미적 연결을 먼저 포착하고, 그다음 사람이 법률과 기술의 기준으로 결론을 내리는 구조다. 내가 출원한 이 발명은 바로 그 경계에서 출발한다. 특허의 문장을 검색하는 기술을 넘어, 특허가 보호하려는 기술적 의미를 읽기 위한 시도다.

참고자료

이진수, 「인공신경망 및 텍스트 쌍 임베딩을 이용한 특허 분석 모델의 생성 방법, 특허 분석 방법 및 컴퓨팅 장치」, 대한민국 특허출원 제10-2024-0075102호, 2024. 6. 10. 출원.

• 출원번호: 10-2024-0075102
• 출원일: 2024. 6. 10.
• 기초출원: 10-2023-0093439 (2023. 7. 18.)
• 발명자 / 출원인: 이진수
• 발명의 명칭: 인공신경망 및 텍스트 쌍 임베딩을 이용한 특허 분석 모델의 생성 방법, 특허 분석 방법 및 컴퓨팅 장치

인공지능 기반 특허 분석 모델 - 최신 특허 출원 소개 (AI-Based Patent Analysis Model - Introduction to the Latest Patent Application)

AI-Based Patent Analysis Model - Introduction to the Latest Patent Application

Hello! In this post, I am excited to introduce the latest patent technology I developed during my master's program in artificial intelligence. 

This invention presents an innovative methodology focused on automating and improving the accuracy of patent analysis. 

The invention was provisionally filed on July 18, 2023 (Application No.: 10-2023-0093439) and officially filed on June 10, 2024 (Application No.: 10-2024-0075102). Here, I share the key details of this invention.

---

Patent Overview

• Filing Date: June 10, 2024
• Application No.: 10-2024-0075102
• Title: Method for Generating Patent Analysis Models Using Artificial Neural Networks and Text Pair Embeddings, Patent Analysis Methods, and Computing Devices
• Priority Claim: 10-2023-0093439 (July 18, 2023)

---

Motivation for the Invention

Traditional patent analysis methods are labor-intensive and struggle to reflect the complexity of legal interpretations. 

In particular, accurately identifying relationships between patent claims and descriptions posed challenges, leading to unreliable assessments of infringement and similarity. This invention was developed to address these issues.

---

Limitations of Background Technology

1. Lack of Linguistic Adaptation:
   • Existing Natural Language Processing (NLP) models fail to capture the complex structure and legal semantics of patent documents.
2. Legal Interpretation Challenges:
   • The inability to reflect legal nuances in claim interpretation results in errors in similarity judgments.
3. Efficiency Issues:
   • Manual reliance on experts for data preparation leads to excessive costs and time.
4. Performance Constraints:
• Existing models struggle to capture contextual understanding and assess similarity accurately.

---

Proposed Solutions

1. Training Methods

1. Text Pair Generation and Labeling

   • Extract text sequences from claims and descriptions.
   • Label pairs as similar (1) if extracted from the same document and dissimilar (0) if from different documents.
   • Automatically generate labeled training data without manual classification of infringement or similarity.

1. Pre-training and Transfer Learning

   • Utilize transformer-based language models such as BERT.
   • Leverage large-scale patent datasets to enhance contextual understanding.

1. Text Embedding Optimization

   • Tokenize text sequences and convert them into vector embeddings.
   • Optimize performance using cross-entropy loss functions.
   • Achieved loss below 19% within 15 epochs, reaching 81% accuracy.

1. Batch Learning and Ensemble Learning

   • Prevent dataset bias through cross-learning between similar and dissimilar groups.

2. Inference Methods

1. Similarity Analysis:
   • Analyze similarity by embedding text pairs of patent claims and target inventions.
   • 
2. Infringement Analysis:
   • Evaluate the similarity between product descriptions and claims to assess infringement.
3. Patentability Analysis:
   • Assess the similarity between claims and prior art descriptions.
4. Classification Optimization:
   • Use binary classifiers to automate patentability verification and infringement analysis.

---

Key Benefits

1. Automation and Efficiency Improvement:
   • Rapidly process large-scale training datasets without manual preparation.
2. Enhanced Accuracy:
   • Improve reliability by reflecting contextual meaning and legal nuances in claims and descriptions.
   • Verified accuracy through 100 invention tests.
3. Scalability:
   • Apply optimized hardware (neuromorphic computing) and software (BERT-based models) for large-scale analysis.
4. Cost Reduction:
   • Reduce reliance on experts, lowering costs and accelerating analysis speed.
5. Legal Interpretation Support:
   • Assist in patent registration, infringement lawsuits, and novelty verification.

---

Conclusion

This invention addresses limitations in traditional methods by introducing an AI-powered patent analysis model that automates similarity and infringement analysis. By optimizing text pair embeddings and neural network training, this solution effectively interprets complex patent documents and can be broadly applied in legal and R&D fields.

Future plans include validating the performance of this technology across various fields and continuously enhancing its performance and application scope. I look forward to receiving feedback and engaging in discussions with interested readers!

---

인공지능 기반 특허 분석 모델 - 최신 특허 출원 소개

안녕하세요! 이번 포스트에서는 제가 인공지능 석사과정 중에 개발한 최신 특허 기술을 소개합니다. 이 발명은 특허 분석의 자동화와 정확도 향상에 초점을 맞춘 혁신적인 방법론을 제시합니다. 해당 발명은 2023년 7월 18일 가출원(출원번호: 10-2023-0093439)을 거쳐, 2024년 6월 10일에 정규출원(출원번호: 10-2024-0075102)되었습니다. 이제 그 핵심 내용을 공개합니다.

---

특허 개요

• 출원일: 2024년 6월 10일
• 출원번호: 10-2024-0075102
• 발명의 명칭: 인공신경망 및 텍스트 쌍 임베딩을 이용한 특허 분석 모델의 생성 방법, 특허 분석 방법 및 컴퓨팅 장치
• 우선권 주장: 10-2023-0093439 (2023년 7월 18일)

---

발명의 동기

기존의 특허 분석 방법은 노동 집약적이며 법률적 해석의 법리를 반영하기 어렵다는 문제가 있었습니다. 특히 특허 청구범위와 발명 설명 간의 관계를 정확히 파악하지 못해 신뢰성 있는 특허 침해 및 유사성 판단이 어려웠습니다. 이러한 문제를 해결하기 위해 본 발명이 개발되었습니다.

---

기존 기술의 한계

1. 언어적 특수성 반영 부족:
   • 기존 자연어 처리(NLP) 모델은 특허 문서의 복잡한 구조와 법률적 의미를 충분히 반영하지 못함.
2. 청구범위 해석의 법률적 한계:
   • 청구범위 해석의 법률적 특수성을 반영하지 못하여 유사성 판단 오류 발생.
3. 효율성 부족:
   • 학습 데이터 생성 작업에 전문가의 수작업 의존으로 비용과 시간이 과다 소요.
4. 성능 한계:
   • 임베딩 과정에서 정확한 문맥 이해와 유사성 판단이 어려움.

---

해결 방법

1. 학습 방법

1. 텍스트 쌍 생성 및 레이블링

   • 청구범위(Claims)와 발명 설명(Description)에서 텍스트 시퀀스를 추출.
   • 동일 문서에서는 유사(1), 다른 문서에서는 비유사(0)로 자동 레이블링.
   • 침해 여부나 유사 여부를 수작업으로 분류하지 않고 자동으로 레이블링된 학습 데이터 생성.

2. 사전 학습 및 전이학습 적용

   • BERT와 같은 트랜스포머 기반 언어모델을 활용.
   • 대규모 특허 문서 데이터를 통해 문맥 이해 성능 강화.

3. 텍스트 임베딩 최적화

   • 텍스트 시퀀스를 토큰화하고 벡터 임베딩으로 변환.
   • 교차 엔트로피 손실 함수를 사용하여 성능 최적화.
   • 15 에포크 내 손실 19% 이하, 정확도 81% 달성.

4. 배치 학습 및 앙상블 학습 적용

   • 데이터셋 편향 방지를 위해 유사/비유사 그룹 교차 학습.

2. 추론 방법

1. 유사성 판단:
   • 특허 청구범위와 추론 대상 발명을 텍스트 쌍으로 임베딩하여 유사성 분석.
2. 침해 분석:
   • 제품 설명과 청구범위 유사도를 평가하여 침해 여부 판단.
3. 특허성 분석:
   • 청구범위와 선행발명 설명 간 유사도를 평가.
4. 분류 작업 최적화:
   • 유사성 여부를 이진 분류기로 판단하여 특허 검증 및 침해 여부 분석 자동화.

---

발명의 효과

1. 자동화 및 효율성 향상:
   • 학습 데이터 생성의 수작업 없이 대규모 분석 데이터 신속 처리.
2. 정확도 강화:
   • 청구범위와 설명의 문맥적 의미 및 법률적 특수성 반영으로 신뢰성 향상.
   • 100건의 발명에 대한 정확도 검증 완료.
3. 확장성:
   • 하드웨어(뉴로모픽 컴퓨팅) 및 소프트웨어(BERT 기반 모델) 최적화를 통한 대규모 분석 작업 적용 가능.
4. 비용 절감:
   • 전문가 의존도 감소로 비용 절감 및 속도 향상.
5. 법률 해석 지원:
   • 특허 등록, 침해 소송, 신규성 검증 등 다양한 법률 검토에 활용 가능.

---

결론

본 발명은 인공지능 기반 특허 분석 모델을 통해 기존 기술의 한계를 극복하고, 특허 침해 여부 및 유사성 분석을 자동화합니다. 텍스트 쌍 임베딩과 신경망 학습 최적화로 복잡한 특허 문서 해석 문제를 해결하며, 법률 및 연구개발 분야에서 폭넓게 활용될 수 있는 솔루션을 제공합니다.

앞으로도 이 기술의 성능을 다양한 분야에서 검증하고, 지속적인 성능 향상과 적용 범위를 확대할 계획입니다. 관심 있는 분들의 많은 피드백과 토론을 기대합니다!