2025年11月26日 星期三

抽象的模型訓練方法並不具備技術特點 - 歐洲訴願案T 1998/22

歐洲訴願案 - T 1998/22 (Wide and deep machine learning models/GOOGLE) 20-12-2024
案件編號:T 1998/22
歐洲申請案:EP16826643.5
涉及法條:
EPC Art 84(明確且受到說明書支持)
EPC Art 52(1)(專利新穎性、進步性與產業利用性要件)
EPC Art 56(進步性)
Rules of procedure of the Boards of Appeal Art 12(4)(訴願期間的修正規定)
判決日期:20 December 2024

本案源起歐洲申請案No.16826643.5被歐洲專利局審查部門因不符進步性規定駁回,專利局口審程序,並提出初步意見,認為申請人提交的幾組申請專利範圍-main request, first and second auxiliary requests中main request的Claim 1是習知一般目的電腦技術而缺乏技術貢獻,也因此不具進步性-缺乏進步特徵(lack an inventive step)。申請人表示不參加口審程序而直接提出訴願請求(訴願委員會撤回口審程序)。

系爭專利申請案關於一種廣泛而深度(wide and deep)的機器學習模型,示意圖如下:


本案的main request的Claim 1描述一個電腦系統,實現組合機器學習模型(combined machine learning model 102,即上圖),用以處理包括"特徵108-122"的機器學習輸入,模型包括「深度機器學習模型104」、「廣泛機器學習模型106」、「組合層/combining layer 134」,通過組合層處理由"深度機器學習模型104"與"廣泛機器學習模型106"產生的"深度模型/廣泛模型中間預測輸出(deep model/wide model intermediate predicted output)",據此產生"預測輸出";其中訓練集共同訓練"深度機器學習模型"與"廣泛機器學習模型",基於預測輸出與已知輸出之間的誤差,可以得出調整上述兩個模型的參數值


判決中提到main request與auxiliary request的主要差異在於"wherein the wide machine learning model (106) is a generalized linear model (132)"。

此案例發明是一種經典的"機器學習方法",就是一種數學方法/電腦實現方法,其中技術特徵在於結合了
深度機器學習模型(deep machine learning model)」與「廣泛機器學習模型(wide machine learning model)」,通過「組合層(combining layer)」處理這兩個模型產生的"中間預測輸出",產生"預測輸出(predicted output)";因此可以根據「預測輸出與已知輸出之間的誤差(error)」得出調整上述兩個模型的參數值。本發明優點是可以運用來自兩個模型中記憶性(memorization)與廣泛性(generalization)的優點,以獲得更好的預測輸出



不論在專利局審查或是進入訴願階段,主要討論的議題是發明是否僅是一般電腦實現的沒有技術貢獻的方法?細節是,發明是否明確?是否相對引證前案具有進步特徵?

Art. 84 EPC(明確性)議題:
訴願決定同意歐洲專利局審查意見 - 本案"wide machine learning model"不明確,相關領域技術人員(參考說明書內容)並不清楚這個模型的技術特徵為何,特別是因為申請專利範圍中分別使用了"wide"與"deep"區分兩個模型,卻不清楚如何解釋"wide"與"deep"的差異

不明確理由:
(1)判決中提到,"wide machine learning model"與說明書內容不相符。
(2)說明書並沒有定義"wide",卻有提到"wide and shallow model",相對地用"not deep"解釋"wide"並不足夠。
(3)雖專利說明書提到機器學習模型的等級(class)揭露"generalized linear model"(可翻譯為泛性線性模型),但不清楚申請專利範圍中"wide machine learning model"所涵蓋的模型為何?

缺乏進步特徵(lack an inventive step)理由:
相對引證案,本發明與引證1的區隔特徵是非技術問題的解決方案(solution to non-technical problem)-如何改善或修改使用在引證1中的數學模型,認為本案發明並沒有解決技術問題。

意思是,本發明要解決問題的數學模型已經揭露在引證案中,改善已知模型的數學方法不能算是解決了技術問題。雖對此意見,專利申請人主張發明已經解決了客觀上達成技術效果的的技術問題,但委員會引用前例 - T 697/17,判斷解決問題是否有技術性(technicality)要由技術專家(technical expert)闡述,而不是由非專家所述 - 若技術專家可闡述出與引證案差異特徵(distinguishing features),也應考量其進步特徵。


到本案,因為本發明描述輸入與儲存架構,且解決混雜的數據問題,或許可以被視為技術實現的發明,但訴願委員會仍認為相對習知一般目的電腦而言,本發明與引證案差異僅在電腦程式的指令,不具有技術貢獻,因此也不具備進步特徵

進一步地,討論到發明的技術細節,由電腦軟體實現的方法包括抽象的輸入(abstract input),也產生抽象的輸出(abstract output: predicted output for the machine learning input),整體上是電腦實現的抽象的數學模型(以訓練集訓練兩個模型),沒有技術特點

"... mathematical details of the abstract model with no inherent technical character."(即便提供了模型的數學細節,但抽象的模型訓練方法並不具備有技術特點。)

訴願撤回。


可參考另一件歐洲訴願案:T 0761/20 (Automated script grading/UNIVERSITY OF CAMBRIDGE) 22-05-2023(https://www.epo.org/en/boards-of-appeal/decisions/t200761eu1

Ron 

沒有留言: