基于多詞塊的框架元素語義核心詞自動識別研究

李雙紅，李 茹，鐘立軍，郭偉昱

(山西大學 計算機與信息技術學院，山西 太原 030006)

1 引言

對一個句子進行完全語義分析是自然語言處理領域追求的目標之一，但是目前進行完全的語義分析還不現實?；跐h語框架網，對一個句子只針對一個目標詞進行語義角色標注，并在此基礎上建立框架語義依存圖是進行淺層語義分析的一種有效途徑。在框架語義依存圖中的框架元素中，不同的詞對理解這個語義角色的重要性是不同的。提取一個框架元素的語義核心詞對基于核心依存圖的語義計算具有十分重要的意義。

關于自動提取短語型框架元素語義核心詞的研究在國內外尚未見到，但是已經有一些對短語中心詞和短語結構等的相關研究。吳云芳在文獻[1]中基于中文概念詞典CCD, 提出了并列結構中心語的概念，并對并列成分中心語的語義相似性進行了定量考察。周強和俞士汶在文獻[2]中對短語的結構和功能做了詳細的劃分說明。趙軍、黃昌寧在文獻[3]中提出了用詞語潛在依存關系分析漢語baseNP結構的模型。除此之外，對短語的研究主要集中在短語的自動識別上，其中主要研究有張昱琪、周強應用基于實例的MBL (Memory-Based Learning) 學習方法，對漢語中較常見的9種基本短語的邊界及類別進行識別，并利用短語內部構成結構和詞匯信息對邊界歧義和短語類型歧義進行了排歧處理[4]。趙軍、黃昌寧從語言學的角度提出了漢語基本名詞短語的概念，并在此基礎上設計了一種基于轉換的基本名詞短語識別模型[5]。周雅倩、郭以昆等使用了基于最大熵的方法識別中文基本名詞短語，在Chinese TreeBank上得到了較高的查全率和準確率[6]。干俊偉、黃德根運用規則和統計相結合的方法構造了一個介詞短語識別算法，準確率和召回率都達到了80%以上[7]。

本文首先研究了框架元素語義核心詞的內在機理，并給出了形式化的說明。在考察了多詞塊技術在提取短語型框架元素核心詞上的獨特優勢后，給出了處理多詞塊和框架元素這兩種體系的融合策略，并建立了在CFN標注和多詞塊序列標注的基礎上提取短語型框架元素語義核心詞的規則集，最后通過實驗分析了提取效率、可行性及存在的問題。

2 框架核心依存圖

漢語框架網(Chinese FrameNet，簡稱CFN) 由框架庫，詞元庫和句子庫組成[8]。每個框架包括核心框架元素和非核心框架元素以及若干詞元[8]。CFN句子標注，是以框架庫為基礎，針對一個句子，確定一個詞元和該詞元所屬框架，并給框架元素所在的成分標記框架元素、短語類型和句法功能三種信息。CFN句子標注實例如下：

例1： ， /w 掉/v 了/u 。/w

tgt 是目標詞標記，所謂目標詞就是所標注的句子的框架語義結構中對各框架元素起支配作用的謂詞(Predicate)，它所援引(Invoke)的框架被選作標注的目標框架，它是在實際句子里被實現了的詞元。在例1中，目標詞“換”屬于“替換”框架；reason (原因)等是框架元素標記；np (名詞短語)等是短語類型標記；subj (主語)等是句法功能標記。

框架核心依存圖(Frame Kernel Dependency Graph，FKDG)來源于一個句子，它是對這個句子基于一個目標詞和依存于這個目標詞的各個框架元素的語義依存關系的圖形化表示。它由目標詞、依存于目標詞的框架元素的語義核心成分組成。從給定句子中抽取的核心依存圖，可以看作是這個句子深層語義及其各個體現它的語義的核心成分關系的圖形化表示[9]。

框架依存圖(Frame Dependency Graph，FDG)是框架核心依存圖的簡化。它與框架核心依存圖唯一不同的是其中的每個依存項是一個沒有提取語義核心詞的框架元素。

例1的依存圖和核心依存圖分別如圖1和圖2所示。

圖1 框架依存圖

圖2 框架核心依存圖

本文所做的工作就是要提取框架依存圖中每個框架元素的語義核心詞，從而把框架依存圖轉換為框架核心依存圖，為以后的基于框架核心依存圖的語義計算奠定基礎。

3 框架元素語義核心詞

對一個短語來說，無論是英語中的HPSG理論[10]還是漢語的多詞塊理論[11]都認為語法上的核心詞只有一個。但我們認為一個框架元素語義上的核心詞可以有一個或多個。在框架元素中，語義上的核心詞匯指的是通過這些詞可以理解一個框架元素所承擔的語義角色的內容，并且沒有冗余詞匯。換句話說，一個框架元素中的詞匯可以分成兩部分：一部分是核心詞匯，這些詞匯對理解這個框架元素的語義是必要的；另一部分是修飾核心詞匯的詞語以及各種功能詞,如：嘆詞、語氣詞、助詞、標點符號等。

3.1 框架元素和短語的關系

框架元素本質上是語義塊。語義塊是與激起它的謂詞聯系在一起的，在一個句子中，語義塊更多的是為了對外顯示一種語義功能。而短語是一種自完備結構，也就是說，短語是根據其語法結構的內聚性定義的，它更注重內在詞語之間的語法合理性；而框架元素是根據其語義功能定義的，它更在意對句子中其他成分的功能性影響。

一個框架元素一般由一個或多個短語構成，框架元素也可以是一個句子。從形式上講，無論簡單類型的短語還是復合類型的短語都可以充當框架元素，甚至不在短語范圍內的句子也能充當框架元素。但是一般不會有一個框架元素是一個簡單類型短語的一部分，除非是省略的情況。例如：我的她不喜歡。這個句子是有歧義的，如果按 我的/她不喜歡，即：她不喜歡我的。在這個意思下，“我的”充當了一個框架元素，即語義塊，形式上是一個形容詞短語充當了一個實在的語義，但事實上是省略了“我的”后面的中心語。

3.2 框架元素語義核心詞

為了更好的闡明框架語義核心詞，我們先按語義功能把框架元素分為如下三類。

(1) 體詞性框架元素。這些框架元素一般以句子中的名詞、時間詞、處所詞和量詞為中心，分別描述“實體”、“時間”、“空間”和“數量”等基本信息單元[11]。這樣，體詞性框架元素可進一步細分為名詞性框架元素，時間性框架元素，空間性框架元素和數量性框架元素。

(2) 修飾性框架元素。主要包括形容詞性框架元素、副詞性框架元素和介詞性框架元素。這些短語主要描述事物的形態性質以及謂語的狀態、程度和方式等。

(3) 謂詞性框架元素。主要包括動詞性框架元素和形容詞性框架元素。這些短語一般以句子中的動詞、形容詞和狀態詞為中心，分別描述“動作”、“狀態”等基本信息單元。

按結構劃分，框架元素語義核心詞可形式化說明如下：

(1) 并列模式。包括并列體詞性框架元素、并列修飾性框架元素和連謂結構框架元素。并列模式的框架元素語義核心詞是它對應的短語中除虛詞之外的每一個并列詞語。

(2) 偏正模式。包括體詞性框架元素中的偏正結構，如“美麗的花朵”；修飾性和謂詞性框架元素中的狀中結構和述補結構如“好得很”；體詞性和修飾性框架元素中的附加結構，如“同志們”。偏正模式的框架元素的語義核心詞是它對應的短語的語法上的中心詞。

(3) 述賓模式。包括謂詞性框架元素中的述賓結構、修飾性框架元素中的介賓結構。述賓模式的框架元素的語義核心詞是它對應的短語語法上的中心詞和充當這個中心詞賓語的短語的中心詞。

(4) 框架模式。包括形如“介詞+常見短語+方位詞| 助詞”的修飾性框架元素和某些固定搭配，如“對/他/來說”?？蚣苣Ｊ降目蚣茉卣Z義核心詞包括右邊上的方位詞或固定搭配右邊界上的詞和中間短語的語義核心詞。如“在/水房/里”語義核心詞是“水房里”。

3.3 框架元素語義核心詞的形式化定義

由于時間短語tp和數量性短語mp代表精確的事物，所以整個短語都是核心詞。這樣，本文只研究np, vp, pp, sp, ap和dp這六種短語型框架元素語義核心詞的提取技術。根據3.2節給出的框架元素語義核心詞說明，我們在此對框架元素語義核心詞具體地形式化定義如下。

1) 由基本短語塊構成的框架元素語義核心詞

(1) 名詞短語框架元素

定中結構x+“的”+n：取“的”后面的名詞；并列結構n+{n}* +[c]+n：除連詞外的所有名詞；c是如“和，與，同”等連詞；同位結構n+n/r或r+m/n/r：當名詞和代詞組合在一起時，取名詞為核心詞，如果其他詞與代詞組合在一起則取代詞為核心詞；鏈式結構n+n+...+n：取最后一個名詞；準名詞性短語n+“們”：只提取前面的名詞。

(2) 動詞短語框架元素

述賓結構v+x：取動詞和后面賓語核心詞；述補結構v+pp，v+“得”+a/v：之取動詞；狀中結構dp/pp/tp/sp+v：只取后面的動詞；連動結構v+v：同時提取兩個動詞；重疊式v +“了”+v/v +“一”+v：提取第一個動詞；附加結構v +“了、著、過”：提取其中的動詞。

(3) 形容詞短語框架元素

狀中結構d/dp+a/ap:提取后面的形容詞；述賓結構，提取前面的形容詞和后面的賓語；并列結構a+{a}* [+c+a]：按順序提取所有并列的形容詞；附加結構a+“著，了，過”：提取前面的一個形容詞；重疊結構abab：只提前面的第一個重疊成分；述補結構，只提取形容詞而不提取補語部分。

(4) 介詞短語框架元素

介詞短語分兩種情況：對于p+n /r和p+vp，提取介詞后面的名詞或代詞或短語的核心詞，對于結構p+np+f(方位詞)/比較詞，提取方位詞和中間短語的核心詞。

(5) 處所短語框架元素

定中結構d+f/ n+s：提取后面的方位詞或處所詞；方位結構n /r/np+f：提取前面的名詞或代詞或名詞短語的核心詞和后面的方位詞。

(6) 副詞短語框架元素

“地”字結構ap/mp/vp +“地”：省略“地”；狀中結構d+d/r：提取后面的d/r；并列結構dp+{dp}* [+c+dp]：提取連詞以外的短語核心詞。

2) 由復合短語塊構成的框架元素語義核心詞

復合型短語的框架元素核心詞是：先以短語中的動詞、介詞和某些助詞和方位詞把短語分割成基本短語，然后提取每個基本短語的核心詞，最后按原來順序組合成整個復合型短語的核心詞匯。這個策略的出發點是：被動詞分割開的部分相互獨立，沒有依存和被依存的關系[12]。

對于諸如復合名詞短語的定中結構xp +“的”+n/np以及并列結構np+{np}*+c+np，比較直觀，不再討論。主要討論如下兩種情況：

(1) 連動短語：連謂結構v/vp +vp以及并列結構vp+{vp}* [+c+vp]：以其中的每個動詞為分割點，分成基本短語再運用1)中的方法識別，最后按順序組合起來。

(2) 復合介詞短語, p+np/sp/tp：提取介詞后面基本短語的核心詞；復合動詞短語, v+np/sp/tp：提取動詞和后面基本短語的核心詞。

(3) 框式結構，p+np/sp/tp+f/s/t：分三部分，分別提取介詞p、中間短語的核心詞和后面的方位詞或時間詞。

其他復合類型短語的分割方法與此相似，不再贅述。

4 多詞塊與框架元素

漢語多詞塊(MWC)[11]作為組塊體系的重要組成部分，是由兩個或兩個以上的詞語按照一定的關聯關系組合形成的信息描述單位。MWC是以名詞、動詞、形容詞等實詞為中心聚合形成具有特定語義內容的詞語序列。

MWC的主要特點是塊內部的各個詞語按照一定的句法關系聚合到一個句法語義中心詞上，可以通過這個中心詞體現整個多詞塊的外部功能。其描述核心是以下三種基本拓撲結構：左角中心結構(LCC)、右角中心結構(RCC)和鏈式關聯結構(CHC)[11]。這三種結構又被細化為八種關系：ZX(右角中心結構)，LN(鏈式關聯結構)，LH(并列關系CHC)，PO(述賓關系LCC)，SB(述補關系LCC)，AD(附加關系LCC)，JB(介賓關系LCC)，CD(重疊關系)。

對于每個多詞塊使用了三個塊標記：句法標記、關系標記和序列標記組合。如：在多詞塊“[vp-AD-HI 作出/v 了/u ]”中，句法標記是vp，關系標記是AD，序列標記組合是HI。vp體現了MWC的外部句法功能是動詞短語，AD體現了MWC的內部詞匯關聯是附加結構，HI是序列標記，它與塊內每個詞建立起一一對應的關系，能更具體、詳細地體現出三種重要的基本拓撲結構。

4.1 多詞塊與框架元素的關系

框架元素本質上是語義塊，并且這些語義塊是與框架語義學和具體的框架相關的?？蚣茉馗嗟念愃朴谥軓娞岢龅墓δ軌K概念[13]，但是還不完全一樣，因為框架元素的本質是語義描述單元，而功能塊是從句法的角度定義的語法描述單位?？蚣茉睾凸δ軌K的相同之處在于都是由一個或多個多詞塊構成的語言描述單元。

在CFN標注中，框架元素的短語類型是廣義的，既指由兩個或兩個以上詞語組成的結構，也包括由一個詞語構成的句法單位。多詞塊的句法標記也沒有嚴格的定義，它也是一種廣義上的句法結構，所以從句法標記上講，框架元素和多詞塊是一致的。

4.2 多詞塊對提取框架元素語義核心成分的作用

當一個框架元素標注了詞性和短語類型后，我們能夠知道它的整體語法結構和內部各個詞的獨立語言信息，但是不知道內部各個詞之間的依存關系。多詞塊的關系標注給出了這個短語結構整體的依存特性，序列標注具體給出了內部各個成分在這個依存結構中所承擔的角色[14]。要找到一個框架元素中的核心詞本質上就是要分析這個短語的語義依存關系，同時充分考慮不同詞對理解這個短語語義的重要性，從而提取非修飾性的詞匯。

4.3 框架元素的多詞塊標注策略

對CFN語料庫統計表明，長度在1～3的框架元素占71.64%，長度在1～5的占85.38%。而在清華大學的多詞塊語料庫中，多詞塊長度為1～3的占91.87%，長度為1～5的占98.47%。從上面看出，CFN中框架元素比普通的多詞塊普遍要長。經過對比分析發現，一個框架元素可以包含一個或多個多詞塊。

為了解決一個框架元素含有多個多詞塊的標注問題，我們可以先對這些框架元素識別出其中的每個多詞塊，然后對每個單獨的多詞塊進行關系標注和序列標注，并提取其核心詞，最后按先后順序組合起來。但是這樣會增加算法的復雜性，更重要的是，多詞塊的識別效率并不是很高，會降低整個系統的性能。我們采用典型邊界詞把框架元素“打散”為類多詞塊的策略，來代替在框架元素內部自動識別多詞塊。具體策略是：對于復合名詞短語的框架元素，以“的”、并列連詞和頓號等表示并列結構的標點符號為分割，把復合短語型框架元素分割成簡單的短語；對于復合動詞和介詞短語，以動詞和介詞為標志分割成基本短語片段；對于處所短語，以介詞和后面的方位詞為界進行分割成基本片段。然后對分割出來的每個基本短語進行多詞塊標注。

5 基于多詞塊標注的框架元素語義核心詞提取規則

下面給出以關系標記為類別并結合3.3節中的形式化定義，在多詞塊序列標注基礎上提取不同短語型框架元素語義核心詞的規則集。

1) 一般規則

(1) ZX：包括np的定中結構，vp的狀中結構，sp的定中結構，ap的狀中結構，dp的狀中結構。提取序列標記中的R。

(2) LN：包括np的鏈式結構，sp的方位結構。提取標記為H的詞，當序列中無H時提取所有標記為J的詞。

(3) LH：包括np的并列結構，np的同位結構，vp的連動結構，ap的并列結構，dp的并列結構。按順序提取所有標記為J的詞。

(4) PO：包括vp的述賓結構，ap的述賓結構。①如果有兩個或兩個以上動詞，則以每個動詞為界對整個短語對于進行分割處理：除動詞之外的每個成分依賴于它前面的一個動詞，如果前面沒有動詞則依賴于它后面的動詞；②動詞后面有以序列標記I分割的O序列時，只考慮I后面的O序列；③當有兩個或兩個以上連續的O時，則先識別最后一個O的詞性是否為“f/s/t/q”之一，如果是則提取最后的兩個標記為O的詞，否則只提取最后一個標記為O的詞；④當沒有O時，提取標記為H和J的詞。

(5) SB：包括vp的述補結構，ap的述補結構。提取第一個序列標記為P的詞。

(6) AD：包括準名詞性短語，dp的“地”結構，ap的“的”結構，vp和ap的附加結構。只提取標記為H的詞。

(7) JB：包括pp的介賓結構。提取規則與PO類似，唯一不同的是介詞不進入核心詞集內。

(8) CD：包括vp和ap的重疊結構。如果里面含有諸如“不，了，一”的重疊結構，提取這些詞前面的詞；否則提取除I和M的所有實詞，然后刪除里面重復的詞。

2) 不同短語類型不相容的特殊規則

(1) 在任何短語型的序列標記中出現的S都要提取，因為它是從句的主語。

(2) 對于處所短語，如果關系標記為ZX, 并且序列標記為R的詞的詞性為f或s, 則提取標記為R和R前面離R最近的且序列標記不是I的一個詞。

(3) 對于處所短語，如果關系標記為LN，提取序列標記為H和K的詞。

(4) 在PO和JB中，如果標記為I的詞是諸如“和，與，或，連同，及其”等表示并列性質的詞，則當作P處理，因為這樣就可防止在并列性質的賓語中只抽取最后的并列成分。

(5) 如果附加結構AD中沒有H, 則提取除I之外的其他成分。

6 實驗及結果分析

6.1 實驗方案及評價體系

本文的實驗語料來自于山西大學CFN句子庫。對6 771個框架元素按2∶1分成兩部分：第一部分為規則抽取集，第二部分為規則測試集。對規則抽取集，先對每個框架元素人工標注多詞塊的關系標記和序列標記，然后根據3.3節中的形式化定義總結出如第5章的規則集，并對規則進行一致性校對。對規則測試集，先直接人工標注語義核心詞，并存放在文件1中；然后對這些語料(未標注核心詞)人工標注多詞塊的關系標記和序列標記，并運用從規則抽取集中總結出的規則提取語義核心詞，把它們存在文件2中。最后通過對比文件1和文件2中每對框架元素對應的核心詞，從而統計規則集的正確率和覆蓋率。

我們采用正確率和覆蓋率來對結果進行評測?？紤]到本文的特殊性，傳統的正確率不能細致地對實驗做出評價，所以本文給出了一種改進的正確率計算方法。

設一個框架元素中所有的詞組成集合M, 大小為m；它的語義核心詞組成集合K,大小為n；在多詞塊基礎上提取到的語義核心詞組成集合T，大小為t，其中含有集合K中的k個詞，那么規則集對這個框架元素的語義核心詞提取正確率為：

這個公式的直觀解釋是，正確率意味著提取到正確的核心詞的個數占全部正確的核心詞的比例，即k/n,但是在最終提取的核心詞中，雖然正確的核心詞都是k個，如果提取到的錯誤的核心詞(t-k)越大則說明性能越不好，所以在上面的公式中加了一個懲罰，即-(t-k)/t.

有意思的是，我們發現這個正確率其實是傳統的正確率和召回率的算術平均。

其中l為測試集中屬于該類別的框架元素個數。

6.2 實驗結果及分析

6.2.1 實驗結果

實驗結果由表1～表3示出。

表1 不同關系標記的短語型框架元素實驗結果

表2 不同短語類型的框架元素實驗結果

表3 相同短語類型的不同長度實驗結果對比

6.2.2 結果分析

從實驗結果我們看到，名詞短語的框架元素和副詞及形容詞短語的準確率比較高。其主要原因是：名詞短語的框架元素比較規則，從表3看出，長度的影響不大；副詞和形容詞短語的框架元素大多數是由兩個詞構成的，并且以附加結構居多，從表2中看到，附加結構的正確率也是比較高的。

動詞和介詞短語框架元素，特別是長度大于5的動詞和介詞短語框架元素，許多含有兩個或兩個以上動詞或介詞，并且作賓語的短語結構較為復雜，從而降低了正確率。雖然針對這種情況，我們采取了如4.3節中所述的打散處理策略，但是由于打散過程中并不一定會分割正確；并且對框架元素進行打散處理之后，分割出的基本短語的短語類型識別又會造成一定的錯誤積累。

6.2.3 錯誤分析

在以上的四種錯誤見表4中，除前面的兩種人工標注錯誤外，主要錯誤來源有兩個：一是本文所定的規則對某些特殊的短語是無效的，即雖然有所考慮到了，但是對這些特殊情況不能完全適用。這種情況主要來自于動詞和介詞短語框架元素。第二是一些特殊的語言現象沒考慮到，從而造成的規則缺失。例如：類似于“np-obj-ZX-MJIMJMMR 公益/n 林業/n 和/c 商品/n 林業/n 兩/m 大/a 類/n ”的框架元素,如果按ZX的規則，則核心詞為標記為R的“類”,但事實上語義上的核心應該為標記J的“林業”。所以諸如“……類”、“……方面”等偏正結構的名詞性短語，提取的是“類”、“方面”等詞前面成分的核心詞。

表4 錯誤分類統計

7 結語

本文立足于框架核心依存圖，在研究了短語型框架元素的結構及其語義核心詞的基礎上，利用多詞塊標注體系對短語型框架元素人工進行序列標注和關系標注，從而建立了一套根據短語的多詞塊序列標注提取框架元素核心詞的規則體系。最后通過實驗初步驗證了通過多詞塊標注提取短語核心詞的可行性和有效性。

根據本文中出現的問題，下一步將重點展開以下方面的研究：一是如果對多詞進行自動標注，然后提取框架元素核心詞，效果會如何。二是根據一些特殊的長短語，探索它們的打散處理策略，以期制定出更加有效的復合短語框架元素的分割方法。三是研究怎樣讓機器自動地從多詞塊標注的基礎上學習到本文所給出的規則集及其擴展集， 從而實現框架元素的自動識別，克服規則缺失問題。由于框架元素的語義角色和句法功能對核心詞提取應該有一定的啟示作用，所以最后將嘗試避開多詞塊標注，運用CRF模型直接進行短語型框架元素核心詞自動識別的研究。

[1] 吳云芳. 并列成分中心語語義相似性考察[J]. 當代語言學, 2005, 7(4)：305-315.

[2] 周強, 俞士汶. 漢語短語標注標記集的確定[J]. 中文信息學報, 1996, 10(4)：1-11.

[3] 趙軍, 黃昌寧. 漢語基本名詞短語結構分析模型[J]. 計算機學報, 1999, 22(2)：141-146.

[4] 張昱琪, 周強. 漢語基本短語的自動識別[J]. 中文信息學報,2002,16(6)：1-8.

[5] 趙軍, 黃昌寧. 基于轉換的漢語基本名詞短語識別模型[J]. 中文信息學報, 1998, 12(2)：1- 8.

[6] 周雅倩, 郭以昆, 黃萱菁, 吳立德. 基于最大熵方法的中英文基本名詞短語識別[J]. 計算機研究與發展, 2003, 40(3)：440-446.

[7] 干俊偉, 黃德根. 漢語介詞短語的自動識別[J]. 中文信息學報, 2005, 19(4)：17-23.

[8] 郝曉燕, 劉偉, 李茹, 劉開瑛. 漢語框架語義知識庫及軟件描述體系[J]. 中文信息學報, 2007, 21(5)：96-100.

[9] Charles J. Fillmore, Josef Ruppenhofer, Collin F. 框架網絡與語義、句法聯系的表征[M].俞士汶, 黃居仁. 計算語言學前瞻. 北京：商務印書館，2005: 21-74.

[10] Carl Pollard and Ivan A. Sag. Head-Driven Phrase Structure Grammar[M]. Chicago: University of Chicago Press, 1994.

[11] 周強. 漢語基本塊描述體系[J]. 中文信息學報, 2007, 21(3): 21-27.

[12] 劉海濤. 依存語法和機器翻譯[J]. 語言文字應用,1997, 3：89-93.

[13] 周強，趙穎澤. 漢語功能塊自動分析[J]. 中文信息學報, 2007, 21(5)：18-24.

[14] 黨政法, 周強. 短語樹到依存樹的自動轉換研究[J]. 中文信息學報, 2005, 19(3)：21-27.