關於自然語言理解的理解

Artvine

周錫令 撰(北京信息工程學院)
關於自然語言理解的理解
《語言文字應用》，1997/04，80～105頁
-----------

【內容提要】
人們在寫文章、特別是在說話的時候，往往不大尊重教科書上的語法規則，而只求對雙方共有的知識給出某種提示。此時，對方在理解時的過程頗類似於“猜謎”。因此：在開發與漢語理解有關的軟件時，我們必須分別對待說話人的兩種不同說話方式：（1）對於對方已有知識的某種提示。（2）向對方傳遞知識（講故事）。只有在後一種方式中，語法才是重要的。這又意味著，語言學家在制訂描述性語法系統的時候，沒有必要去企圖囊括生活中出現的全部語言現象。

　　自從去年讀了朱德熙教授寫的小冊子《語法答問》，這才知道我對漢語語法一竅不通。不管是講了幾十年的母語卻依然對自己的母語語法茫然而覺得慚愧，還是雖然不懂語法卻並不妨礙自己講漢語甚至寫文章而感到驕傲，對我們普通人來說，我們是怎樣學會說話和聽懂別人講話的，依然是一個很大的謎。

　　語言學家和計算語言學家對這個問題的研究已很精深。和他們相比，我們只能靠直覺來捉摸這個問題。借用《君王論》的作者在解釋他身為一個普通臣民卻來寫“應該怎樣當皇帝”的書並非僭越時所用的話：“風景畫家如想描繪山嶺與高地，他們就得置身於卑谷。”卑谷中普通人的直覺有時說不定也能觸發專家們的一兩點靈感。這就是寫這篇短文的目的。

1‧人們相互交流時使用的“多層信息結構”

　　人們在生活中不斷積累對周圍客觀世界以及對自己內心世界的認識的同時，也力圖把這些認識反映到符號系統中。包括自然語言在內的符號系統的威力與影響是如此強大和無所不在，以致於人們有時候會陷於“執迷於文字語言，反而打消自家性靈”的錯誤。按禪師們的說法，就是“落入言筌”。（“言筌”者，語言的籠子也。）反映在自然語言理解的研究方面，我們是不是有時也過分強調了語言在人與人之間溝通過程中的地位，忘記了交流雙方的共同的知識基礎也十分重要，甚至是更本質的一種因素。

　　支持以上猜想的第一個證據是：除了人類以外，動物界中不存在像人類自然語言這樣複雜的符號系統，可是動物與動物之間顯然是可以交流溝通的。這就說明，語言在生物體交流溝通中起的是“錦上添花”的作用。

　　證據之二是：外國專家來華作報告時，英語語言水平很高的外語專業畢業生的口譯效果往往不如外語水平雖低但對專業十分熟悉的專業技術人員。

　　人們交流（說話，寫文章）的目的是什麼？答曰：是為了傳遞信息。那麼傳遞信息的目的又是什麼？按信息論的觀點是為了減少“不確定性”。舉例來說，一位家住北京的朋友要告訴我他的電話號碼：在他說話以前，從00000000到99999999範圍內這近一億個號碼對我來說都有可能是他的電話號碼。他每說出一位數字，這一不確定性便減少一個數量級。等到八位數字都說完，不確定性就消失了。

　　信息接受者在加工對方發出的的字句流以期減少信息的不確定性時，實際上並不是完全依賴字句流，而是往往同時考察了以語言為中心的“多層信息結構”。這種“多層信息結構”可以大致表述如下：

層次　　　　　語　　音　　　　　　　　文　　章
1　　　 當前語句中的語音流　　　當前語句中的文字流
2　　　 上文（以前說過的話）　　　上下文
3　　　 腔調，重音，音隔　　　　　文章格式，插圖
4　　　 口形，表情，姿態，手勢　　 文章體例（敬體），
用詞色彩
5　　　 情景（對話者周圍環境）　　發表文章的書刊，日期
6　　　 社會歷史背景　　　　　　社會歷史背景

　　一些典型的例子如：

（1）
當前語句中如果使用了代詞，接受者理解時就要用到層次2中的信息。
（2）
為了分辨對方說的是“＜乒乓球＞拍賣完了”還是“＜乒乓球拍＞賣完了”，接受者進行理解時就要用到層次3中的信息。
（3）
在閱讀英文教科書中“The boy saw a girl with a telescope‧”這句英文時，如果文字旁邊有插圖，就可以判斷到底是男孩還是女孩拿著望遠鏡，也要用到層次3中的信息。
（4）
聽到說“你真行！”，為了判斷對方到底是表揚還是挖苦，就要用到層次4中的信息。
（5）
當你在街上遠遠聽到有人嚷：“一塊一塊，一塊一塊”時，你多半弄不懂他的意思。待你走到他跟前，看見說話人前面的小桌上放著切開的西瓜，你馬上就明白他的意思是：“一塊（錢買）一塊（西瓜）”。括號中被他省略的字眼完全由層次5中的信息補足了。
（6）
聽到有人說：“雞不吃了”這四個字時，為了判斷到底是雞不吃東西還是人不吃雞，就要用到層次5（周圍環境是養雞場還是餐館）中的信息。
（7）
如果上述那位北京的朋友在告訴電話號碼時只說了後七位數，從理論上說，可能作為他的真正電話號碼的數字仍有十種。可是由於我知道北京電話升到八位的時間還不久，而且一般家用電話升位的規則是前面加6。就這樣，我利用層次6中的信息消除了剩下的不確定性。
（8）
在大街上看到“電腦培訓”字樣，為了知道這指的是“計算機操作使用訓練”而不是“計算機輔助教學”，就要對當前社會上“會使用計算機的人好找工作”的情況有所了解。（層次6的知識）

2‧共同的知識是自然語言理解的重要基礎

　　設想如下情景：一個幼兒玩弄燭火被燙傷了手指，他大約會舉著手指說“痛”“火”這兩個字。這兩個字不成句，兩個字之間似乎也沒有什麼語法關係，但是對於他的父母來說已經足夠了，一切都已了然。漢語中十分古怪的雙字詞“救火”的來源恐怕也是如此：首先是呼籲搶救生命財產，其次是要說明原因：起火了。“救”和“火”原本應該是彼此分離的兩個字，兩者之間並沒有把這兩個字連讀時的語序所指示的那種語法關係。如果真要按一般的語法關係去理解，那就不是要去撲滅火，而是要添柴潑油免得火熄滅了。

　　以上例子說明：如果“語境”提供的信息強烈、鮮明，交談時只要補充一兩個“關鍵字眼”就足夠了。而且它們之間的次序也不怎麼重要。

　　如果要交流的信息比較複雜，可能就無法僅用少數幾個“關鍵字眼”來表達。但是若交談的雙方都具有有關的共同知識，那往往就可以通過“對相關知識的引用”來傳達信息。

　　當前暢銷書《數字化生存》的作者在該書中舉了一個例子：幾位朋友聚會，當談話中提到某一話題時，由於他和他太太之間對於這件事有某種共同的知識，他只用一個比特（眨一下眼睛）就達到了“相視一笑，莫逆於心”的目的。其中所傳遞的信息如果要傳遞給另外一個沒有這種共同知識的人，可能要花費十萬比特才行。這個例子說明：當“語境”給談話雙方明顯地暗示了雙方共同熟知的某一主題或者故事時，一個比特就能傳遞十分複雜的信息內容。在日常生活中，我們所說的“默契”“遞一個眼色”“用眼睛說話”都屬於這一類情況。

　　要是“語境”未能向對方直接提示一個具體的故事，那仍然可以以某種編碼的形式來“引用”對方腦海中已有的故事情節。《數字化生存》一書的作者緊接著上例說：“有對夫婦把數百個笑話記得滾瓜爛熟，因此只需提到笑話的編號，彼此就能心領神會。寥寥幾個數碼就會喚醒他們對整個故事的回憶，使他們大笑不止。”其實，這種做法在漢語裏真是司空見慣，那就是成語的使用，只不過我們不是利用“數碼”而是利用幾個（在大多數情況下是四個）漢字作成的“字符編碼”罷了。除了“成語”之外，家喻戶曉的詩詞、古文中的膾炙人口的名句都可以起類似的作用。喜歡用典故的古人對這種方式更是樂此不疲。

　　雖然古代形成的“成語”已經相對固定，但當今社會卻大量地產生與古代成語類似的“現代縮略語”，諸如宣傳精神文明的“五講四美”、市容整頓中的“退路進廳”之類。這些縮略語雖然壽命有限，但其使用頻率在一段時期卻非常之高。如果真想用計算機處理自然漢語，對這種語言現象顯然不能置之不理。看起來我們需要在計算機中安裝一個允許用戶自己動態裝填新出現的縮略語的設施，就好比KV300防病毒軟件允許用戶自行升級，以對付時時刻刻會出現的新病毒一樣。

　　如果事情更複雜一點，需要傳遞更加複雜的思想，那就意味著要將“知識”由一方傳遞給另一方，這時就真正需要“講故事”了。“知識”通常表述了客觀世界中存在的事物（對象、實體）以及事物與事物之間的關係，它們呈現出各種複雜的結構。這種結構必須以某種方式映射到語言中的字詞流中。這轉而又意昧著語言中必須含有某種雙方都同意以特定方式去理解的結構。這時，“語法”的作用和必要性就
開始顯現出來了。

3‧慣用句型

　　不少人有這樣的經驗：從小學，經過中學、大學，學習了十幾年的英文，課堂上天天分析文法，最後可以看看專業書籍，但說不出，聽不懂。後來學了《英語900句》，聽說能力就進展快多了。《英語900句》這本書裏基本上不講語法，或者把語法材料放在非常次要的地位。它只是讓你反覆作Pattern Drill（句型練習）。小孩子學說話也從來不專門去學習什麼語法，他只是聽大人講話，一句一句地記住各種句型以及適合使用這種句型的場合。以後遇到類似情景，就拿出來用，常常令做父母的驚奇不已。聽話和說話的時候，在時間上根本不允許你做什麼語法分析和綜合。在噪音嘈雜的地方，你只要斷斷續續聽見幾個關鍵字，利用慣用句型匹配法和外層的信息，你往往也能理解對方。

　　依賴“語法分析”的手段來進行理解的辦法主要用於閱讀結構複雜的長句子。反過來說，在說話時，由於時間上不允許做這樣的語法分析，你就聽不到複雜的長句。

4‧語法

　　“語法”是一個叫人想不大清楚的問題。語法是怎麼產生的，它的本質到底是什麼？為什麼學習母語時不用去讀語法教科書，而在學外語時卻要？在自然語言沉重而緩慢的進化過程中，儘管各種新的詞匯和語法現象不斷地產生，淘汰篩選的規則似乎只有一條：不妨礙交流，保持信息傳遞過程中有一定的確定性和簡潔性就可以了。正因為如此，語法規則總是人為的、後加上去的東西，是一種事後的歸納。那裏面總是存在許多例外。於是，不同的學者很可能歸納出不同的理論來。在當今漢語語法的種種概念主要存在於學術界中，絕大多數普通人基本上沒有這方面的概念。在這樣的情況下，我們可以認為：其間的優劣可以用“誰的理論更能符合大多數實際存在的語法現象，最有規律性和簡明易記，例外的情況最少，誰的理論就最好”來判斷。然而語法規則的制訂仍舊有它的積極意義。規則一旦制訂出來，並且通過教育工作獲得社會的承認，就有助於表達、交流複雜的思想。而且，一旦某種語法理論得到了大多數人的承認，尤其是得到
官方主管教育和語言文字部門的認可和強有力的支持，這種理論就會取得正統的地位，反過來制約語言進化中的的無序性，形成一種良性的循環機制。

　　不少人探討過：與其他語言相比較，漢語有什麼特點。公認的說法之一就是“漢語缺乏形態變化”。從我們普通人的觀點看，這意味著漢語在“多層信息結構”的第一第二層中放進了較多的，允許通過外層信息來加以修改的不確定性。“雞不吃了”這句話中的“吃”可以是主動式動詞，也可以是被動式動詞。如果講這話的地點是在養雞場，它就被限定為主動式動詞；如果講這話的地點是在餐桌上，它就被限定為被動式動詞，或者像上面所說的把這四個字看成“雞”和“不吃了”兩個離散意群。這種做法在英語，俄語，日語裏都是不允許的，在漢語裏就可以。這種特點是好還是不好
呢？

　　如果說它好，我們就說漢語是高度靈活的，並且是簡明的。依靠“多層信息結構”的外層信息，可以使話說得言簡意賅。反之，如果要把信息全部集中到“多層信息結構”中的第一、第二層，話就要說得比較囉嗦。當我們閱讀法律條文、飛機票扉頁上的合同條款這類不論在何種場合都期望只能有一種準確的理解的文字時，總會覺得很費勁。這大概也是中國人學習俄語或日語時，常常覺得這些外國話很囉嗦的原因。如果說它不好，那就是魯迅在他的雜文中多次提到漢語的不嚴密性。靈活性和不嚴密性是一件事物的兩面。朱德熙先生的語法體系中有兩個特點。一是“特別強調形式的作用”，重視“結構上的平行性”，二是“以詞組為本位”。第一個特點和普通人相通。我想，講漢語的人中，百分之九十九的人沒有“主謂結構”“偏正結構”“連動式”之類的概念，他們只是憑“語感”，而“結構上的平行性”正是語感的來源。至於第二個特點，熟悉遞歸下降法的軟件人員大概是最喜歡不過的了。

5‧使用自然語言的兩種方式

　　由此可見，人與人之間溝通時使用語言的方式可以分為兩種。一種是主要依賴於語境和會話雙方的共同知識背景，語言中的字句只起“畫龍點睛”的作用。在這種方式裏，語法往往得不到尊重，語義甚至可以逆語法規則而行。“救火”和“恢復疲勞”就是這種語言的典型例子。另一種方式中，語境和雙方的共同知識背景退居次要地位，信息主要依靠具有比較嚴格語法結構的字句流來傳達。當然，兩者之間的界限不是截然的，人們在使用語言的時候，兩種方式有時是混合交織在一起的。

　　可是，這樣的劃分還是有益處的。首先是因為人們理解這兩種語言成分時使用的機制不同。理解前一種成分的機制類似於“猜謎”，而理解後一種成分的機制則主要依靠“分析”。在過去若干年裏，計算語言學界主要集中力量研究語法在其中起主導作用的後一種語言成分。其理由是容易理解的。因為這一種語言成分有規律，值得研究，有搞頭，而且所有的人工語言也都完全屬於這一類。但若忽略了以“猜謎”為基本特點的第一種成分，或者不分彼此地把研究第二種語言成分的方法和工具擴張到第一種語言成分，企圖形成一個囊括全部語言現象的語法，那樣做就太被動了。

6‧模糊性的追求

　　以上講到的“離散意群”表達方式有點和計算機程序中的“參數傳遞”方式相近。成語和典故的使用就相當於“對象引用”（Reference of Object）了。其實還可以有其他的類比。使用計算機的人都熟悉“*”和“？”這樣的通配符。在自然語言中也有類似現象。例如，在文化素養高的人群裏，也有類似的語言現象：電視劇裏的老朋友中的一方於一忍再忍之後不得不對另一方所說的臺詞：“你要再這樣下去，我就’甚麼’了”是為了緩和口吻的威脅性。《東方之子》節目裏接受採訪的人物在聽到採訪記者的讚揚之後，面對麥克風回答說：“我當然要盡力把我的作品搞得‘甚麼’一點”。回答者如此謙虛，連“好’字都不願意直接說出來。這樣的說話方式好比圖像處理中的柔化（blur）處理，有意增加了語言的模糊性。

　　的確，在許多場合，人們會鄭重其事地期望所用的語言傳遞帶有不確定性的信息。在生活中有時會聽到一些帶有弦外之音的話，即是典型的例子。

　　在考慮自然語言的計算機處理問題時，至少在目前，我們追求的還是“不確定性”越少越好。在當前技術水平下，很顯然最多只能讓計算機去處理第一第二層次中的信息。這就意味著：信息源（不管它是人還是另一臺計算機）應該儘可能把有用（非冗餘）信息集中在第一、二層，最好全部集中在第一層。如若不然，由於計算機收不到更外層中的信息，不確切性便不能全部消除。舉例來說，如果讓計算機進行機器翻譯，只給它一句英文句子：”The boy saw a girl with a telescope‧”而不帶其他信息，那麼正確的譯文應該是兩句：“那男孩看見了一個帶著望遠鏡的女孩。”“那男孩通過望遠鏡看見了一個女孩。”以保證原文和譯文都帶有同樣的
不確切性。

　　所以，在討論“面向計算機的受限漢語”時，僅僅依靠寫作工具是不夠的。寫作者在自己的心目中必須有明確的“我現在的寫作對像是計算機”這樣一種概念。這正好像雖然有了C＋這類面向對象的編程語言，如果寫程序的人心目中沒有面向對象的風格，還是寫不出具有OO風格的程序一樣。

7‧我們應該在怎樣的自然語言級別上和計算機溝通

　　從事人工智能研究工作的專家多年以來一直在把各種專業領域裏面的知識往計算機裏面裝。可是近年來他們發現，要真正發揮專家系統的作用，擴大其應用領域，起限製作用的因素往往並不是計算機擁有的專業知識不夠，而是計算機缺乏常識。而讓計算機擁有常識，並能加以運用，卻不是一件容易的事情。

　　從事自然語言理解工作的計算語言學專家們是否也遇到了類似的情況？以“離散意群”“成語、典故引用”“通配詞”“歧義性追求”以及部分的“句型匹配法”為特徵的第一種語言成分看起來沒有以“具有嚴密緊湊語法”為特徵的第二種語言成分那麼“有深度”，可是要理解它必須“擁有知識”，並能把收到的字句與所擁有的知識緊密結合起來完成“猜謎”過程。這好比把已有的知識和新收到的字句形成一組邊界條件，計算機必須通過某種過程尋求滿足所有邊界條件的解。這一工作也許更難，更具有人工智能的特點。

　　我們應該採取甚麼樣的步驟來推進計算機的自然語言處理工作呢？首先要接受的一個觀點是“受限”。既然每個人的接受能力無論從詞匯量、專業知識、生活常識那一方面來說都是有局限性的，對計算機的要求更應該有一個範圍，並且要儘量排除語義對通話雙方所處環境的依賴性。

　　其次，要去掉“人為地添加模糊性”的要求。

　　由於現今我們研究的漢語語法基本上是“描述性語法”，我們在制訂漢語語法規則的時候，應該只在語言的第二種成分的範圍之內進行研究總結。否則，我們制訂出來的規則將會是互相抵觸，矛盾重重，難以自拔。

　　既然共同的知識背景是交流溝通的重要基礎，那麼我們在設計面向計算機的受限漢語之前，就應該先規定好能夠和我們對話的計算機系統所具有的知識水平。一個顯然需要但不那麼容易達到目標是：

　　──認識三千左右最常用的漢字
　　──認識按某種標準所規定的漢語詞庫中所包含的常用詞
　　──漢語成語小詞典中的部分內容
　　──有一個供用戶動態增添“流行縮寫詞”的庫設施
　　──掌握常用“漢語句型？00種”並具有相應的匹配識別能力
　　──小學畢業程度的自然科學與社會科學常識
　　──一般城市人口的生活常識

　　為計算機系統裝備這些知識顯然不是輕而易舉的事。費這麼大的功夫當然是為了要它替我們幹活。因此，這一計算機系統還應該具有“應用”以上知識的知識。舉例來說，如果是為了讓這一臺計算機把我們所寫的受限漢語翻譯成英文送上Internet，那麼它還應該擁有相應的翻譯能力。

Artvine

難得有空寫寫心得，在如此悠閒春日的午後，聽聽情歌，看看窗外的水，面對遠邊的高山深呼吸，在藤花垂下的光影擺盪間，想想紫式部那時怎麼寫出文學作品。
這幾天在克服(大陸叫攻關?)繁簡轉換的第四層校對(句中文字的重覆切分)；也就是如：
If
“谷子”(GB)→“穀子”(Big5)
“鬼谷子”(GB)→“鬼穀子”(Big5)→“鬼谷子”(Big5)
ex.“鬼谷子書中說的谷子、谷倉與谷城....”(GB)
→“鬼谷子書中說的穀子、穀倉與谷城....”(Big5)

目前已經達成80%了，如果成功，當然要把自己灌醉。
如果用C(+/++/Turbo/Delph/Java..)也可以作到，但它們是用:
谷子│穀子│谷子來重覆運算；也就是說，這種作法是Run一次校正一次，如果Run三次以上，資源消耗太大；也不能解析重覆切分(如上例句)
(目前一般軟體只作到第二層校對，這也是錯誤達>%15的原因之一)

我的作法是在該校正的詞間作好文字的多重切分(根據語意、數詞....一次運算決定)，然後只Run一次，測試結果沒慢！
這一關過了之後，中國古文的切分與轉換可以解決了↓
A.
所有固定(Solid)詞(如：“余生也有涯...”(余/餘?)→Norms
用窮舉法(約120000句)列出所有可能造成歧異的句型，不管多少字，可校正到99.99999(所以需要多領域的朋友挑錯)，速度只慢0.002秒。
B.
餘下的就是無能為力的死句了，當我們校正所有的可能後，無法計算死句前後所有的Context(A+這只船到上海+B)，A與B是無限大。

xychy

此文作者知识渊博，对汉语的特点说得很精辟。只是因为讀了朱德熙教授寫的小冊子《語法答問》，随声附和地说汉语没有形态，却是犯了现有语言学家的通病。
      其实，汉语有自己独特的形态体系，只是我们的语言学家没有注意罢了。
      至于为了计算机理解的需要，而要设计什么面向计算机的受限汉语则是完全没有必要的。只要有完整、完善的语义推导（即语义推理）规则，和适当的知识库也就完全可以解决问题。

Artvine

到了傍晚，沒酒喝了，又不敢到便利店跟老闆賒酒，只好打電話給湘里妹版主，讓她奚落一番，想想醬的人生真是有夠悲慘。只好寫寫字囉。

下午已經把繁簡轉換的第四層校對做出來(詞間重覆切分)了，所以我該不該把自己灌醉呢？用素樸的程式語言，寫出一樣的功能，就好像一個小男孩，用最誠摯的愛情，獻給鄰家的女孩；只是證明，醬也可以。

引用此文自有我的寓意。看了許多AI/NLP的文獻，發現有許多是名詞的無法定義，記得在攻讀傳播學位的時候，在Verb Communication(語文傳播)與
Non-verb Communication(非語文傳播)之間，也曾產生過某種困惑，這似乎是類似的例子。如果以傳播研究的角度，“理解”與“學習”都是很嚴重的字眼。這也是這幾天我用程式思考的問題。一直在思考，如何讓程式學習？
對了，在傳播研究的領域，M.I.T Media Lab.早已作了許多AI的研究↓
http://www.media.mit.edu/research/index.html

聽了一遍又一遍的情歌，發現跟自己沒什麼關係。收藏多年的唱片(LP/CD
)躺在牆壁上；最近忙著組音響，卻發現唯一的收穫是教小姪子燒CD。想起卡謬的“異鄉人”還是馬奎斯的“百年孤寂”，發現生活是如此不著邊際，沒有道理，然後沒有文學的細胞。

......待續

[ 本贴由 水電工 于 2004-4-15  20:06 最后编辑 ]

xychy

寂寞呵寂寞！
我一直在这个坛子上抛砖头，希望引来美玉。
美玉不可得兮惟有寂寞。。。。。。

柴禾妞

水電工 于 2004-4-15 11:05 PM 写道:
到了傍晚，沒酒喝了，又不敢到便利店跟老闆賒酒，只好打電話給湘里妹版主，讓她奚落一番，想想醬的人生真是有夠悲慘。只好寫寫字囉。

呵呵
妹子版主会“奚落”水電工君？
鬼才会相信！
想必是水电君又喝醉酒了吧:devil:

打个电话
引发悲伤
化悲痛为力量而写出这么多字来
嘿嘿------值:wink::wink::wink:

柴禾妞

xychy 于 2004-4-16 04:07 PM 写道:
寂寞呵寂寞！
我一直在这个坛子上抛砖头，希望引来美玉。
美玉不可得兮惟有寂寞。。。。。。

       不知何故，两个斑猪 ，都做无病呻吟状。:w00t:一个是酒鬼说自个儿伤悲，一个也不知是不是酒鬼说自个儿寂寞，真是两个可怜滴人儿哟！嘻嘻！:ninja:
       柴禾不才，很想安慰安慰xychy斑猪那颗寂寞的心，搜肠刮肚一时竟翻不出半个词儿来，只得借花献佛了：


卜算 子  咏  梅
      陆  游

驿外断桥边，
寂寞开无主。
已是黄昏独自愁，
更著风和雨。

无意苦争春，
一任群芳妒。
零落成泥碾作尘，
只有香如故。