• <nav id="4o4ew"><nav id="4o4ew"></nav></nav><dd id="4o4ew"></dd>
  • <menu id="4o4ew"><strong id="4o4ew"></strong></menu>
    <nav id="4o4ew"></nav><nav id="4o4ew"></nav>
    <nav id="4o4ew"></nav>

    咨詢熱線:021-80392549

     QQ在線  企業微信
     資訊 > AI挖掘技術 > 正文

    自然語言處理入門教程

    2020/05/25833

    自然語言處理入門教程

    自然語言處理(NLP)是計算機科學領域和人工智能領域中的一個分支,它與計算機和人類之間使用自然語言進行互動密切相關。NLP的最終目標是使計算機能夠像人類一樣理解語言。它是虛擬助手、語音識別、情感分析、自動文本摘要、機器翻譯等的驅動力。在這篇文章中,你將學習到自然語言處理的基礎知識,深入了解到它的一些技術,了解到NLP如何從深度學習的最新進展。

    1.簡介

    自然語言處理(NLP)是計算機科學、語言學和機器學習的交叉點,它關注計算機與人類之間使用自然語言中的溝通交流??傊?,NLP致力于讓計算機能夠理解和生成人類語言。NLP技術應用于多個領域,比如天貓精靈和Siri這樣的語音助手,還有機器翻譯和文本過濾等。機器學習是受NLP影響最深遠的領域之一,尤為突出的是深度學習技術。該領域分為以下三個部分:

    1.語音識別:將口語翻譯成文本。

    2.自然語言理解:計算機理解人類的能力。

    3.自然語言生成:計算機生成自然語言。

    2.為什么NLP很難

    人類語言有其特殊性。人類語言專門用于傳達講話者和寫作者的意思,即使小孩子能夠很快學會,它依然是一個復雜的系統。它的另一個顯著之處在于它完全與符號有關。Chris Manning(斯坦福教授)表示,它是一個離散的、象征性的、絕對的信號系統,這意味著人們可以通過使用不同的方式傳達相同的含義,比如演說,手勢,信號等。人類大腦對這些符號的編碼是持續的激活模式,在這個模式中,符號通過聲音和視覺的連續信號實現傳輸。

    由于其復雜性,理解人類語言被認為是一項艱巨的任務。例如,在句子中排列單詞有無數種不同的方法。此外,一個單詞可以有多種含義,并且正確解釋句子需要恰當的語境信息。每種語言或多或少都是獨特且含糊的。比如:“The Pope’s baby steps on gays”,這句話顯然有兩種截然不同的解釋,這是反映NLP中的困難之處的一個很好的例子。

    隨著計算機對語言的理解愈漸完美,將會產生可以處理互聯網上全部信息的人工智能(AI),繼而產生強人工智能(AGI)。

    3.句法和語義分析

    句法分析和語義分析是理解自然語言的兩種主要方法。語言是一組意義的語句,但是什么使語句有意義呢?實際上,你可以將有效性分為兩類:句法和語義。術語“句法”是指文本的語法結構,而術語“語義”是指由它表達的含義。但是,句法上正確的語句不必在語義上正確。只需看看下面的例子。語句“cow kow supremely”在語法上是有效的(主語-動詞-副詞),但沒有任何意義。

    句法分析:

    自然語言處理入門教程

    句法分析,也稱為語法分析或解析,是通過遵循正式語法規則來分析自然語言的過程。語法規則適用于單詞和詞組,而不是單個單詞。語法分析主要為文本分配語義結構。

    語義分析:

    我們理解他人的語言是一種無意識的過程,依賴于直覺和對語言本身的認識。因此,我們理解語言的方式很大程度上取決于意義和語境。計算機卻不能依賴上述方法,需要采用不同的途徑。 “語義”這個詞是一個語言術語,意思與意義或邏輯相近。

    因此,語義分析是理解單詞、符號和語句結構的含義和解釋的過程,這使計算機能夠以人類的方式理解部分涉及意義和語境的自然語言。為什么說只能部分理解呢?是因為語義分析是NLP中最棘手的部分之一,仍未完全解決。例如,語音識別技術已非常成熟,并且工作近乎完美,但仍然缺乏在自然語言理解(例如語義)中的熟練程度。手機基本上可以理解我們所說的內容,但通常無法用它做任何事情,因為它不了解其背后意義。

    4.理解文本的技巧

    下面我們將討論多種用于自然語言處理的現行技術。

    什么是解析?首先,讓我們看一下詞典釋義:

    解析—“將句子分解為其組成部分,并闡述各部分的句法角色?!?/span>

    實際上解釋的已經非常到位,但它可以更全面一些。解析是指計算機對句子的形式分析,其結果是一個解析樹,這個解析樹可以可視化地顯示句子成分之間的句法關系,用于進一步處理和理解。

    在下面你可以看到句子“The thief robbed the apartment”的解析樹,以及由它傳達的三種不同信息類型的描述。

    自然語言處理入門教程

    我先看單個單詞正上方的字母,它們用于顯示每個單詞的詞性(名詞-N,動詞-V和限定詞-DT)。我們再看解析樹中更高的層級,一些單詞進行層次分組組成短語。例如,“the thief”是一個名詞短語(NP),“robbed the apartment”是一個動詞短語(VP),這些短語一起形成一個句子(S),在樹中標記在更高的層級。

    這些短語以名詞為主體,包含一個或多個單詞,可能還包含描述性詞語、動詞或副詞,簡言之,就是把把名詞和與其相關的單詞組合在一起。

    從解析樹中還能看出,單詞的表述結構影響其在句中的語法關系。例如,在此結構中,“thief”是“robbed”的主語。

    結合結構來看,動詞“robbed”,上方標有“V”,更上一級標有“VP”;主語“thief”,上方標有N和“NP”,通過“S”聯系在一起。這就像主語—動詞關系的模板,同樣還有許多其他類型的關系。

    詞干提?。?/span>

    詞干提取是一種來自形態學和信息檢索的技術,在NLP中用于預處理和效率提升。但是,我們首先看一下詞典中的釋義:詞干 — “起源于或由其引起?!?/span>

    基本上,“詞干提取”是將單詞進行縮減得到詞干的過程,而“詞干”的實際意義是是在刪除單詞的所有的前綴后綴之后保留的一部分。例如,“touched”,它的詞干是“touch”,同時“touch”也是“touching”等詞的詞干。

    為什么需要詞干?因為我們會遇到不同的詞匯變形,而實際上它們具有相同的詞干和意義。舉例來說:

    # I was taking a ride in the car

    # I was riding in the car.

    這兩個句子意思是一致的,ride和riding的用法也是相同的。

    詞匯表中所有的單詞有不同的注釋,其中還包括大量實際意義相同的單詞,要存儲它們,需要一個龐大數據庫,但是通過詞干提取,僅關注單詞的詞干,可以很好地解決這個問題?,F行的通用算法之一是1979年的“Porter Stemming Algorithm”(波特詞干算法),非常使用便捷。

    文字分割:

    NLP中的文本分割是將文本轉換為有意義的單元的過程,可以是單詞、句子、也可以是不同的主題或潛在的意圖等。在文本分割中,文本根據不同語種被分割為成份單詞,由于人類語言的復雜性,通常比較難。舉個例子,在英語中利用空格來分隔單詞,相對高效實用,但是也有像“ice box”這類詞語的例外,ice和box這兩個由空格隔開的詞合并一起使用才有原本含義的,所以人們有時把它寫作“ice-box”,那么就給文字分割帶來了難題。

    命名實體識別:

    命名實體識別(NER)用于確定文本中哪些詞條屬于命名實體,這些詞條可以被定位并歸入預定義的類別,類別的范圍包括人名,組織,地點,還有貨幣價值和百分比。

    看下面的例子:

    NER之前:Martin bought 300 shares of SAP in 2016.

    NER之后:[Martin]Person bought 300 shares of [SAP]Organization in [2016]Time.

    關系抽?。?/span>

    關系提取采用“命名實體識別(NER)”的命名實體,并識別它們之間的語義關系。這可能意味著它能夠發現文本中詞語之間的關聯性,例如誰與誰結婚,某人在哪個公司工作等。這個問題也可以轉換為分類問題,然后為每種關系類型訓練機器學習模型。

    情感分析:

    通過情感分析,我們想要確定例如說話者或作者關于文檔,互動或事件的態度(例如情緒)。因此,需要理解文本以預測潛在意圖是一種自然語言處理問題。情緒主要分為積極,消極和中性兩類。通過使用情感分析,我們希望根據他撰寫的關于產品的評論來預測客戶對產品的看法和態度。因此,情感分析廣泛應用于評論,調查,文檔等等

    如果你對使用Python中的某些技術感興趣,可以查看我創建的Python的自然語言工具包(NLTK)的Jupyter Notebook。你還可以查看我的博客文章,了解如何使用Keras構建神經網絡,我將訓練神經網絡進行情感分析。

    5.深度學習和NLP

    深度學習和自然語言的核心是“詞義”,在這里,單詞用一個實數向量來表示。因此,通過向量來代表單詞單詞,我們可以將單詞置于高維度的空間中,由向量表示的單詞起到語義空間的作用。這僅僅意味著在該高維向量空間中,形近意近的單詞傾向于聚集在一起。下圖中,可以看到單詞含義的直觀展示:

    自然語言處理入門教程

    在此空間中,如果想要知道某一組聚集成類的單詞的含義,可以通過使用主成分分析法(PCA),也可以使用降維法。但這些方法太簡單并且會遺漏了周邊的大量信息,因而產生誤差。在研究的初始階段,這些方法很好用,(如數據科學中的邏輯或線性回歸)但并不是前沿技術。

    我們還可以將單詞的一部分當作向量,這些向量可以代表單詞的含義。想象一下“undesirability”這個詞。使用“形態學方法”,它涉及一個詞所具有的不同部分,我們認為它由詞素(單詞部分)構成:“Un + desire + able + ity”。每個語素都有自己的向量。這允許我們構建一個神經網絡,它可以構成一個更大的單位的意義,而更大的單位又由所有這些語素組成。

    深度學習還可以通過創建句法分析器來理解句子的結構,谷歌正在使用這樣的依賴解析技術,在他們的“McParseface”和“SyntaxNet”(兩種語言解析器),不過更加宏大,更加復雜。

    通過分析句子結構,我們開始理解句子的意義,可以從單詞的含義開始,也可以從整個短語和句子開始,無論單詞的意義、短語還是句子,都用向量來表示。如果想知道句子之間的關系,我們可以創建神經網絡來幫助分析。

    深度學習也適用于情感分析。請看這個電影評論:“這部電影不在乎是不是巧妙,也不在乎幽默與否”。傳統的機器學習算法會認為這是一個積極的評論,因為“聰明”和“幽默”是積極的詞匯,但是神經網絡能夠識別出它的真正含義。

    另外,深度學習算法實現的機器翻譯中,它從句子開始翻譯,并生成一個向量,然后用另外一種語言生成所需要的信息。

    總而言之,NLP與深度學習相結合,就是表示單詞、短語的向量,以及它們的含義。



    AI人工智能網聲明:凡資訊來源注明為其他媒體來源的信息,均為轉載自其他媒體,并不代表本網站贊同其觀點,也不代表本網站對其真實性負責。您若對該文章內容有任何疑問或質疑,請立即與網站(www.ooohata.com)聯系,本網站將迅速給您回應并做處理。
    聯系電話:021-31666777   新聞、技術文章投稿QQ:3267146135   投稿郵箱:syy@gongboshi.com

    關鍵詞: AI挖掘技術

    智先鋒人工智能網
    商城
    配送機器人
    消殺機器人
    清潔機器人
    接待機器人
    AI資訊
    人工智能
    智能機器人
    智慧城市
    智慧農業
    視頻
    工業機器人
    清潔機器人
    迎賓機器人
    配送機器人
    資料下載
    機器人
    3D打印
    傳感設備
    工業通訊
    品牌匯
    引導接待機器人
    配送機器人
    酒店服務機器人
    教育教學機器人
    產品/服務
    服務機器人
    工業機器人
    機器人零部件
    智能解決方案
    掃描二維碼關注微信
    ?掃碼反饋

    掃一掃,反饋當前頁面

    咨詢反饋
    掃碼關注

    微信公眾號

    返回頂部
    光大彩票