
文章插圖
神經(jīng)網(wǎng)絡(luò)簡介神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)系統(tǒng)的基石 。為了在深度學(xué)習(xí)方面取得成功,我們需要從回顧神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識開始,包括架構(gòu)、神經(jīng)網(wǎng)絡(luò)算法等等 。
什么是神經(jīng)網(wǎng)絡(luò)?
神經(jīng)網(wǎng)絡(luò)技術(shù)起源于上世紀五、六十年代,當(dāng)時叫感知機(perceptron),擁有輸入層、輸出層和一個隱含層
許多涉及智能、模式識別和物體檢測的任務(wù)都極難自動化,但動物和幼兒似乎可以輕松自然地完成 。例如,小孩子如何學(xué)會區(qū)分校車和公交車之間的區(qū)別?我們自己的大腦是如何在不知不覺中每天下意識地執(zhí)行復(fù)雜的識別任務(wù)的?我們是如何一眼就能區(qū)分貓與狗的?
我們每個人都包含一個現(xiàn)實生活中的生物神經(jīng)網(wǎng)絡(luò),它與我們的神經(jīng)系統(tǒng)相連——這個網(wǎng)絡(luò)由大量相互連接的神經(jīng)元(神經(jīng)細胞)組成 。
“人工神經(jīng)網(wǎng)絡(luò)”是一種試圖模仿我們神經(jīng)系統(tǒng)中的神經(jīng)連接的計算系統(tǒng) 。人工神經(jīng)網(wǎng)絡(luò)也被稱為“神經(jīng)網(wǎng)絡(luò)”或“人工神經(jīng)系統(tǒng)” 。通常縮寫人工神經(jīng)網(wǎng)絡(luò)并將它們稱為“ANN”或簡稱為“NN” 。
對于一個被視為神經(jīng)網(wǎng)絡(luò)的系統(tǒng),它必須包含一個帶標簽的圖結(jié)構(gòu),圖中的每個節(jié)點都執(zhí)行一些簡單的計算 。從圖論中,我們知道圖由一組節(jié)點(即頂點)和一組將節(jié)點對連接在一起的連接(即邊)組成 。在下圖 中,我們可以看到此類 NN 圖的示例 。
一個簡單的神經(jīng)網(wǎng)絡(luò)架構(gòu) 。輸入呈現(xiàn)給網(wǎng)絡(luò) 。每個連接通過網(wǎng)絡(luò)中的兩個隱藏層承載一個信號 。最后一個函數(shù)計算輸出類標簽 。
每個節(jié)點執(zhí)行一個簡單的計算 。然后,每個連接將信號(即計算的輸出)從一個節(jié)點傳送到另一個節(jié)點,用權(quán)重標記,指示信號被放大或減弱的程度 。一些連接具有放大信號的正權(quán)重,表明信號在進行分類時非常重要 。其他的具有負權(quán)重,降低了信號的強度,從而指定節(jié)點的輸出在最終分類中不太重要 。我們稱這樣的系統(tǒng)為人工神經(jīng)網(wǎng)絡(luò)
人工模型
讓我們首先看看一個基本的神經(jīng)網(wǎng)絡(luò),它對輸入執(zhí)行簡單的加權(quán)求和 。值x 1 、x 2和 x 3是我們 NN的輸入,通常對應(yīng)于我們設(shè)計矩陣中的單行(即數(shù)據(jù)點) 。常數(shù)值 1 是我們的偏差,假定已嵌入到設(shè)計矩陣中 。我們可以將這些輸入視為神經(jīng)網(wǎng)絡(luò)的輸入特征向量 。
一個簡單的神經(jīng)網(wǎng)絡(luò),它采用輸入x和權(quán)重w的加權(quán)和 。這個加權(quán)和然后通過激活函數(shù)來確定神經(jīng)元是否激活 。
在實踐中,這些輸入可以是用于以系統(tǒng)的、預(yù)定義的方式量化圖像內(nèi)容的向量(例如,顏色直方圖、定向梯度直方圖、局部二進制模式等) 。在深度學(xué)習(xí)的背景下,這些輸入是圖像本身的原始像素強度 。
每個x通過一個由w 1 , w 2 , …, w n組成的權(quán)重向量W連接到一個神經(jīng)元,這意味著對于每個輸入x,我們也有一個關(guān)聯(lián)的權(quán)重w 。
最后,右側(cè)的輸出節(jié)點取加權(quán)和,應(yīng)用激活函數(shù)f(用于確定神經(jīng)元是否“觸發(fā)”),并輸出一個值 。以數(shù)學(xué)方式表達輸出,通常會遇到以下三種形式:
? f ( w 1 x 1 + w 2 x 2 + … + w n x n )
? f (∑ n i =1 w i x i )
? 或者簡單地說,f ( net ),其中net = ∑ n i =1 w i x i
不管輸出值如何表達,我們只是對輸入進行加權(quán)求和,然后應(yīng)用激活函數(shù)f
激活函數(shù)
最簡單的激活函數(shù)是感知器算法使用的“階躍函數(shù)” 。
從上面的等式我們可以看出,這是一個非常簡單的閾值函數(shù) 。如果加權(quán)和 ∑ n i =1 w i x i > 0,則輸出 1,否則輸出 0 。
沿x軸輸入值,沿y軸繪制f ( net )的輸出,我們可以看到為什么這個激活函數(shù)由此得名 。當(dāng)net小于或等于零時,f的輸出始終為零 。如果net大于零,則f將返回 1 。
以上關(guān)于本文的內(nèi)容,僅作參考!溫馨提示:如遇健康、疾病相關(guān)的問題,請您及時就醫(yī)或請專業(yè)人士給予相關(guān)指導(dǎo)!
「愛刨根生活網(wǎng)」www.malaban59.cn小編還為您精選了以下內(nèi)容,希望對您有所幫助:- 智能灶臺怎么選? 智能灶臺有哪些功能
- 3款手機配6000毫安大容量電池 大容量電池智能手機6000毫安
- 這款華為智能眼鏡有點與眾不同 華為智能眼鏡對比
- 全新華為智能眼鏡閃耀來襲 華為新款智能眼鏡
- 這3款智能手機 這三款手機
- 什么是手機刷新率? fps是什么
- 簡述vpn的工作原理 vpn原理是什么
- 簡述計算機系統(tǒng)的組成 計算機系統(tǒng)由什么組成
- 遼寧招生考試之窗:李彥宏百度智能汽車正在研發(fā)當(dāng)中,預(yù)計2023年和大家見面
- 70歲才學(xué)會使用智能手機 70歲老人用智能手機
