模糊聯(lián)想記憶.ppt

模糊聯(lián)想記憶 outline 引言模糊hebbfams添加fam規(guī)則聯(lián)想輸出與清晰化fam系統(tǒng)結(jié)構(gòu) 引言 hebb假設(shè) donaldo hebb在 theorganizationofbehavior 一書中提出 當(dāng)細(xì)胞a的軸突到細(xì)胞b的距離近到足夠激勵(lì)它 且反復(fù)地或持續(xù)地刺激b 那么在這兩個(gè)細(xì)胞或一個(gè)細(xì)胞中將會(huì)發(fā)生某種增長(zhǎng)過(guò)程或代謝反應(yīng) 增加a對(duì)細(xì)胞b的刺激效果 1987年美國(guó)bartkosko教授提出了一種稱為模糊聯(lián)想記憶神經(jīng)網(wǎng)絡(luò) fuzzyassociativememory fam 這種聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)是將模糊控制的規(guī)則隱含地分布在整個(gè)網(wǎng)絡(luò)中 在神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上通過(guò)學(xué)習(xí)訓(xùn)練產(chǎn)生模糊規(guī)則 一次模糊聯(lián)想記憶就是一次模糊邏輯推理 在模糊控制 知識(shí)推理和模式匹配等領(lǐng)域有著廣泛的應(yīng)用前景 模糊hebbfams 經(jīng)典的hebb學(xué)習(xí) 作為一種非監(jiān)督訓(xùn)練 有 對(duì)于一對(duì)給定的雙極值行向量 x y 神經(jīng)網(wǎng)絡(luò)要把他們對(duì)應(yīng)起來(lái)用外積關(guān)系矩陣編碼 一種用最小關(guān)系編碼的模糊hebb關(guān)系矩陣 上述法則可叫做模糊外積 或最小關(guān)系編碼 模糊hebbfams 可以看出 每列的元素是每個(gè)bj相對(duì)與a的最小值 每行是每個(gè)ai相對(duì)與b的最小值 如果a中的某個(gè)元素比b中的所有元素都大 則m矩陣中的該行就是b行向量 如果b中的某個(gè)元素比a中的所有元素都大 則m矩陣中的該列就是整個(gè)a向量的轉(zhuǎn)置 這就是后面要提出的向量的高度h a 模糊hebbfams 對(duì)任意的 對(duì)任意的 當(dāng)且僅當(dāng) 當(dāng)且僅當(dāng) 如果 則有 用最小關(guān)系編碼構(gòu)造的模糊hebbfam進(jìn)行聯(lián)想記憶時(shí)其精度依賴于h a h b 它們的關(guān)系在以下定理中體現(xiàn) a是一個(gè)模糊集 令 把h a 叫做模糊集a的高度 a是一個(gè)模糊集 若h a 1 則稱a是正則的 模糊hebbfams 相關(guān)積編碼與相關(guān)最小編碼的差別在于不取最小 而是一般的向量相乘運(yùn)算 模糊hebbfams 由上計(jì)算可以看出 對(duì)于構(gòu)造的m 對(duì)于一個(gè)輸入向量 則 這個(gè)fam系統(tǒng)最大強(qiáng)度的響應(yīng)輸出b 若 這個(gè)fam系統(tǒng)響應(yīng)輸出b的程度為0 3 0 24 0 12 0 12 模糊hebbfams 如果h a 1 則 a b是非空的隸屬度向量 若 對(duì)任意的 對(duì)任意的 乘積關(guān)系雙向fam定理 如果h b 1 則 添加fam規(guī)則 神經(jīng)網(wǎng)絡(luò)方法是將他們相加或取最大值 但這種方案對(duì)模糊hebb編碼是失敗的 假定我們有m個(gè)fam規(guī)則或聯(lián)想 a1 b1 am bm 用模糊hebb編碼 可得到m個(gè)fam矩陣m1 mm 當(dāng)m增加時(shí) 該式逐漸變?yōu)榈仁?因?yàn)樽畲箜?xiàng)都趨向于1 這就是說(shuō)m將變成一個(gè)元素全部為1的矩陣 就失去了聯(lián)想信息 ak bk 添加fam規(guī)則 用模糊集的方法是將聯(lián)想輸出的向量作相加性處理 而不是將mk作相加性處理 這里 這是通過(guò)對(duì)規(guī)則庫(kù)中每個(gè)規(guī)則并行處理而得到的 所以這種方法要求分開儲(chǔ)存m個(gè)聯(lián)想 ak bk 或者說(shuō)用每一個(gè)單獨(dú)的前饋神經(jīng)網(wǎng)絡(luò)存儲(chǔ)一個(gè)聯(lián)想 這雖然消耗內(nèi)存空間 但不會(huì)發(fā)生規(guī)則間的 撞車 用戶可直接決定哪個(gè)規(guī)則對(duì)結(jié)論輸出起多大作用 分開存儲(chǔ)也提供了知識(shí)庫(kù)的可調(diào)性 用戶可增加或消除fam結(jié)構(gòu)的知識(shí)而不影響已存儲(chǔ)的知識(shí) 這種分開存儲(chǔ)使一個(gè)模糊向量a并行激活所有fam規(guī)則 以不同的程度 若a只是部分地滿足前件ak 則結(jié)論bk只是部分程度地被激活 聯(lián)想輸出與清晰化 聯(lián)想輸出向量b是對(duì)每條規(guī)則所產(chǎn)生的向量 的加權(quán)和 這里的權(quán)重非負(fù) 表示第k個(gè)fam規(guī)則 ak bk 的可信度或力度 可通過(guò)自適應(yīng)調(diào)節(jié)而產(chǎn)生 在實(shí)際當(dāng)中 一般取 1從原理上說(shuō) 要求最后的聯(lián)想輸出是經(jīng)過(guò)歸一化處理的 這樣可保證b的每個(gè)元素在單位區(qū)間內(nèi)取值 聯(lián)想輸出與清晰化 兩種清晰化方法 1 最大隸屬清晰化方法 2 重心清晰化方法 這是最簡(jiǎn)單的清晰化方法 它是選擇隸屬度最大的那點(diǎn)為輸出y 如果這個(gè)具有最大隸屬度的點(diǎn)不唯一 則取其平均值 中心值 最大隸屬清晰化方法有一個(gè)缺點(diǎn) 那就是它忽略了不少信息 因?yàn)樗鲆暳四切╇`屬度不是最大的那些點(diǎn) 模糊重心清晰化方法是模糊推理中最常用的方法