Port

新型判別式和生成式學習方法研究: 寬度學習網絡及生成模糊網絡

陳俊龍、劉竹琳、馮霜

澳門大學

隨著人工智能的蓬勃發展,深度學習網絡在數據處理或者應用層面都取得了斐然的成績。但由於深層網絡結構的複雜性及超參數的數量巨大,深層學習網絡存在訓練時間過多的瓶頸問題。另一方面,為了追求精度,深度模型需要持續增加層數及參數,為網絡結構分析與訓練帶來了巨大挑戰。因此,如何在保證效果的前提下極大地縮短神經網絡系統的訓練時間已成為大數據研究背景下的研究熱點。另外,如何理解深度模型以及它們背後的數學機理也是目前未能解決的問題。該項目經過對神經網絡的系統研究,原創性的提出了高效的扁平化寬度學習模型;結合模糊系統理論,研究了相應的寬度學習系統以及典型深層波茲曼機的模糊神經網絡模型,為深度模型提供了可能的數學解釋。其相關成果在世界上引起了學術界積極正面的迴響。數十家國內科研單位及大學的研究人員和國內外院士等引用了本項目的寬度學習網路,而且在其應用上取得了極大的成功及效果。

圖 1 寬度學習系統及其增量學習算法

圖 2 寬度學習系統研究與應用情況

圖 3 模糊寬度學習系統