隨著大
模型等
人工智能技術的突破與發展,算法復雜度劇增,對傳統計算
芯片帶來了算力和功耗的雙重挑戰。近年來,以光計算為基礎、通過
光電融合的方式構建光電神經網絡的計算處理方法已經成為國際熱點研究問題,有望實現計算性能的顛覆性提升。然而,光電神經網絡的前向數學模型由對光場的精準物理建模得到,計算復雜度高、
參數冗余度大;其學習機制沿用人工神經網絡常用的梯度下降算法,面向大規模光電神經網絡時
優化速度慢、資源消耗高、收斂效果差。因此,現有學習架構僅能支撐小規模光電神經網絡的訓練,其網絡容量和特征捕獲能力不足以有效處理ImageNet等大型復雜數據集。
"71Y{WQ )g ?'Nz 近日,清華大學
電子工程系方璐副教授課題組提出了面向大規模光電智能計算的“光學-人工雙神經元學習架構(DuAl-Neuron opTical-artificial lEarning,DANTE)”。其中
光學神經元精準建模光場計算過程,人工神經元以輕量映射函數建立跳躍連接助力梯度傳播,全局人工神經元與局部光學神經元以交替學習的機制進行迭代優化,在確保學習有效性的同時,大大降低了訓練的時空復雜度,使得訓練更大更深的光電神經網絡成為可能。DANTE突破了大規模光電神經網絡物理建模復雜、參數優化困難等桎梏,網絡規模提升一至兩個數量級,訓練學習速度提升兩個數量級。
Q5*"t*L!N ;b 'L2
/{-J_+u*% 圖1.光學-人工雙神經元學習架構(DANTE)
CJ6v人与ooozzzxxx_linode中国iphone强汉HD_免费国产在线一区二区_卡通动漫亚洲国产欧美激情_一本高清d∨d一区