工業物聯網，包括半導體制造的晶圓制造EDA工具的研發會涉及大量工藝和設備參數，如何在保證企業敏感參數前提下，有效利用機器學習進行精確工藝仿真是目前的核心技術難點。聯邦學習允許多個參與方在不披露原始訓練樣本的情況下，分布式、協同式地訓練深度學習模型，可爲隱私敏感、注重IP保護的智能物聯網應用提供算法保障。但在傳統的聯邦學習框架中，客戶端需執行包括前向和反向傳播在內的多輪次密集計算，很可能超出典型物聯網終端在計算性能、能量和存儲容量方面所允許的上限。服務器和客戶端之間的頻繁通信也容易成爲制約系統性能的瓶頸。行業亟需一種更高效的聯邦學習框架，使這一隱私保護方案在物聯網（IoT）系統中的部署成爲可能。 

　　近日，微电子所陈岚研究員团队提出了一种面向物联网应用的计算、通信高效的联邦学习框架“FedQNN”（圖1），首次將超低位寬量化技術集成到聯邦學習中，允許客戶端以輕量化的定點格式執行絕大部分計算負載，極大地降低了計算功耗（圖2，a）。在通信方面，本框架利用稀疏和量化策略對上行和下行數據進行壓縮。在對多個數據集和模型的實驗結果表明，本框架能在不明顯影響模型精度的前提下，降低90% 的終端計算能耗、將模型尺寸壓縮30倍以上，極大地減小了通信帶寬需求和傳輸數據量（圖2，b），顯著降低了聯邦學習的部署成本，提高了其在IoT系統中的實用性，爲解決智能晶圓制造EDA工具領域的數據隱私保護問題提供了新方法。 

      上述研究成果以“FedQNN: a Computation-Communication Efficient Federated Learning Framework for IoT with Low-bitwidth Neural Network Quantization”爲題發表在物聯網領域國際頂級期刊《IEEE Internet of Things Journal》上 （DOI: 10.1109/JIOT.2022.3213650）。EDA中心博士生纪愚为文章第一作者，陈岚研究員为通讯作者。 

圖1. FedQNN算法的系统框架圖

圖2. 不同数据集下的学习曲线圖