報告名稱：針對聯邦學習架構的攻擊和防護機制

報告專家：宋偉

專家單位：武漢大學計算機學院

報告時間：10月12日10:00

報告地點：雙創大樓A塔10樓1009會議室

專家簡介：武漢大學計算機學院教授，博士生導師，計算機科學系副主任，大數據研究所副所長，長期從事隐私保護、人工智能安全、雲安全、可信數據管理等方面的研究工作，在包括IEEE Transactions on Information Forensics and Security，IEEE INFOCOM、Journal of Parallel and Distributed Computing, Information Sciences，DASFAA，WSDM, Knowledge-based System, Security and Communication Networks, Science China，計算機學報、軟件學報、計算機研究與發展等國内外權威刊物和國際會議上發表學術論文80餘篇。宋偉教授擔任中國計算機學會高級會員、信息系統專業委員會副秘書長、常委、曾擔任中國計算機學會武漢分部秘書長，DASFAA 2013 Publication Co-Chair, AAAI, ICME, DEXA，APWeb，ICPADS，WAIM，WISA等學術會議的程序委員會委員和審稿人。擔任TPAMI, TKDE, TIFS, Information Sciences, Journal of Computer Science and Technology（JCST），Future Generation Computer Systems, WWW Journal, Security and Communication Networks，計算機學報，軟件學報等期刊的審稿人。宋偉教授主持國家自然科學基金面上項目2項，國家自然科學基金青年基金1項，國家重大研發計劃子課題，湖北省重點研發計劃項目，中國博士後科學基金等科研項目。同時作為技術骨幹和主要參與者參與完成國家自然科學基金重點項目、國家自然科學基金重大研究計劃、國家科技攻關計劃項目（863計劃）以及合作研究項目等十餘項。

報告摘要：聯邦學習通過将數據從中央服務器分散到終端設備,提供了一種保護用戶隐私的機器學習方法,可以用于敏感數據和異構數據的AI應用。但是目前針對聯邦學習的安全威脅層出不窮。近年來針對聯邦學習的攻擊和防護機制被廣泛研究。相比于現有研究中攻擊對象和攻擊數據特征已知的假設，匿名FL在現實中更為常見。在這種情況下，在大量客戶端中識别目标受害者是具有挑戰性的。但是這在現有的研究中被忽視了。我們介紹了一種探索匿名FL環境中用戶級隐私洩露的早期嘗試，并提出了一種包括兩個部分的攻擊框架：身份攻擊和重建攻擊。