（1）面向数字经济发展人工智能系统安全与隐私保护关键技术研究
大数据资源的开放与融合是河南省数字经济发展与腾飞的必要基石。开放融合的数据资源是人工智能与实体经济深度融合的内在驱动力。然而，基于人工智能的经济发展会带来数据治理和共享管理问题，人工智能系统安全与隐私保护已成为其核心科学问题，若此类问题没有解决之道，就不能发挥人工智能的核心价值。针对现有人工智能安全与隐私保护方法的不足，重点研发结合联邦学习与差分隐私技术构建安全与隐私风险主动识别、主动防护等理论与方法。
（2）基于联邦学习的多源数据共享与分析关键技术研究
人工智能所需要的数据通常会涉及到多个领域，而多源数据之间的壁垒很难打破。因此，如何在满足数据隐私、安全与监管要求的前提下，设计高效的学习框架，让人工智能系统能够更加高效、准确地共同使用各自的数据。基于此类问题，重点研究面向数字经济数据资源的联邦学习框架、研究结合安全多方计算与差分隐私的数据共享机制、研究结合纳什均衡的激励机制，鼓励更多数据资源用户参与联邦学习、研究数据共享与分析过程中存在的安全攻击与隐私风险。
（3）联邦学习模型隐私保护关键技术研究
尽管利用联邦学习模型能够打破数字经济中数据资源共享的壁垒，使得不同的数据拥有者能够本地保持自己的数据而学习局部模型。通过共享模型参 数更新来训练最终的模型，然而，在整个训练过程中模型更新的消息通信仍然会向第三方或中央服务器泄露敏感信息，针对该问题，研究 基于中心化/本地化差分隐私的消息通信隐私保护方法。