在2020年第四届世界智能大会-车联网先导应用创新发展国际高峰论坛上，中国科学院何积丰院士在关于《可信人工智能》的主题演讲中表示，人工智能和人类社会是一种共生的关系，多个领域包括智能制造、智能医疗、智慧城市、智慧农业和国防建设都与人工智能息息相关。针对于汽车领域，其认为依赖于人工智能技术，人工智能科技的发展将指引智能网联汽车未来的方向，但在此过程中同样发现了一些造成人工智能信任危机的一些问题。

　　何积丰院士认为，目前有两类人工智能安全问题，并针对其提出四大对策和面向主动防御的AI网络体系，辅助人类做智能决策，达到分析问题、建立模型、模拟决策和质量评价的作用。

　　第一类是数据造成的不安全问题，有三类比较典型的不安全的行为：

　　1、数据隐私，我们训练很多数据，这些数据暴露了一些不应该暴露的隐私。

　　2、数据本身有质量，无论是训练数据和现场数据都有质量难以控制的问题。

　　3、数据在成熟过程中有保护的问题，数据采集前有风险、传输数据有风险、成熟使用流通也有风险。

　　第二类是算法安全方面的问题，其中算法可靠性是首要问题。

　　针对人工智能安全问题，他提出四大对策。第一方面对策是可解释性，即我们了解或者解决一件事情的时候，可以获得我们所需要的足够可以理解的信息。比如说过去算法是黑盒算法，缺乏透明性、可解释性，一旦发生问题，难以分析和验证到底问题出处。

　　第二方面对策是鼓励产生可解释的人工智能，主要是三方面可解释。

　　1、在建模型之前进行可解释性分析，分析数据的属性，知道数据怎么达到可视化。

　　2、在构建模型过程中，要基于规则、基于数据特征、基于实例增加可解释性。

　　3、在模型建完之后，进行可解释性的评估，无论是隐层分析、模拟分析、敏感性分析，都能逐步推动。

　　此对策主要针对隐私保护，在功能性系统信任和身份数据信号的隐私方面取得平衡。

　　第三安全对策是公平建模，在给数据大标签时注意公平因素，不管性别、国籍、年龄、健康、种族，纠正行为偏差、表示偏差、理解偏差和内容偏差，达到公平建模。

　　这些公平里既有统计意义下的公平，也有个体感觉的公平和因果公平。从数据到算法，需要注意历史偏差、聚合偏差、时间偏差、群体偏差，通过交互排除人口偏差、排序偏差、评估偏差、随机偏差。

　　第四方面人工智能安全对策可信验证，需要有一个在验证、仿真、测试三方面对人机物融合系统支撑的可信的验证引擎。

　　中国软件评测中心、智能网联汽车测试工程技术中心主任宋娟的《车载智能计算平台安全体系研究与建议》中同样提出，车载智能计算平台面临的在安全体系方面存在诸多挑战。

　　1、功能安全ISO26262在自动驾驶领域应用方案尚未形成共识。在传统汽车电子功能安全比较成熟，在自动驾驶方面，整车厂和智能计算平台企业还都在积极探索，尚未形成行业共识。

　　2、预期功能安全国内研究基本空白。国外已经在SOTIF方面开展了大量，包括改进流程、措施，但是国内研究基本属于空白。标准体系建设方面亟待完善，包括安全等级划分、测评标准规范制定。测试能力亟待加强建设，比如如何构建SOTIF相关场景库。

　　3、信息安全纵深防御理念尚未系统融入汽车产业生态。

　　目前，针对车载智能计算平台涉及硬件、软件、通信等诸多关键技术，产品技术形态没有确定，信息安全防护分层、分布式的技术支持也尚未成型。

　　在构建纵深防御体系的同时，也需要权衡智能网联汽车安全成本和效率方面之间的关系。宋娟针对发展现状和存在的挑战，提出了几点发展建议：

　　第一，要围绕产业实际应用需求，以完善产业链和产业建设为中心，总体布局，分布推进，建立健全安全体系，突破关键共性安全技术，保障产业安全和国家安全。

　　第二，深化架构研究，加快标准研制。进一步深化产品架构研究，梳理、明确、细化功能和性能要求。加快开展车载智能计算平台标准化工作，建立健全标准规范体系，促进行业形成共识。