现在，很多人只沉迷于人工智能的美妙未来，但要知道，任何技术都有其两面性。研究表明，人工智能一旦失控或被不法利用，那么将会成为黑客的“帮凶”，甚至会威胁到人类未来的生存。
因而，从安全目标出发，以谨慎的态度对待人工智能的发展是必要的。人工智能应当在符合法律法规、人伦道德、行业标准和应用实际等前提下，再推进进一步的研发和商业化。同时，应当强化科普理念，让更多人了解人工智能。
实际上，弱人工智能技术的应用已经较为广泛。无论是近年来大热的内容分发领域，还是语音交互领域，都是人工智能的主要应用场景之一。
借助人工智能与大数据，内容分发终端“懂了”你的爱好，一直向你推荐你可能感兴趣的内容，并不管你是否接受、是否认同；一些电商平台也借此向你推荐你可能感兴趣的商品，只因为你浏览了该类商品而已。
如果机器算法只会迎合没有法律与道德的约束，那么就会出现很多不利影响。内容分发终端在资讯领域出现的那些“失误”，就是显而易见的实证。
在数据资源重要性不断提升，人工智能技术应用愈发广泛的态势下，如果不对数据掌控者和人工智能技术开发、应用方进行必要的约束，不建立一道维护广大公众个人信息安全、维护人类基本生存安全的“围墙”，一旦被别有用心的人利用，难以想象会造成多么严重的后果。
“人工智能的发展必须要考虑安全的重要性。”中国工程院院士倪光南在谈到网络安全问题时强调。
2017年以来，我国在人工智能产业化发展方面进展迅猛，国家也相继出台了《新一代人工智能发展规划》等一系列重要政策。工信部印发的《促进新一代人工智能产业发展三年行动计划(2018-2020年)》(以下简称“《计划》”)中，对人工智能安全保障能力的建设予以了明确。
《计划》中指出，要完善发展环境，提升安全保障能力，实现产业健康有序发展。推动人工智能标准体系、测试评估体系及安全保障体系框架初步建立。到2020年，完善人工智能网络安全产业布局，形成人工智能安全防控体系框架，初步建成具备人工智能安全态势感知、测试评估、威胁信息共享以及应急处置等基本能力的安全保障平台。
分析人士指出，相关政策的出台将推动人工智能安全理念的普及，加快人工智能安全保障体系的建立，为人工智能安全发展、可持续发展提供重要支撑。只有形成更具针对性的人工智能安全体系，在法律法律、标准规范方面持续完善，人工智能产业才能拥有安全发展的坚实“围墙”。
