安全是发展的底线。齐向东指出，在人工智能赋能千行百业的过程中，人们关注的焦点是如何发展人工智能，有时却忽略了人工智能发展的另一面——安全风险。安全一旦出现问题，“万劫不复”的情况并不少见，即“一旦出了问题，一切就都失去了”。齐向东表示：“人工智能发展的‘战车’一旦启动，就会滚滚向前。它的力量如此强大，能给我们带来的好处是不言而喻的。但安全问题也非常重要。”
2024年世界互联网大会乌镇峰会奇安信展区。中青报、中青报见习记者 赵丽梅 摄
当前，“人工智能中毒”、数据污染等“人工智能风险”不断涌现，正在冲击人工智能安全防线。齐向东解释说，“数据中毒”是一种通过在训练数据中植入恶意样本或修改数据来欺骗机器学习模型的方法。黑客组织利用AI升级攻击手段，通过对抗样本、数据投毒、模型盗窃等多种方式攻击AI算法，导致其做出错误判断。由于算法黑匣子和算法漏洞的存在，这些攻击往往难以检测和防范，也难以处理这些问题。
“AI病”也需要“AI治疗”。齐向东指出，AI时代，网络安全面临全方位挑战；以AI驱动安全，用AI应对安全风险，将极大提高处理问题的效率。齐向东建议，在发展人工智能的过程中，全行业要主动树立安全意识；世界各国应重视并积极培育网络安全产业的蓬勃发展，加强网络安全人才的培养。
