数据投毒

数据投毒，英文叫 Data Poisoning，是一种针对AI系统的攻击方式。攻击者通过在AI的训练数据中掺入错误或恶意数据，让AI学到错误的知识，从而产生错误的输出。

打个比方：你想教一个小孩认识动物，给他看很多动物图片。如果有人在图片里混入一些标注错误的图片——比如把猫标注成狗，小孩就会学错。数据投毒就是干这个事。

数据投毒的危害很大。如果AI的医疗诊断系统被投毒，可能会给出错误的诊断；如果AI的自动驾驶系统被投毒，可能会把红灯识别成绿灯；如果AI的内容审核系统被投毒，可能会让有害内容通过审核。

防范数据投毒需要从数据源头把关：确保训练数据来源可信、对数据进行质量检查、建立数据审计机制。对于普通用户来说，了解数据投毒的存在，有助于理解为什么AI有时会给出奇怪的答案。