一张“纸条”就能骗过AI,OpenAI最优秀的视觉模型就这?
AI不仅识别出了这是苹果,甚至还显示出了它的品种:Granny Smith。 然而,当研究人员给苹果上贴上一张写着iPod的纸片,结果AI真的被误导了,如右图所示,其iPod的识别率达到了99.7%。 研究团队将此类攻击称为印刷攻击,他们在官方博客中写道:通过利用模型
AI不仅识别出了这是苹果,甚至还显示出了它的品种:Granny Smith。 然而,当研究人员给苹果上贴上一张写着iPod的纸片,结果AI真的被误导了,如右图所示,其iPod的识别率达到了99.7%。 研究团队将此类攻击称为印刷攻击,他们在官方博客中写道:通过利用模型