关于OpenAttackOpenAttack是一个开源工具套件，专为文本对抗攻击而设计。该工具基于Python开发，可以处理文本对抗攻击的全过程，包括预处理文本和访问目标用户模型，生成对抗样本和评估攻击模型等。功能&使用OpenAttack支持以下功能：高可用性：OpenAttack提供简单易用的API，可以支持文本对抗攻击的全过程；攻击模型类型全面覆盖：OpenAttack支持句子/词/字符级扰动和梯度/分数/基于决策/盲的攻击模型；灵活可扩展：我们可以轻松攻击自定义目标用户模型，或开发和评估自定义攻击模型；综合评价：OpenAttack可以从攻击有效性、对抗样本质量、攻击效率等方面对攻击模型进行综合评价；OpenAttack的使用范围非常广泛，包括但不限于：为攻击模型提供各种评估基线；综合评价指标综合评价攻击模型；借助常见的攻击组件，协助快速开发新的攻击模型；评估机器学习模型对各种对抗性攻击的鲁棒性；利用生成的对抗样本丰富训练数据，进行对抗训练，提高机器学习模型的鲁棒性；工具模块工具安装我们可以使用pip来安装，也可以cloneProject源码来安装OpenAttack。使用pip安装（推荐）：pipinstallOpenAttack克隆代码库：gitclonehttps://github.com/thunlp/OpenAttack.gitcdOpenAttackpythonsetup.pyinstall安装完成后，我们可以尝试运行“demo.py”来测试OpenAttack是否正常运行:useExample(1)基本用法：使用内置的攻击模型OpenAttack内置了一些常用的文本分类模型，比如LSTM和BERT，还有数据集比如SST用于情感分析，SNLI用于自然语言推理.以下代码片段显示了如何使用基于遗传算法的攻击模型在SST数据集上攻击BERT："Dataset.SST.sample")#chooseGeneticastheattackerandinitializeitwithdefaultparametersattacker=oa.attackers.GeneticAttacker()#prepareforattackingattack_eval=oa.attack_evals.DefaultAttackEval(attacker,victim)#launchattacksandprintattackresultsattack_eval.eval(customize2target)用户模型下方的代码片段显示了如何攻击使用基于遗传算法的攻击模型对SST的情绪分析模型：elf,input_):rt=[]forsentininput_:rs=self.model.polarity_scores(sent)prob=rs["pos"]/(rs["neg"]+rs["pos"])rt.append(np.array([1-prob,prob]))returnnp.array(rt)#choosethecostomizedclassifierasthevictimmodelvictim=MyClassifier()#chooseanevaluationdataset数据集=oa.DataManager.load("Dataset.SST.sample")#chooseGeneticastheattackerandinitializeitwithdefaultparametersattacker=oa.attackers.GeneticAttacker()#prepareforattackingattack_eval=oa.attack_evals.DefaultAttackEval(attacker,victim)#launchattacksandprintattackresultsattack_eval.evalize(数据集,可视化)地址OpenAttack：【GitHub传送门】
