最近一个作业研究ChatGPT越狱，做完了开源出来给大家。收录了100多个越狱prompts，结合论文和自己思考，总结越狱的pr

最近一个作业研究ChatGPT越狱，做完了开源出来给大家。收录了100多个越狱prompts，结合论文和自己思考，总结越狱的prompts的分类和ChatGPT的限制，进行小范围的实验（主要是时间不够了），得出了一些结论。主要着重实验部分。目的主要是希望科研工作者以及大模型的研究者可以从攻击的角度去更好的做alignment和防御（狗头保命 Github： 求个Star feishu: