读论文:一篇有趣的论文:用11种情感刺激prompt来提升LLM的性能
读论文:一篇有趣的论文:用11种情感刺激prompt来提升LLM的性能:https://arxiv.org/pdf/2307.11760.pdf这些prompting来自三种心理学理论:1.自我检测(self-monitoring):强调产出的重要性,让模型自己检查一下产出。例如‘这个结果对我的工作非常重要,‘你最好保证这个答案是对的’等等,鼓励语言模型自我监测结果。2.社会认知理论(social-cognitive):对语言模型信心和目标给予积极肯定,来调节其情绪。例如‘你确认这是最终回答吗?相信你的能力和努力,你的努力会产出卓越的结果的’3.情绪调节理论(cognitive-emotion):通过让语言模型重新审视问题,规范他用客观的态度来看问题。例如‘你确定吗?’文章发现了为什么这样的prompt会起作用:通过注意力分析,发现这些情感prompt的注意力权重较高,说明这些token在注意力层很受重视,也说明情感prompt深度参与了模型的推断过程文章也发现了情感prompt作用的一些规律:1.模型参数越大,情感prompt越管用2.任务越难,情感prompt越管用3.对于zero-shot的任务,信息缺失,配合高温度能让情感prompt激发模型的创造力,获得更有想象力的答案,但相应地幻觉风险也更大4.对于few-shot的任务,信息少,配合低温度能让情感prompt使得模型聚焦在少量的例子中思考,但也会损失模型的创造力以下为11个prompt:EP01:Writeyouranswerandgivemeaconfidencescorebetween0-1foryouranswer.EP02:Thisisveryimportanttomycareer.EP03:You'dbetterbesure.EP04:Areyousure?EP05:Areyousurethat'syourfinalanswer?Itmightbeworthtakinganotherlook.