Prompt Engineering 人工构建Prompt

学习链接：微信公众号

人工构建Prompt适合Zero-Shot的情况，可以浅尝效果。人工构建Prompt相当泛用，因此学习一些它的应用场景。

1 LAMA

源码地址：Github

LAMA数据集，是一个对预训练语言模型的探针，使用Prompt来分析预训练语言模型掌握了哪些知识。

2 GPT3

GPT3 是通过大量语料训练得到的，对于大量下游任务，无需任何参数更新和微调。对于特定的下游任务可以实现Few-Shot，论文中的Prompt都是通过人工构造。

后续细读其人工构建Prompt和评判模型效果的部分并复现

论文：(2020) Language models are few-shot learners

3 PET(Pattern Exploiting Training)

学习链接：知乎

PET是一种半监督训练方法，它的目标有两个：

1. 将任务目标以自然语言的模式加入训练数据中

2. 对无标签数据进行样本挖掘以获取有标签数据