编纂:好困 Aeneas
【新智元导读】若何才气让大规模语言模子输出本身想要的成果?如今,一本超全超详提醒工程指南来了,GitHub已标星4.7k。提醒工程,能够说是玩转ChatGPT、DALL·E 2等等那类AI模子的「必修课」。
但那个「提醒」(PRompt)详细要怎么写,几都有些形而上学在里面……
也难怪由此降生的新职业——提醒工程师,年薪已经到达了25万-33万美圆。

就在前不久,一位来自斯坦福大学的华人本科生Kevin Liu,就通过prompt injection的办法,让微软ChatGPT搜刮的全数prompt泄露。尔后,更是掀起了一股调戏ChatGPT的热潮。

而今天新发布在GitHub上的一个项目,整理了提醒工程的指南、论文、讲座和资本,堪称史上最全prompt材料包。

项目地址:https://github.com/dair-ai/Prompt-Engineering-Guide
凭仗着一天近1k星的增长,那篇「提醒工程指南」同时登上了GitHub Trending,和Hacker News热榜。


指南内容
语言模子的输出需要通过输入的提醒实现,但成果的量量取决于你为它供给几信息。
跟着我们介绍越来越多的例子和提醒工程的应用,你会留意到,一个提醒凡是会由几种差别的元素构成:
指令:希望模子施行的详细使命或指示布景:弥补的外部或上下文信息,能够引导模子做出更好的反响输入数据:想要处理的输入或问题输出指示:输出的类型或格局
事实该如何玩转提醒工程呢?GitHub上的那份指南,会供给很大的帮忙。
那份指南包罗演讲、提醒介绍、论文、东西和库、数据集、博客和教程等读物,总共6个部门。

在「讲座」那部门,包罗了长达一小时的视频,代码示例,以及一份共同讲座的50页PPT。
此中,视频包罗4个部门,别离是提醒工程简介、供给工程的手艺、东西和应用法式、将来标的目的。
视频和PPT都对prompt的定义做了详细介绍:prompts是指为了实现特定使命,传递给语言模子的指令和上下文。
而提醒工程是创建一组提醒或问题的过程,用于引导用户获得本身期望的成果。

为什么提醒工程如斯重要?
因为它对研究、发现很重要,可以用来帮忙测试大语言模子的各类极限,还能在大语言模子上的根底上开发各类立异型的应用。


团队开发的提醒工程指南,次要由5部门构成:
简介根底提醒文本归纳问题答复对话代码生成推理进阶提醒few-shot提醒思惟链(CoT)提醒zero-shot CoT自洽性生成常识提醒主动提醒工程师(APE)匹敌性提醒忽略以前的指令提醒泄露越狱其他法式辅助的语言模子ReAct多模态CoT提醒图提醒
团队每天城市更新有关提醒工程的最新论文,而且每周城市将那些论文的摘要纳入上述指南中。
好比,LeCun本年2月的新做「Augmented Language Models: a Survey 」就被收录了进来。
详细来说,做者把论文分红了4个大类:
查询拜访/概述办法/技巧应用弥补


那部门次要是来自卑佬们的经历总结。

做者介绍
主导那个项目标Elvis Saravia,是DAIR.AI的结合开创人。

他在台湾清华大学获得了信息系统与应用的硕士和博士学位。
在此之前,他在Meta AI担任了2年手艺产物营销司理,并曾是NeurIPS研讨会和NAACL 2019的法式委员会的成员。
从Linkedin上的履历来看,那位伴侣似乎也曾负责过LeCun不断心心念的Galactica。

参考材料:
https://github.com/dair-ai/Prompt-Engineering-Guide
发表评论