教程

AI提示词工程师一天在干什么?带项目的组长说点实话

AI提示词工程师每天到底在干什么?带过两个AI应用项目的组长复盘这个岗位的日常:拆需求、写提示词版本、跑回归测试、盯线上bad case,一天的大头全在这些活上。文中还整理了招人时最看重的四项能力、面试验证方法,以及用任务通过率、回归通过率和人工接管率考核产出的具体做法,想入行的和想招人的都能照着对号入座。

AI提示词工程师的日常工作:组长盯着回归测试面板和提示词版本

判断先行:AI提示词工程师的日常核心不是憋金句,而是把业务需求拆成能跑、能测、能回滚的提示词方案。活儿的大头在测试和迭代,纯写作时间通常不到三成。想评估这个岗位或候选人,先看回归用例和线上通过率这两样证据。

AI提示词工程师干的事,跟外界想象的「写几句咒语」差得远。这个岗位一天的大头是拆需求、跑测试、盯线上数据,写提示词本身只占两三成时间。我手上有两个AI应用项目在跑,一个客服工单自动分类,一个商品文案生成,下面说的全是这两个项目里熬出来的日常。

为什么强调「能测、能回滚」?因为提示词这东西太脆了。改一个限定词,通过率可能从88%掉到79%;模型那边悄悄升级一版,昨天还跑得好好的方案今天全线跑偏。没有测试和版本管理兜底,这岗位就是在裸奔。

一天的活儿都花在哪

AI提示词工程师的一天,大头是拆需求、改版本、跑回归测试和盯线上bad case,纯写作时间一般不到三成。这是我拿自己两个项目数出来的比例。

早上十点跟产品碰需求。客服项目上周来了个新要求——把「催发货」类工单再拆成急件、普通、已发待查三种。听起来一句话,落到提示词上得先定边界:用户一句话里同时带退款和催发货怎么办?拆清楚这些,比写正文费时间多了。

下午是我的重头:跑回归。分类项目现在攒了340条标注用例,每次改动全量跑一遍。上个月有次改动,新用例全过,老用例通过率从86%掉到79%,当场回滚。这340条用例就是我们的命根子,比任何「写得漂亮」的提示词都值钱。

对了,提一句版本管理。我们组的提示词跟代码一样走git,改一版提交一次,commit message写清楚改了什么、为什么改。见过别组用共享文档管提示词的,覆盖了都没处找回,翻车了只能干瞪眼。

傍晚一般留给bad case。文案项目每天扫一遍线上输出,挑出明显的烂活儿——比如上周发现模型把「儿童水杯」的商品文案写出了咖啡机的卖点,追进去看是类目词没锁住。这种追查加修复,平均一天吃掉一个多小时。

招一个AI提示词工程师,我到底看什么?

我招人先看三样:把模糊需求拆成约束的能力、搭测试集验证的手感、踩过模型升级翻车的经验。学历和文采,排在这三样后面。

今年上半年我面了七个人。感触最深的一点:文采最顺的那个反而没过,因为给他一道模糊需求——「帮我们把工单分得更准」——他直接开始背prompt模板,一句边界条件都没问。最后录用的那位,先反问了我五个问题,全是问数据分布和误判代价的。

能力项面试时怎么验我给的分量
需求拆解给一道模糊需求,看他列不列边界、问不问数据权重最高,答不好基本淘汰
测试思维问「改完提示词你怎么知道没改坏」答出回归用例的直接加分
失败复盘让他讲一次自己提示词翻车的经历讲得出细节的说明真干过
文采扫一眼写的东西就行不卡人,通顺够用

面试里我常追问的一句是:模型升级后你的提示词大面积失效,你第一件事干什么?答「马上重写」的我不要——第一件事应该是拿旧测试集先把失效范围摸清楚,再决定哪些要重写、哪些只是换个写法就够。这一题能筛掉大半背模板的人。

产出怎么考核,拿什么数字说话

考核别数「写了多少条提示词」,看任务通过率、回归通过率和人工接管率三个数,配上bad case的响应速度。产量指标只会鼓励堆版本。

我们组的考核表长这样,是我自己摸索半年改出来的:

指标怎么算我这边的参考线
任务通过率每周抽100条线上输出人工判对错分类项目要求88%以上
回归通过率每次改动全量跑用例低于改动前就回滚
人工接管率AI答不了转人工的比例文案项目压在6%以内
bad case响应从发现到出修复版的时长24小时内给方案

踩过的坑也得交代。年初有人在文案项目里为追求效果把提示词写到两千多字,单条成本翻了一倍多,一周下来账单很难看。砍到600字重新跑回归,效果几乎没掉。打那以后我们加了条铁规:提示词超过800字,必须先证明短版本不行。

还有一次更能说明这岗位值在哪。今年3月平台升级了底层模型,一夜之间三个老提示词跑偏,文案开头全带上一股说明书腔。靠那套回归用例,我们两小时内圈出了失效范围,当天出了修复版——换成没有测试的组,这种事够喝一壶的。

回头看,开头说的「写咒语」想象,恰恰是这个岗位最不值钱的部分。真正值钱的是那340条用例、那条回滚的铁规,和拆需求时问出来的五个问题。工具和模型都会换,这些功夫拆不走。

常见问题

AI提示词工程师需要会写代码吗?

不强求会写,但得会跑。我组里一半人不写代码,人人会跑回归脚本、会看输出报表。真要一行一行撸代码,那是算法工程师的活。

这个岗位会被模型升级淘汰吗?

提示词会过时,拆需求和搭测试的功夫不会。模型每升级一次,重新回归、修补方案的工作量反而多一轮,我们今年3月那次升级就是例子。

提示词工程师和算法工程师差在哪?

算法工程师动模型,做训练和微调;提示词工程师不动模型,靠指令、评测和流程把现有模型用到业务里。小团队里后者便宜、见效快,先跑通业务再谈训练。

考核里为什么不看提示词产量?

产量最容易刷。堆一堆没人维护的提示词版本,通过率不升反降,成本还涨。我们试过按条数考核,一个月下来用例库里多了二十来个没人认领的版本,后来就改成了上面那套按结果算的做法。

延伸阅读

关键词 AI提示词工程师 提示词工程 提示词岗位考核 提示词回归测试

刺猬星球super-i 团队

先自己用过、测过,再写成可以照着做的指南。