Porboodskapingenieurswese is die proses om natuurliketaal-toevoere (bekend as porboodskappe) te struktureer ten einde bepaalde afvoere van 'n generatiewe-KI (GenKI) -model te verkry. Konteksingenieurswese is die verwante gebied van sagteware-ingenieurswese wat fokus op die bestuur van nie-porboodskap- en porboodskapkontekste wat aan die GenKI-model verskaf word, soos stelselinstruksies, metadata, API-gereedskap en tokens.
Dit kan ook omskryf word as die praktyk om toevoerinstruksies wat aan 'n generatiewe KI-model gegee word, te ontwerp en te verfyn sodat meer akkurate, relevante of nuttige afvoere geproduseer word. Doeltreffende porboodskapingenieurswese behels 'n begrip van hoe 'n model taal interpreteer, en kan tegnieke insluit soos few-shot-porboodskapbou, gedagtekettingporboodskapbou en die toekenning van rolle.
Gedurende die KI-oplewing van die 2020's is porboodskapingenieurswese as 'n sakevaardigheid oor korporasies en bedrywe heen beskou. Werknemers met die titel porboodskapingenieur is aangestel om porboodskappe te skep wat produktiwiteit en doeltreffendheid sou verhoog, hoewel die individuele titel sedertdien minder algemeen geword het te midde van KI-modelle wat beter porboodskappe as mense skep, asook korporatiewe opleiding in porboodskapbou vir algemene werknemers.
Algemene porboodskaptegnieke sluit in multi-shot-, gedagteketting- en gedagteboomporboodskapbou, sowel as die toekenning van rolle aan die model. Geoutomatiseerde porboodskapgenereringsmetodes, soos herwinningsaangevulde generering (Engels: retrieval augmented generation, RAG), bied groter akkuraatheid en 'n wyer omvang van funksies vir porboodskapingenieurs. Porboodskapinspuiting is 'n soort kuberveiligheidsaanval wat masjienleermodelle deur middel van kwaadwillige porboodskappe teiken.
Terminologie Die Oxford English Dictionary omskryf porboodskapingenieurswese (Engels: prompt engineering) as "die handeling of proses om porboodskappe vir 'n kunsmatige-intelligensie-program, -algoritme, ensovoorts, te formuleer en te verfyn ten einde die afvoer daarvan te optimeer of 'n verlangde uitkoms te bereik; die dissipline of beroep wat hiermee gemoeid is." In 2023 was die Engelse woord prompt (porboodskap; "'n instruksie wat aan 'n kunsmatige-intelligensieprogram, algoritme, ensovoorts, gegee word en wat die inhoud wat dit genereer, bepaal of beïnvloed") die naaswenner vir Oxford se woord van die jaar.
Porboodskap 'n Porboodskap is natuurliketaalteks wat die taak beskryf en voorskryf wat 'n kunsmatige intelligensie (KI) moet uitvoer. 'n Porboodskap vir 'n teks-na-teks-taalmodel kan 'n navraag, 'n bevel, of 'n langer stelling wees wat na konteks, instruksies en gespreksgeskiedenis verwys. Die proses van porboodskapingenieurswese kan behels dat duidelike navrae ontwerp word, bewoording verfyn word, tersaaklike konteks verskaf word, die styl van die afvoer gespesifiseer word, en 'n karakter toegeken word wat die KI moet naboots om die model na meer akkurate, nuttige en konsekwente antwoorde te lei.
Wanneer daar met 'n teks-na-beeld- of teks-na-klank-model gekommunikeer word, bevat 'n tipiese porboodskap 'n beskrywing van 'n verlangde afvoer, soos "'n hoëgehaltefoto van 'n ruimtevaarder wat op 'n perd ry" of "lo-fi stadige BPM elektro-chill met organiese monsters". Porboodskapingenieurswese kan op teks-na-beeld-modelle toegepas word om 'n verlangde onderwerp, styl, uitleg, beligting en estetika te verkry.
Tegnieke Algemene terme wat gebruik word om verskeie spesifieke porboodskapingenieurswesetegnieke te beskryf, sluit in gedagteketting (chain-of-thought), gedagteboom (tree-of-thought), en herwinningsaangevulde generering (RAG). 'n Oorsig van die veld in 2024 het meer as 50 afsonderlike teksgebaseerde porboodskaptegnieke, 40 multimodale variante en 'n woordeskat van 33 terme wat in porboodskapnavorsing gebruik word, geïdentifiseer, wat 'n huidige gebrek aan gestandaardiseerde terminologie vir porboodskapingenieurswese uitlig.
Vibe-programmering is 'n KI-ondersteunde sagtewareontwikkelingsmetode waar 'n gebruiker 'n groot taalmodel por met 'n beskrywing van wat hulle wil hê en dit toelaat om die kode te genereer of te wysig. In 2025 was die Engelse woord "vibe coding" die Collins-woordeboek se woord van die jaar.
Konteksingenieurswese Konteksingenieurswese is 'n verwante proses wat fokus op die kontekselemente wat gebruikerporboodskappe vergesel, waaronder stelselinstruksies, herwinde kennis, gereedskapdefinisies, gespreksopsommings en taakmetadata. Konteksingenieurswese word toegepas om betroubaarheid, herkoms en tokendoeltreffendheid in produksiestelsels met groot taalmodelle te verbeter. Die konsep beklemtoon operasionele praktyke soos tokenbegroting, herkomsetikette, weergawebeheer van konteks-artefakte, waarneembaarheid (die aanteken van watter konteks verskaf is), en konteks-regressietoetse om te verseker dat veranderinge aan die verskafde konteks nie die stelsel se gedrag stilweg verander nie.
Rasionaal Navorsing het bevind dat die werkverrigting van groot taalmodelle hoogs sensitief is vir keuses soos die volgorde van voorbeelde, die gehalte van demonstrasie-etikette, en selfs klein variasies in bewoording. In sommige gevalle het die herrangskikking van voorbeelde in 'n porboodskap akkuraatheidsverskuiwings van meer as 40 persent tot gevolg gehad.
In-konteks-leer 'n Model se vermoë om tydelik uit porboodskappe te leer, staan bekend as in-konteks-leer. In-konteks-leer is 'n ontluikende vermoë van groot taalmodelle. Dit is 'n ontluikende eienskap van modelskaal, wat beteken dat breuke in skaalwette voorkom, sodat die doeltreffendheid daarvan teen 'n ander tempo in groter modelle as in kleiner modelle toeneem. Anders as afrigting en fynafstemming, wat blywende veranderinge meebring, is in-konteks-leer tydelik. Die afrigting van modelle om in-konteks-leer uit te voer, kan as 'n vorm van meta-leer, of "leer om te leer", beskou word.
Porboodskapbou om modelsensitiwiteit te skat Navorsing toon deurgaans dat groot taalmodelle hoogs sensitief is vir subtiele variasies in porboodskapformatering, -struktuur en taalkundige eienskappe. Sommige studies het tot 76 akkuraatheidspunte se verskil oor formateringsveranderinge in few-shot-omgewings aangetoon. Taalkundige kenmerke beïnvloed porboodskapdoeltreffendheid aansienlik – soos morfologie, sintaksis en leksiko-semantiese veranderinge – wat taakverrigting oor 'n verskeidenheid take heen betekenisvol verbeter. Bysinsintaksis, byvoorbeeld, verbeter konsekwentheid en verminder onsekerheid in kennisherwinning. Hierdie sensitiwiteit duur voort selfs met groter modelgroottes, bykomende few-shot-voorbeelde, of instruksie-afstemming.
Om modelle se sensitiwiteit aan te spreek en hulle meer robuust te maak, is verskeie evalueringsmetodes voorgestel. FormatSpread fasiliteer sistematiese ontleding deur 'n reeks aanneemlike porboodskapformate te evalueer, wat 'n meer omvattende werkverrigtingsinterval bied. Op soortgelyke wyse skat PromptEval werkverrigtingsverdelings oor uiteenlopende porboodskappe heen, wat robuuste maatstawwe soos werkverrigtingskwantiele en akkurate evaluerings binne beperkte begrotings moontlik maak.
Porboodskaptegnieke
Multi-shot 'n Porboodskap kan 'n paar voorbeelde insluit waaruit 'n model in konteks kan leer – 'n implementering van few-shot-leer vir groot taalmodelle. Die porboodskap kan die model byvoorbeeld vra om "maison huis, chat kat, chien " te voltooi, met die verwagte antwoord hond.
Gedagteketting
Gedagteketting-porboodskapbou (Engels: chain-of-thought, CoT) is 'n tegniek wat groot taalmodelle in staat stel om 'n probleem as 'n reeks tussenstappe op te los voordat 'n finale antwoord gegee word. In 2022 het Google Brain berig dat gedagtekettingporboodskapbou redeneervermoë verbeter deur die model aan te spoor om 'n meerstapprobleem met redenasiestappe te beantwoord wat 'n gedagtegang naboots. Gedagtekettingtegnieke is ontwikkel om groot taalmodelle te help om meerstapredeneertake, soos rekenkunde of vrae oor gesondeverstandredenering, te hanteer.
Toe dit op PaLM, 'n taalmodel met 540 miljard parameters, toegepas is, het CoT-porboodskapbou volgens Google die model beduidend gehelp, wat dit in staat gestel het om vergelykbaar met taakspesifieke fyngestemde modelle op verskeie take te presteer en destyds die beste resultate tot dusver op die GSM8K-wiskundigeredeneringsmaatstaf te behaal. Dit is moontlik om modelle op CoT-redenasiedatastelle fyn af te stem om hierdie vermoë verder te versterk en beter interpreteerbaarheid te bevorder.
Soos oorspronklik deur Google voorgestel, word elke CoT-porboodskap vergesel van 'n stel toevoer-/afvoervoorbeelde – genoem eksemplare – om die verlangde modelafvoer te demonstreer, wat dit 'n few-shot-porboodskaptegniek maak. Volgens 'n latere artikel deur navorsers van Google en die Universiteit van Tokio was dit egter ook doeltreffend om bloot die woorde "Kom ons dink stap vir stap" ("Let's think step-by-step") by te voeg, wat CoT as 'n zero-shot-tegniek moontlik gemaak het.
Die voordele van gedagtekettingporboodskapbou wissel aansienlik volgens taaktipe. 'n Meta-ontleding wat meer as 100 studies van CoT gedek het, het bevind dat dit hoofsaaklik groot winste op wiskundige, logiese en simboliese redeneerprobleme lewer, met veel kleiner verbeterings op ander soorte take, en het tot die gevolgtrekking gekom dat CoT selektief toegepas kan word om afleidingskoste te verminder. By take uit die kognitiewe sielkunde waar dit bekend is dat oorweging menslike prestasie benadeel, is bevind dat CoT die akkuraatheid van die beste huidige modelle verminder, in sommige gevalle aansienlik. 'n Sistematiese oorsig van gestruktureerde porboodskaptegnieke berig eweneens dat die bykomende redenasiestappe reaksietye en interaksiekompleksiteit verhoog, sodat die tegniek nie deurgaans verkieslik bo eenvoudiger porboodskappe vir feitelike of laekompleksiteitsnavrae is nie.
Selfkonsekwentheid Selfkonsekwentheid voer verskeie gedagtekettinguitvoerings uit en kies dan die gevolgtrekking wat die meeste algemeen oor al die uitvoerings heen bereik is.
Gedagteboom Gedagteboom-porboodskapbou veralgemeen gedagteketting deur verskeie redenasielyne gelyktydig te genereer, met die vermoë om terug te keer of ander paaie te verken. Dit kan boomsoekalgoritmes soos breedte-eerste, diepte-eerste of straal gebruik.
Teks-na-beeld-porboodskapbou
In 2022 is teks-na-beeld-modelle soos DALL-E 2, Stable Diffusion en Midjourney aan die publiek vrygestel. Hierdie modelle neem teksporboodskappe as toevoer en gebruik dit om beelde te genereer. Vroeë teks-na-beeld-modelle verstaan tipies nie ontkenning, grammatika en sinstruktuur op dieselfde manier as groot taalmodelle nie, en mag dus 'n ander stel porboodskaptegnieke vereis. Die porboodskap "'n partytjie sonder koek" mag 'n beeld voortbring wat wel 'n koek insluit.
'n Teks-na-beeld-porboodskap sluit gewoonlik 'n beskrywing van die onderwerp van die kunswerk in, die verlangde medium (soos digitale skildery of fotografie), styl (soos hiperrealisties of popkuns), beligting (soos randbeligting of skemerstrale), kleur en tekstuur. Woordorde beïnvloed ook die afvoer van 'n teks-na-beeld-porboodskap. Woorde nader aan die begin van 'n porboodskap word moontlik swaarder beklemtoon.
Kunstenaarstyle Sommige teks-na-beeld-modelle is in staat om die styl van bepaalde kunstenaars by die naam na te boots. Die frase in the style of Greg Rutkowski ("in die styl van Greg Rutkowski") is byvoorbeeld in Stable Diffusion- en Midjourney-porboodskappe gebruik om beelde in die kenmerkende styl van die Poolse digitale kunstenaar Greg Rutkowski te genereer. Beroemde kunstenaars soos Vincent van Gogh en Salvador Dalí is ook vir stilering en toetsing gebruik.
Tekstuele inversie en inbeddings