V zadnjem času smo priča izjemnemu porastu uporabe velikih jezikovnih modelov (angl. large language models ali LLMs), ki zaradi svoje priročnosti in enostavnosti uporabe pridobivajo na priljubljenosti med uporabniki ter postajajo pomemben del tehnoloških rešitev številnih podjetij. Vendar pa ta tehnologija prinaša tudi številne varnostne izzive, med katerimi je posebej izpostavljena ranljivost 'prompt injection', ki je bila leta 2024 uvrščena na prvo mesto na seznamu desetih najpogostejših ranljivosti za aplikacije LLM po OWASP. Ta vrsta ranljivosti omogoča, da napadalci vstavljajo ali spreminjajo vhodne ukaze (prompte), ki jih model uporablja za generiranje odgovorov, s tem lahko manipulirajo predvideno delovanje modela ali izvajajo številne nepooblaščene aktivnosti. Pomembno je poudariti, da je vsak trenutno znan jezikovni model na nek način ranljiv za tovrstne napade, kar povečuje potrebo po robustnih varnostnih ukrepih. Obstaja več ranljivosti, med njimi pa sta najpogostejša neposreden in posreden vnos zlonamernih ukazov. Pri neposrednem vnosu hekerji prevzamejo nadzor nad uporabniškim vnosom in neposredno vnašajo škodljive ukaze v jezikovni model. Pri posrednem vnosu pa hekerji svoje škodljive ukaze zamaskirajo v podatke, ki jih jezikovni model obdeluje, kot so spletne strani, api-ji, slike in zvočni zapisi. Večina jezikovnih modelov je nagnjena k takšnim napadom, saj je njihovo preprečevanje zahtevno in bi omejilo delovanje modela. Še večji varnostni pomislek predstavljajo sistemi, kjer ima jezikovni model pravico izvajanja HTTP zahtev, dostop do podatkovne baze ali zmožnost izvajanja kode. Na tak sistem lahko izvedemo napade, kot so XSS (Cross-Site Scripting), SQL injekcije, SSRF (Server-Side Request Forgery), IDOR (Insecure Direct Object References) in RCE (Remote Code Execution).