Små språkmodeller bygges ved hjelp av forenklede versjoner av kunstige nevrale nettverk som finnes i LLM-er. Språkmodeller har et sett med parametere – i hovedsak justerbare innstillinger – som de bruker til å lære av data og gjøre prognoser. SLM-er inneholder langt færre parametere enn LLM-er, noe som gjør dem raskere og mer effektive enn større modeller. Der LLM-er som GPT-4 kan inneholde mer enn en billion parametere, kan en SLM bare inneholde noen hundre millioner. Mindre arkitektur gjør det mulig for SLM-er å utføre oppgaver for behandling av naturlig språk i domenespesifikke programmer, for eksempel kundeservicechatroboter og virtuelle assistenter, ved hjelp av mye mindre databehandlingskraft enn LLM-er.
Språkmodeller deler opp tekst i ordinnbygginger – numeriske representasjoner som fanger opp betydningen av ord – som behandles av en transformator ved hjelp av en koder. En dekoder produserer deretter et unikt svar til teksten.
Opplæring av en språkmodell innebærer å eksponere den for et stort datasett kalt et tekstkorpus. SLM-er er opplært på datasett som er mindre og mer spesialiserte enn de som brukes av til og med relativt små LLM-er. Datasettet som SLM-er opplæres på, er vanligvis spesifikke for deres funksjon. Når en modell er opplært, kan den tilpasses for ulike spesifikke oppgaver gjennom finjustering.
SLM-er er utformet for oppgaver som krever færre databehandlingsressurser. LLM-er tilbyr større funksjoner, men krever mye mer behandlingskraft. SLM-er er ideelle for kantdatabehandling og miljøer med lite ressurser, mens LLM-er utmerker seg i håndteringen av komplekse oppgaver.
Små språkmodeller er ideelle for oppgaver som krever effektivitet, for eksempel kjøring av programmer i miljøer med lite ressurser, eller der raske svar er avgjørende. De er også nyttige for bestemte oppgaver som ikke krever de omfattende egenskapene til en stor språkmodell.
Fordelene ved å bruke en SLM fremfor en LLM inkluderer lavere beregningskrav, raskere responstider og egnethet for distribusjon på kantenheter. SLM-er er mer effektive og kostnadseffektive for oppgaver som ikke krever de omfattende egenskapene til en stor språkmodell. Dette gjør dem ideelle for sanntidsprogrammer og miljøer med begrensede ressurser.
