
Din dokumentimport svarar med en vektor, men det säger inte att hela texten fick plats. I Ollamas API för embeddings är truncate påslaget som standard: för lång indata kapas till kontextfönstret. Med truncate:false får du i stället ett fel. Den här guiden gör skillnaden synlig innan du använder dokument som underlag för sökning.
Du kör ett kort kontrollanrop, skickar en avsiktligt för lång syntetisk text och låter anropet misslyckas tydligt. Sedan jämför du med tillåten trunkering. Du behöver en lokal Ollama-server och en installerad embeddingmodell. Exemplen använder Windows PowerShell 5.1 och nomic-embed-text:latest. Ingen dokumentdatabas eller chattapp behövs.
1. Kontrollera servern och välj embeddingmodell
Utgå från en fungerande lokal installation. Behöver du hjälp med själva anslutningen finns guiden till Ollamas API. Använd en modell avsedd för embeddings; en fungerande chattmodell är inget kontrollprov för detta anrop. Ollamas modellsida för nomic-embed-text visar modellen och hur den hämtas. Har du den inte installerad kan du först köra ollama pull nomic-embed-text; det laddar ned modellfiler.
$endpoint = 'http://127.0.0.1:11434/api/embed'
$modell = 'nomic-embed-text:latest'
Invoke-RestMethod -Uri 'http://127.0.0.1:11434/api/version'
(Invoke-RestMethod -Uri 'http://127.0.0.1:11434/api/tags').models |
Select-Object name, digest
Facit: versionsanropet svarar och listan innehåller modellnamnet du satt i $modell. Anteckna version och digest, modellfilernas identifierare, tillsammans med ditt prov. Saknas modellen ska du ordna det först. Byt inte till en godtycklig modell bara för att komma vidare; då vet du inte längre vad ett senare fel betyder.
2. Skicka en kort text med trunkering avstängd
Definiera funktionen nedan i samma PowerShell-fönster. Den skickar en text åt gången och sätter truncate uttryckligen. JSON-kroppen skickas som UTF-8-byte så att svenska bokstäver inte blir beroende av terminalens standardkodning. -ErrorAction Stop gör att ett misslyckat HTTP-anrop kan fångas i nästa steg.
function Get-EmbeddingResult {
param([string]$Text, [bool]$Truncate = $false)
$json = @{
model = $modell
input = $Text
truncate = $Truncate
} | ConvertTo-Json -Depth 4
Invoke-RestMethod -Uri $endpoint -Method Post `
-ContentType 'application/json; charset=utf-8' `
-Body ([System.Text.Encoding]::UTF8.GetBytes($json)) `
-TimeoutSec 120 -ErrorAction Stop
}
$kortText = 'Projekt Lark har mote i rum Eken.'
$kort = Get-EmbeddingResult -Text $kortText
[pscustomobject]@{
Vektorer = @($kort.embeddings).Count
Dimensioner = @($kort.embeddings[0]).Count
BehandladeToken = $kort.prompt_eval_count
}
Facit: du får en vektor och ett positivt antal dimensioner. I redaktionens prov gav den korta texten 768 dimensioner. Ditt resultat behöver inte ha samma längd om du använder en annan modell. Ollamas embeddingsguide beskriver vektorlängden som modellberoende; den är inte en räknare över hur många ord från dokumentet som kom med.
Får du ett anslutningsfel, saknad modell eller ett fel om att modellen inte stöder embeddings har du ännu inte ett fungerande utgångsläge. Lös det innan du provar lång text. Spara inte en tom vektor som ersättning för ett misslyckat anrop.
3. Gör den långa textens fel synligt
Skapa nu ett litet belastningsprov av påhittad text. Ordet test upprepas 4 096 gånger och följs av en slutmarkör. Antalet upprepningar är valt för modellen i detta exempel, inte en universell gräns för embeddings. Det är tokenizer och kontextfönster som avgör hur mycket som ryms; antal tecken är bara ett sätt att känna igen samma testindata.
$langText = ('test ' * 4096) + ' SLUTMARKOR 8fa1'
$avvisad = $false
try {
$null = Get-EmbeddingResult -Text $langText -Truncate $false
Write-Host 'Texten accepterades. Detta prov passerade inte felgransen.'
} catch {
$avvisad = $true
Write-Host $_.Exception.Message
Write-Host $_.ErrorDetails.Message
}
Facit: när just denna indata överstiger den valda modellens kontextfönster ska anropet ge ett fel om för lång text. Läs felmeddelandet. Ett nätfel eller en timeout är också ett misslyckat anrop, men bevisar inget om kontextgränsen. Variabeln $avvisad säger bara att ett fel inträffade; den klassificerar inte orsaken.
Accepteras texten kan modellen rymma mer än provet kräver. Gör i så fall en kontrollerad ökning, exempelvis från 4 096 till 8 192 upprepningar, och kör igen. Öka stegvis i stället för att börja med en stor fil. Hittar du ingen kontextrelaterad avvisning är gränsprovet fortfarande obekräftat. Skriv inte ”trunkering fungerar” i protokollet bara för att du fick ett svar.
4. Jämför samma text med tillåten trunkering
Efter att du har identifierat kontextfelet skickar du exakt samma långa text med en enda ändring: trunkering tillåts. Behåll modell och funktion. Annars blir jämförelsen svår att tolka.
$tillaten = Get-EmbeddingResult -Text $langText -Truncate $true
[pscustomobject]@{
Tecken = $langText.Length
Vektorer = @($tillaten.embeddings).Count
Dimensioner = @($tillaten.embeddings[0]).Count
BehandladeToken = $tillaten.prompt_eval_count
}
Facit: samma indata som nyss avvisades kan nu ge en vektor. Den användbara observationen är skillnaden mellan de två anropen. Vektorn berättar inte vilket stycke som försvann, och slutmarkören kan inte läsas tillbaka ur vektorns tal. Testa därför inte texttäckning genom att bara kontrollera att markören finns i din ursprungliga sträng.
Fältet prompt_eval_count är enligt API-dokumentationen antalet behandlade indatatoken. Det är användbart i protokollet, men utan ett oberoende tokenantal för originalet är det inte ett mått på hur stor andel som tappades. Även efter trunkering kan vektorn ha precis samma antal dimensioner som den korta textens vektor.
5. Låt importen stanna eller dela upp texten
Behåll truncate:false i dokumentimporten när ditt krav är att inga textdelar ska kapas tyst. Vid kontextfel har du ett beslut att fatta: avvisa dokumentet med en begriplig orsak eller dela upp det och skapa en vektor per del. Byt inte automatiskt till true efter ett fel; då har du återinfört det beteende du ville upptäcka.
För uppdelningen finns artikeln om chunkning för lokal RAG. Håll kvar kontrollen i varje nytt anrop även efter att du valt en styckestorlek. Ett långt tabellfält eller ett dokument med annan struktur kan ge annan indata än din första provfil. Spara dokument-id och delens nummer tillsammans med resultatet så att du kan peka ut en misslyckad del utan att logga hela dokumentet.
När du senare vill behandla flera delar samtidigt tillåter API:et en lista av texter som input. Börja ändå med en text åt gången under felsökningen; då kan du knyta felet till en viss del. Ollama rekommenderar samma embeddingmodell för indexering och frågor. Byter du modell behöver du dessutom hantera det gamla indexet; det förklaras i artikeln om byte av embeddingmodell.
Protokoll från det lokala provet
Provet kördes den 18 november 2026 i Windows PowerShell 5.1 mot lokal Ollama 0.40.16 med den redan installerade modellen nomic-embed-text:latest. Endast syntetisk text användes. Resultaten nedan gäller denna körning och är ingen kvalitetsmätning av dokumentsökning.
| Indata och inställning | Utfall | Behandlade token |
|---|---|---|
| Kort text, 33 tecken, truncate:false | En vektor med 768 dimensioner | 15 |
| Lång text, 20 496 tecken, truncate:false | Fel: the input length exceeds the context length | Inget lyckat svar |
| Samma långa text, truncate:true | En vektor med 768 dimensioner | 2 048 |
| Samma långa text, truncate utelämnat | En vektor med 768 dimensioner | 2 048 |
Modellens digest var 0a109f422b47… vid provet. Kort och lång text gav lika många dimensioner trots att den långa texten bara accepterades när trunkering tilläts. Det är skälet att lägga kontrollen på anropets beteende, inte på vektorns storlek.
FAQ
Är truncate avstängt som standard i Ollama?
Nej. För /api/embed är standardvärdet true. Ange truncate:false om för lång indata ska ge ett fel i stället för att kapas till kontextfönstret.
Visar vektorns längd att hela dokumentet kom med?
Nej. Vektorns dimensioner är inte en räknare över dokumentets ord. I det lokala provet gav kort text och trunkerad lång text samma antal dimensioner.
Hur lång text kan jag skicka?
Det beror på den valda modellens kontextfönster och hur texten delas i token. Kör ett kort kontrollanrop och ett stegvis större gränsprov med trunkering avstängd.
Ska jag slå på trunkering när importen misslyckas?
Bara om du medvetet accepterar att indata kan kapas. Om kravet är att hela underlaget ska behandlas behöver du i stället avvisa dokumentet eller dela upp texten och kontrollera varje del.
Källor och metod
- Ollama: Generate embeddings — anropets fält, trunkering och behandlade token.
- Ollama: Embeddings — textvektorer, batchindata och modellval.
- Ollama: nomic-embed-text — modell och hämtkommando.
Källorna kontrollerades den 18 november 2026. PowerShell-koden kördes mot den lokala installationen ovan. Inga skarpa dokument skickades, inga sökträffar jämfördes och inget påstående görs om förbättrad träffsäkerhet. Kontrollera felet hos dig innan du tolkar det som ett kontextfel.