SÅ FUNKAR DET

Så fungerar lokal AI på din egen dator

Med ett verktyg som Ollama kan en öppen AI-modell köras på den egna datorn i stället för i en extern molntjänst. Det ger större kontroll över dataflödet, men ställer krav på modellval, minne och säker konfigurering.

Publicerad 21 juli 2026, 20.04

AI-genererad illustration av en bärbar dator där en AI-modell och ett dokument stannar innanför en tydlig lokal gräns medan en molnsymbol är frånkopplad.

Lokal AI betyder att en AI-modell körs på den egna datorn eller på en server som verksamheten själv kontrollerar. Ollama är ett verktyg som hämtar och kör öppna modeller på macOS, Windows och Linux. När en modell körs lokalt behöver själva frågan och svaret inte skickas till en extern modelltjänst.

Först laddas en modellfil ned till datorn. Därefter startar Ollama modellen och gör den tillgänglig för en chatt eller ett annat program. Ollamas lokala programmeringsgränssnitt använder normalt adressen localhost, alltså samma dator, och kan visa vilka modeller som finns sparade och vilka som är igång.

Datorns minne och modellens storlek avgör vad som fungerar praktiskt. En mindre modell kräver normalt mindre lagring och arbetsminne men kan också vara svagare på vissa uppgifter. Modellens namn räcker inte för att bedöma kvaliteten. Version, kvantisering, licens och hur modellen testats spelar också roll.

Lokalt är inte samma sak som helt offline eller automatiskt säkert. Ollama har även molnfunktioner, och andra program kan skicka data vidare till webbsökning, analysverktyg eller externa API:er. Ollamas dokumentation beskriver ett särskilt läge där molnfunktionerna kan stängas av.

En lokal modell kan fortfarande ge felaktiga svar, läsa filer som den har fått åtkomst till eller påverkas av osäkra tillägg. Den som hanterar känsligt material behöver därför kontrollera hela kedjan: modellfil, app, nätverksanslutningar, loggar, behörigheter och var resultatet sparas.

Varför det spelar roll

Lokal körning kan ge svenska företag, skolor och privatpersoner större kontroll över arbetsmaterial och minska beroendet av en nätanslutning. Den kan också göra kostnaden mer förutsägbar för återkommande uppgifter. Vinsten uppstår först när rätt modell ryms på hårdvaran och hela arbetsflödet faktiskt hålls lokalt.

Gör så här

  1. Börja med material som inte är känsligt och kontrollera vilka nätverksanrop programmet gör.
  2. Välj en modell som ryms i datorns minne och läs modellkort, licens och versionsuppgifter före användning.
  3. Jämför svaren med en känd uppgift och mät kvalitet, hastighet och resursanvändning på den egna datorn.