En ny trend bland användare av artificiell intelligens växer fram där lokala AI-modeller används som ett första steg innan man vänder sig till kraftfulla molnbaserade AI-system som ChatGPT. Istället för att helt ersätta ChatGPT, används mindre AI-modeller som ett verktyg för att förbättra och förtydliga uppgifter innan de skickas vidare. Detta nya tillvägagångssätt har visat sig vara effektivt för att undvika användningsbegränsningar och för att säkerställa att den slutliga responsen från den större AI:n är så exakt och relevant som möjligt.
Tidigare krävde användning av lokala AI-modeller ofta avancerad teknisk kunskap och dyr utrustning, men idag har tekniken blivit mer tillgänglig. Kostnadsfria verktyg som Ollama och GPT4All gör det möjligt att köra små AI-modeller direkt på vanliga bärbara datorer. Vissa webbläsare, som Brave, tillåter till och med att lokala modeller integreras direkt i sidopanelen.
Det primära syftet med att använda en lokal AI-modell är inte att skapa slutgiltiga svar utan att fungera som en redaktör. Genom att först köra uppgiften genom en lokal modell, analyseras och förbättras frågan innan den når ChatGPT. Den lokala AI:n fokuserar på att identifiera vilken information som saknas, vilka antaganden som görs, och ställer de nödvändiga frågor som behövs för att skapa en mer fullständig och användbar prompt.
Ett exempel på hur denna metod kan användas är när man planerar en semester. Istället för att omedelbart föreslå destinationer, skulle en lokal AI fråga om budget, antal resenärer, transportmedel, barnens ålder, preferenser för avkoppling eller aktiviteter, och resans längd. Dessa frågor hjälper till att skapa en mer detaljerad och anpassad prompt som sedan skickas till ChatGPT, vilket resulterar i ett mer skräddarsytt och relevant svar.
Mindre AI-modeller som Google Gemma 4, Meta Llama 4 Scout och Microsoft Phi-4, är några av de alternativ som kan användas i denna process. Dessa modeller är lättillgängliga och kan köras på vanlig konsumenthårdvara.
Förutom att förbättra prompts, kan lokala AI-modeller också fungera som ett integritetsskydd. Genom att filtrera bort känslig information innan den skickas till en molnbaserad AI, kan användarna skydda sin integritet samtidigt som de drar nytta av AI-teknologins fördelar.
Denna metod har blivit populär bland AI-entusiaster som söker efter sätt att maximera användningen av sina AI-verktyg. Genom att kombinera lokal och molnbaserad AI, kan användare dra nytta av styrkorna hos båda systemen för att uppnå bättre och mer precisa resultat. Det är en utveckling som pekar mot en framtid där AI-verktyg blir mer integrerade och användarvänliga, vilket möjliggör för fler att utnyttja potentialen i artificiell intelligens.