Diogo Almeida, en tidigare forskare vid OpenAI, har haft en betydande inverkan på utvecklingen av moderna AI-teknologier genom sitt arbete med att bygga chatbotar och utveckla förstärkningsinlärning från mänsklig feedback (RLHF). Trots de tekniska framsteg han bidrog till, kände Almeida en frustration över hur AI-modeller hanterar mänskligt språk. Han menade att även om vi har bemästrat språkteknologi under flera år, är den inte alltid användbar för automatisering eftersom datorer ”talar ett annat språk”.
För två år sedan lämnade Almeida OpenAI för att starta TypeSafe AI, ett företag med målet att lösa problemet med språkberoende AI-modeller. Denna vecka lanserade TypeSafe en ny transformerbaserad modell vid namn Jev, som skiljer sig från traditionella stora språkmodeller (LLMs) genom att inte producera text. Istället genererar Jev sannolikheter, eller vad företaget kallar ”kalibrerade beslut”.
Genom att undvika språk som output kan modellen erbjuda betydande fördelar. Den är både snabb och kostnadseffektiv, och eftersom användarna definierar resultaten i förväg kan modellen inte skapa hallucinationer. Dessutom är output-tokens kostnadsfria, och inmatningstokens mäts i miljarder snarare än miljoner.
Intresset för Jev har varit stort bland utvecklare, och efterfrågan har varit så hög att TypeSafe tillfälligt inte kunde erbjuda API-tjänster. Jev visar sig vara mest användbar inom mjukvaruautomation, där den betraktas som ett billigare och mer robust alternativ för att integrera intelligens i kod.
Pranit Sharma, mjukvaruingenjör på Vercel, ett företag som utvecklar agentinfrastruktur, har testat Jev och funnit att det ger snabbare och mer exakta resultat än OpenAI:s ChatGPT Luna 5.6. Nikhil Mudholkar, CTO på Bryo AI, jämförde Jev med Gemini för klassificering av affärsmejl och konstaterade att även om Gemini var något mer exakt, var det betydligt dyrare. Mudholkar var särskilt intresserad av Jevs förmåga att leverera trovärdighetspoäng, vilket gör det idealiskt för att automatisera arbetsflöden.
Jev kan komplettera LLMs i vissa användningsfall genom att fungera som en intelligent kontrollmekanism mot felaktigheter. Även om användning av agenter för att övervaka andra agenter kan bli kostsamt, är Jev ett mer kostnadseffektivt alternativ enligt Almeida. Modellen kan användas för att övervaka LLM-agenter och förhindra oönskade beteenden.
Armin Ronacher, CTO på Earendil, som utvecklar den open-source modellplattformen Pi, pekar på ytterligare användningsområden för Jev, såsom modellriktning. Förmågan att förutsäga vilken modell som krävs för en given arbetsbelastning är värdefull, och Jevs låga kostnad och snabbhet gör sådan realtidsklassificering möjlig.
Almeida hoppas att den sjunkande kostnaden för intelligens kommer att leda till en bredare användning och spridning av smart mjukvara, på samma sätt som internet gjorde i sina tidiga dagar. Modellen är uppkallad efter ekonomen William Stanley Jevons, vars paradox beskriver hur en minskad kostnad för en vara kan leda till ökad konsumtion.
TypeSafe är försiktiga med att avslöja detaljer om Jevs arkitektur, som utomstående misstänker bygger på en open-weight LLM. Företaget beskriver Jev som en ”System One-modell” med fokus på intuition snarare än resonemang, vilket är specifikt inriktat på rätt uppgift. Almeida förklarar att Jev enbart tränas på syntetiska data genom en teknik han kallar ”förstärkningsinlärning från kalibrerade beslut”.
För närvarande står Jev ensam som denna typ av modell, men Ronacher förutspår att konkurrenter snart kommer att dyka upp nu när dess användbarhet har blivit tydlig. TypeSafe planerar att utveckla fler versioner av modellen i nya modaliteter. Almeida uttrycker att TypeSafe inte är en ”frontier lab” i traditionell mening, utan istället fokuserar på att skapa intelligens som är spridd och distribuerad.