AI-agenter i produktion — vad som faktiskt kostar
En demo av en AI-agent tar en eftermiddag. Att ha samma agent i drift, med rätt svar, loggning och ansvar för felen, är ett helt annat arbete. Här går vi igenom var kostnaderna faktiskt ligger när en agent lämnar demostadiet.
Viktor Hadestrand
AI-utvecklare · · 8 min läsning
Modellkostnaden är sällan den stora posten
Tokenkostnaden för en kundtjänstagent hamnar ofta på en mindre del av den totala driftkostnaden. Det som kostar är allt runtomkring: hämta rätt data, hålla den uppdaterad, och se till att agenten inte svarar fel när underlaget saknas.
Ett vanligt misstag är att skicka hela dokumentmassan i varje anrop. Med genomtänkt kontexthantering — sökning, filtrering och cachning — går kostnaden ofta ner rejält samtidigt som svaren blir bättre.
Integrationerna är projektets tyngdpunkt
En agent som inte når affärssystemet är en chatbot. Värdet uppstår när den kan slå upp en order, boka en tid eller skapa ett ärende. Det kräver API-arbete, behörighetsmodell och felhantering — precis samma hantverk som vanlig systemutveckling.
- Autentisering och behörigheter per användare, inte en delad nyckel.
- Idempotens: agenten får inte skapa dubbletter när ett anrop görs om.
- Tydliga gränser för vad agenten får skriva till, inte bara läsa.
Övervakning och utvärdering
Utan loggning av frågor, svar och verktygsanrop går det inte att förbättra en agent. Bygg in utvärdering från början: en uppsättning testfrågor med förväntade svar som körs vid varje förändring av prompt, modell eller data.
Räkna också med kontinuerligt underhåll. Modeller uppdateras, data förändras och verksamheten ändrar rutiner. En agent är ett system som förvaltas, inte en leverans som blir klar.