Prompt caching

Wstęp W poprzednim artykule "Jak efektywnie zarządzać kontekstem agentów AI w .NET" opisałem jak można zarządzać liczbą tokenów wysyłanych do LLM po stronie naszych aplikacji kontrolując koszty i czas