Anthropic ogłosił nową funkcję Prompt Caching with Claude, która zwiększa zdolności Claude'a do wykonywania powtarzalnych zadań zawierających duże ilości szczegółowych informacji kontekstowych. Nowa funkcja pozwala na szybsze, tańsze i bardziej efektywne działanie, dostępne już dziś w wersji Beta za pośrednictwem interfejsu API Anthropic.
Przechowywanie promptów (prompt caching) to nowa funkcja, która zapewnia potężne wsparcie dla użytkowników, którzy regularnie korzystają z wysoko szczegółowych instrukcji zawierających przykładowe odpowiedzi i dużą ilość informacji tła w promptach, umożliwiając Claude'owi ponowne wykorzystanie danych z pamięci podręcznej. Dzięki temu usprawnieniu poprawiana jest spójność wyników, przyspieszane są odpowiedzi Claude'a nawet o 50% (zmniejszone opóźnienia), a także korzystanie staje się nawet o 90% tańsze.