Runtime, state i memory
- data
- kategoria
- AI Agents
- czytanie
- 2 min / 313 słów
Implementer Agent wykonuje teraz pełny flow:
ticket
|
v
clone repo
|
v
RAG
|
v
implementacja
|
v
tools
|
v
tests
Jeżeli wszystko kończy się w jednej krótkiej sesji, sprawa jest prosta.
Ale realny task może wyglądać tak:
implementacja
|
v
tests fail
|
v
fix
|
v
needs approval
|
v
wait
|
v
continue
Agent musi zachować ciągłość.
Managed runtime
Runtime odpowiada za to, gdzie i jak agent działa:
- endpoint,
- proces/container,
- scaling,
- identity,
- sessions,
- podstawowy tracing.
Przykłady:
| Runtime | Cloud |
|---|---|
| Microsoft Foundry Agent Service | Azure |
| Amazon Bedrock AgentCore Runtime | AWS |
| Vertex AI Agent Engine | GCP |
State
State opisuje aktualny task.
Przykład:
{
"issue": "PAY-123",
"repository": "payments-service",
"branch": "agent/PAY-123",
"step": "waiting_for_approval",
"testsPassed": true
}
To pozwala wznowić pracę.
Memory
Memory to informacje przydatne również później.
Na przykład:
team payments requires contract-test before every PR
To nie jest stan jednego taska.
To informacja, którą można wykorzystać przy kolejnych taskach.
Gdzie definiujemy, co zapisywać
Repo agenta
Decyduje:
- które dane tworzą state,
- kiedy robić checkpoint,
- co warto zapisać jako memory.
Platforma
Dostarcza mechanizm przechowywania.
Narzędzia na rynku
| Rozwiązanie | Cloud | Rola |
|---|---|---|
| Foundry Agent Service state / memory capabilities | Azure | sesje i managed state agenta |
| Azure Cosmos DB | Azure | trwały state, memory i semantic recall pod własną kontrolą |
| Bedrock AgentCore Memory | AWS | short-term i long-term memory |
| Vertex AI Sessions / Memory Bank | GCP | session state i long-term memory |
| własna warstwa | dowolne | większa kontrola kosztem większej ilości kodu |
Kiedy nie potrzebujesz dodatkowej bazy
Nie każdy agent potrzebuje Cosmos DB albo osobnego memory store.
Jeżeli:
- task trwa krótko,
- nie wraca po kilku godzinach,
- nie potrzebuje pamięci między sesjami,
session state runtime'u może wystarczyć.
Osobna warstwa pojawia się dopiero wtedy, kiedy rzeczywiście potrzebujemy trwałości ponad pojedynczą sesję.