Konrad Kowalski (rootsher)Principal Platform & Reliability Architect011101001000011100010000100011011110100100100111

Wspólny dostęp do modeli

data
kategoria
AI Agents
także w
AI Engineering · Cloud
czytanie
1 min / 281 słów

Implementer Agent potrzebuje modelu.

Na poziomie jednego zespołu najprostsze rozwiązanie wygląda tak:

text
Implementer Agent
|
v
Claude / GPT / Gemini

Każdy zespół może wybrać provider, stworzyć credentiale i zacząć działać.

Przy większej skali oznacza to jednak:

text
Team A -> Claude
Team B -> GPT
Team C -> Gemini
Team D -> kolejny provider

i osobne zarządzanie:

  • kluczami,
  • endpointami,
  • regionami,
  • quota,
  • wersjami,
  • kosztami,
  • polityką danych.

Co wprowadzamy

Wspólną platformę dostępu do modeli:

text
Implementer Agents
|
v
Organization AI Platform
|
v
Approved Models

Agent nadal korzysta z konkretnego modelu.

Różnica polega na tym, że nie łączy się bezpośrednio z providerem.

Gdzie to konfigurujemy

Repo agenta

Agent może wskazywać logical deployment:

yaml
model:
  deployment: coding-reasoning

Platforma organizacyjna

Mapuje coding-reasoning na konkretny model i jego deployment.

Organizacja może zmienić:

text
GPT X -> GPT Y

bez przepisywania całego flow agenta.

Co organizacja zyskuje

  • wspólną listę zatwierdzonych modeli,
  • kontrolę regionu i przetwarzania danych,
  • centralne identity,
  • quota,
  • monitoring kosztów,
  • możliwość wycofania modelu,
  • możliwość porównania providerów.

Narzędzia na rynku

PlatformaCloudCo daje organizacji
Microsoft FoundryAzurekatalog i deploymenty modeli, identity, networking, observability
Amazon BedrockAWSdostęp do wielu modeli przez IAM, guardrails, billing i quota
Vertex AIGCPzarządzane modele, IAM, regiony, monitoring i quota
Direct provider APIdowolnepełna swoboda, ale każdy zespół sam zarządza integracją

Co zmienia się dla Implementer Agenta

W jego workflow nic istotnego.

Nadal robi:

text
task
|
v
model
|
v
decision

Zmienia się sposób dostarczenia modelu.

To pierwszy przykład standaryzacji, która nie zmienia logiki zespołu, ale daje organizacji kontrolę nad wspólną warstwą.

Materiały

do góry