Hallatud täitmine
Sovereign AI Machine
Platvormi täitmiskomponent: võtab päringu juhttasandilt, suunab selle Sovereign AI-sse, salvestab metaandmed ja tagastab vastuse. Pakutakse klientidele kui tase B — hallatud täitmine — kui pilvekoopia on kohandatud.
Mis on täna olemas
Lüüs
EhitatudFastAPI lüüs otspunktidega /health, /v1/execution-route, POST /v1/respond ja POST /v1/respond/stream; ainult loopback; pilvekoopias on välised pildipakkujad välja lülitatud.
Testid ja vastuvõtt
Ehitatud151 ühiktesti ja 14 nimelist vastuvõtukontrolli (I1 … R3) sellel Machine'il, millest pilvekoopia on harutatud.
Suunab Sovereign AI-sse
EhitatudPilvekoopia suunab iga käigu Sovereign AI-sse — platvormi inferentsipakkujasse, mitte kuhugi mujale.
Ilma välise tarnijata
EhitatudPilvekoopias ei ole teed ühegi välise AI-tarnija juurde; varuvariant, mida teised süsteemid nimetavad funktsiooniks, siin lepingu järgi ei eksisteeri.
Olekusildid — MÕÕDETUD — on olemas ja mõõdeti nimetatud kuupäeval nimetatud meetodiga. EHITATUD — on olemas ja töötab, koormuse all veel mõõtmata. PLAANITUD — kavandatud, veel ehitamata. Sildita rida ei ole selle platvormi väide.
Kaks taset
Tase A — otsene API
Vaikimisi: teie klient kutsub juhttasandi OpenAI-ga ühilduvat API-t, mis autendib, mõõdab ja edastab päringu Sovereign AI-sse. Voogedastus, tööriistad ja struktureeritud väljund nagu API lehel.
Tase B — hallatud täitmine
EhitatudSuunatud mitmeastmeliseks tööks: juhttasand annab päringu Sovereign AI Machine'i koopiale, mis täidab selle Sovereign AI vastu ja tagastab tulemuse koos metaandmetega. Plaanitud teise etappi.
Hallatud täitmine — leping
Mida tase B lubab, on kirjas juhttasandi ja Machine'i koopia vahelises lepingus. Igal real on oma olek.
Rentniku päised
EhitatudIgal väljakutsel määrab juhttasand organisatsiooni, projekti ja võtmeprefiksi identifikaatorid ning päringu id; Machine ei võta neid kunagi vastu avalikult väljakutsujalt.
Ausad veaolekud
EhitatudBACKEND_BUSY, kui GPU-d hoiab meediatöö, UPSTREAM_DOWN, kui Sovereign AI on maas — juhttasand vastendab need avalikku vealepingusse koos Retry-After-iga.
Voogedastus läbi Machine'i
EhitatudHallatud täitmine voogedastab: koopia edastab inferentsilüüsi osad ja lõpliku kasutuse ning määrab oleku enne esimest baiti, nii et hõivatud GPU on aus vastus 503. Tase A voogedastab otse inferentsilüüsist.
Tase B — hallatud täitmine
EhitatudSuunatud mitmeastmeline töö kliendirentnikule: juhttasand annab päringu Machine'i koopiale, mis täidab selle Sovereign AI vastu ja tagastab tulemuse koos metaandmetega.
Isolatsioon
Ainult privaatvõrk
EhitatudArenduses loopback, pilves privaatvõrk; Machine ei ole kunagi avalikust internetist kättesaadav.
Identiteedi määrab ainult juhttasand
EhitatudAvalik väljakutsuja ei saa rentnikku nimetada: identifikaatorid määrab juhttasand pärast autentimist ja mujalt tulnuna neid eiratakse.
Audit ilma sisuta
EhitatudMachine kirjutab kolm identifikaatorit ja päringu id oma auditireale ning mitte kunagi päringu sisu.
Algset Machine'i ei paljastata kunagi
EhitatudMedia Holdingu enda sisemine Machine on eraldi süsteem. Miski sellel platvormil ei anna kliendile ligipääsu Media Holdingu sisemistele tööriistadele, teedele ega andmetele.
Mida kliendid kunagi ei saa
Ligipääsu Media Holdingu sisemistele süsteemidele. Teid väliste AI-tarnijate juurde. Sisemise Machine'i pildigenereerimist ja ajastamist. Avalik API paljastab piiratud kliendipinna ja mitte midagi Algsest Machine'ist — direktiivi ja ehituse järgi.