OpenAI je saopštio da je izgradio sistem za hitno zaustavljanje modela koji se koriste u njegovim istraživačkim laboratorijama, preneo je The Register. Sistem nazvan Control Room opisan je kao centralno mesto za praćenje radnih opterećenja modela u istraživačkoj infrastrukturi kompanije i njihovo brzo zaustavljanje kada se pojave bezbednosni ili sigurnosni problemi.
Prema pisanju The Registera, Control Room može da prekine proizvodnju bilo kakvog izlaza iz modela 35 sekundi nakon donošenja odluke o zaustavljanju, a u nekim slučajevima i brže. To kašnjenje, navodi OpenAI, potiče od keš sloja za autorizaciju inferencije, koji je neophodan zbog obima saobraćaja. Kompanija tvrdi da radi na tome da to vreme svede na nulu kako bi poslove mogla da prekine trenutno.
OpenAI navodi da je sistem napravljen tako da nastavi da radi i kada drugi sistemi otkažu, kao i da zaustavi izlaz modela ukoliko sam Control Room prestane sa radom. Sistem je, kako se navodi, već raspoređen u istraživačkoj infrastrukturi, gde je potreba najveća, dok je spoljna infrastruktura za serviranje modela centralizovanija i ima razvijenu operativnu sposobnost brzog ukidanja implementacija.
Kompanija planira da u narednim mesecima ojača i proširi sistem, uz ulaganja u praćenje neusklađenog ponašanja i bezbednosnih proboja. The Register primećuje da OpenAI nije objasnio zašto je prekidač napravljen tek sada, ali podseća da je kompanija još 2019. odlučila da ne objavi jedan model zbog zabrinutosti o zlonamernoj upotrebi tehnologije.
Šta ovo znači za firme
Za kompanije koje koriste AI modele u sopstvenim procesima, ovakav sistem ukazuje na potrebu za centralizovanim nadzorom i jasnim procedurama za hitno isključivanje. Kašnjenje od 35 sekundi pokazuje da brzina reakcije zavisi od arhitekture, pa je za poslovne sisteme važno unapred definisati ko i kada može da zaustavi model. Najava proširenja sistema sugeriše da će upravljanje rizicima postati sastavni deo ponude AI platformi, što može uticati na izbor dobavljača i na zahteve u nabavci.
Sažetak je napisan uz pomoć AI na osnovu navedenog izvora i proveren automatskim pravilima. Za tačne detalje pogledajte originalni članak.