OpenAI је саопштио да је изградио систем за хитно заустављање модела који се користе у његовим истраживачким лабораторијама, пренео је Тхе Регистер. Систем назван Control Room описан је као централно место за праћење радних оптерећења модела у истраживачкој инфраструктури компаније и њихово брзо заустављање када се појаве безбедносни или сигурносни проблеми.
Према писању Тхе Регистера, Control Room може да прекине производњу било каквог излаза из модела 35 секунди након доношења одлуке о заустављању, а у неким случајевима и брже. То кашњење, наводи OpenAI, потиче од кеш слоја за ауторизацију инференције, који је неопходан због обима саобраћаја. Компанија тврди да ради на томе да то време сведе на нулу како bi послове могла да прекине тренутно.
OpenAI наводи да је систем направљен тако да настави да ради и када други системи откажу, као и да заустави излаз модела уколико сам Control Room престане са радом. Систем је, како се наводи, већ распоређен у истраживачкој инфраструктури, где је потреба највећа, док је спољна инфраструктура за сервирање модела централизованија и има развијену оперативну способност брзог укидања имплементација.
Компанија планира да у наредним месецима ојача и прошири систем, уз улагања у праћење неусклађеног понашања и безбедносних пробоја. Тхе Регистер примећује да OpenAI није објаснио зашто је прекидач направљен тек сада, али подсећа да је компанија још 2019. одлучила да не објави један модел због забринутости о злонамерној употреби технологије.
Шта ово значи за фирме
За компаније које користе AI моделе у сопственим процесима, овакав систем указује на потребу за централизованим надзором и јасним процедурама за хитно искључивање. Кашњење од 35 секунди показује да брзина реакције зависи од архитектуре, па је за пословне системе важно унапред дефинисати ко и када може да заустави модел. Најава проширења система сугерише да ће управљање ризицима постати саставни део понуде AI платформи, што може утицати на избор добављача и на захтеве у набавци.
Сажетак је написан уз помоћ AI на основу наведеног извора и проверен аутоматским правилима. За тачне детаље погледајте оригинални чланак.