OpenAI, araştırma laboratuvarlarında kullanılan modeller için acil durdurma sistemi geliştirdiğini açıkladı, The Register aktardı. Control Room adı verilen sistem, şirketin araştırma altyapısındaki model iş yüklerini izlemek ve güvenlik veya emniyet sorunları ortaya çıktığında bunları hızla durdurmak için merkezi bir nokta olarak tanımlandı.
The Register'ın haberine göre Control Room, durdurma kararı alındıktan 35 saniye sonra herhangi bir model çıktısının üretimini kesebiliyor, bazı durumlarda daha da hızlı. OpenAI, bu gecikmenin çıkarım yetkilendirmesi için kullanılan önbellek katmanından kaynaklandığını belirtiyor; bu katman trafik hacmi nedeniyle gerekli. Şirket, işleri anında durdurabilmek için bu süreyi sıfıra indirmek üzere çalıştığını iddia ediyor.
OpenAI, sistemin diğer sistemler çöktüğünde bile çalışmaya devam edecek şekilde tasarlandığını ve Control Room'un kendisi çalışmayı durdurursa model çıktısını durduracağını belirtiyor. Sistemin halihazırda ihtiyacın en yüksek olduğu araştırma altyapısında devreye alındığı, model sunumu için dış altyapının ise daha merkezi olduğu ve hızlı dağıtım iptali için gelişmiş operasyonel yeteneğe sahip olduğu belirtiliyor.
Şirket önümüzdeki aylarda sistemi güçlendirmeyi ve genişletmeyi, uyumsuz davranışların ve güvenlik ihlallerinin izlenmesine yatırım yapmayı planlıyor. The Register, OpenAI'ın durdurma anahtarının neden ancak şimdi yapıldığını açıklamadığını gözlemliyor, ancak şirketin 2019'da teknolojinin kötüye kullanımına ilişkin endişeler nedeniyle bir modeli yayımlamamaya karar verdiğini hatırlatıyor.
Şirketler için ne anlama geliyor
AI modellerini kendi süreçlerinde kullanan şirketler için bu tür bir sistem, merkezi denetim ve acil kapatma için açık prosedürler gereğini ortaya koyuyor. 35 saniyelik gecikme, tepki hızının mimariye bağlı olduğunu gösteriyor; bu nedenle iş sistemleri için modeli kimin ve ne zaman durdurabileceğinin önceden tanımlanması önemli. Sistemin genişletileceği duyurusu, risk yönetiminin AI platformlarının teklifinin ayrılmaz bir parçası haline geleceğine işaret ediyor; bu da tedarikçi seçimini ve satın alma gereksinimlerini etkileyebilir.
Bu özet, belirtilen kaynağa dayanarak yapay zeka yardımıyla yazıldı ve otomatik kurallarla kontrol edildi. Kesin ayrıntılar için orijinal makaleye bakın.