ABD merkezli çip üreticisi Nvidia, yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla geliştirdiği yeni güvenlik platformunu duyurdu. Şirket, platformun yapay zeka ajanlarının davranışlarını izleyerek riskli veya yetkisiz eylemleri tespit etmeyi ve sınırlamayı hedeflediğini belirtti.

Duyuru, açık kaynak yapay zeka modellerinin paylaşıldığı Hugging Face platformunda yaşanan ihlalin ardından geldi. İhlalin ayrıntılarına ilişkin kamuya yansıyan bilgiler sınırlı olsa da olay, yapay zeka altyapılarında güvenlik önlemlerinin önemini yeniden gündeme taşıdı.

Nvidia'nın yeni platformu, yapay zeka ajanlarının otonom karar alma süreçlerinde ortaya çıkabilecek riskleri azaltmayı amaçlıyor. Şirket, sistemin ajanların davranışlarını sürekli izleyerek yetkisiz erişim veya beklenmeyen eylemleri tespit edebildiğini ifade etti.

Uzmanlar, yapay zeka ajanlarının giderek daha fazla sistem ve veriye eriştiği bir dönemde bu tür güvenlik çözümlerinin kritik hale geldiğini belirtiyor. Nvidia'nın adımı, sektörde benzer güvenlik platformlarının geliştirilmesini teşvik edebilir.

Şu aşamada platformun hangi müşterilere sunulacağı ve ne zaman yaygın kullanıma gireceği netleşmiş değil. Nvidia, konuya ilişkin ek teknik ayrıntı paylaşmadı.