OpenAI, yapay zeka (AI) teknolojisinin gelişimindeki yıkıcı risklerine karşı korunma amacıyla yeni bir “Hazırlık Ekibi” oluşturduğunu duyurdu. Bu ekip, özellikle üst düzey yapay zeka sistemlerinin geliştirilmesi sürecinde riskleri değerlendirecek ve tahmin edecek.
Olası Risklere Karşı bir Kontrol ve Denge Sistemi
OpenAI’nin 18 Aralık’ta yayımladığı bir blog yazısına göre, Hazırlık Ekibi, şirketin güvenlik ve politika ekipleri arasında bir köprü görevi görecek. Bu ekipler, giderek güçlenen yapay zeka modellerinin ortaya çıkarabileceği olası risklere karşı neredeyse bir kontrol ve denge sistemi sağlayacaklar.
Ayrıca, OpenAI’nin yeni planları, oluşturulacak danışma ekibinin güvenlik raporlarını incelemesini ve bu raporları şirket yöneticileri ile OpenAI yönetim kuruluna iletmesini öngörüyor. Bu düzenleme, yöneticilerin teknik olarak nihai kararları vermesine rağmen, yönetim kuruluna güvenlik kararlarını tersine çevirme yetkisi tanıyor.
Kasım ayında yaşanan ani işten çıkarmalar ve Sam Altman’ın CEO olarak yeniden atanması, şirketin yönetime ilişkin yaklaşımında bir dönüşüme gidildiğini gösteriyor. Altman’ın liderliğinde, şirket yeni bir yönetim kurulu duyurusu yaptı. Bu kurul, Bret Taylor’ın başkanlığında, Larry Summers ve Adam D’Angelo gibi isimleri içeriyor.
