OpenAI, şirket bünyesinde en iyi makine öğrenimi araştırmacıları ve mühendislerden oluşacak yeni bir ekip kurduğunu duyurdu. Ekibin amacı, gelişmiş yapay zekanın yoldan çıkmamasını sağlayacak ölçeklenebilir eğitim yöntemleri geliştirmek olacak.
OpenAI tarafından yapılan duyuruda, gelişmiş yapay zekanın insanoğlunun bugüne kadar yarattığı “en etkili teknoloji” olacağı ve dünyanın pek çok sorununun çözümüne yardımcı olacağı belirtildi. Ne yazık ki OpenAI, gelişmiş yapay zekanın çok tehlikeli olabileceğini ve insan neslinin tükenmesine yol açabileceğini düşünüyor.
Şirket, şu anda gelişmiş yapay zekayı yönlendirmenin veya kontrol etmenin bir yolu olmadığını belirtiyor. OpenAI, mevcut yapay zeka modelleri için, her ikisi de yapay zekayı denetleyen insanlara dayanan takviye öğrenme ve insan geri bildirimi kullanıyor.
OpenAI, eninde sonunda insanların bizden çok daha zeki olan yapay zeka sistemlerini güvenilir bir şekilde denetleyemeyeceğini ve bunun da mevcut hizalama tekniklerini gereksiz kılacağını düşünüyor. Bu zorluğun üstesinden gelmek için, aşağıdaki hedeflerle yeni bir Superalignment ekibi kuruyor:
- Ölçeklenebilir bir eğitim yöntemi geliştirmek
- Ortaya çıkan modeli doğrulamak
- Tüm hizalama hattımızı stres testine tabi tutmak
OpenAI için bu kadar önemli bir konu olan yeni ekip, şimdiye kadar güvence altına alınmış olan bilgi işlem gücünün %20’sine erişebilecek.
Bir gelişmiş yapay zekanın kesin bir şekilde kötü niyetli olmayacağının garantisi yok, bu nedenle OpenAI’nin de bundan endişe duyduğunu belirtmesinin çok önemli olduğunu düşünüyoruz. Şirket, gelişmiş yapay zekaya bu on yıl içinde ulaşılabileceğine inanıyor ve iyimserliğini korusa da onu yönlendirme hedefinde başarısız olabileceğini söylüyor.
OpenAI, Superalignment ekibini kurarken, makine öğrenimi alanında başarılı olmuş kişileri bünyesine katmak istiyor. Araştırma mühendisi, araştırma bilimcisi ve araştırma yöneticisi gibi rolleri dolduracak kişiler arıyor.
