Kovulmasının arkasında bu mektup mu var? İnsanlık tehdit altında
Teknoloji dünyası günlerdir yapay zekâ şirketi OpenAI'de olan bitenlerle çalkalanıyor. Şirketin kurucularından Sam Altman'ın görevden alınması ve birbiri ardına çıkan istifa haberlerinden sonra sular durulmuştu ki şimdi de yönetime insanlığı tehdit edebilecek bir yapay zekâ keşfi hakkında yazılan mektup gündeme geliyor.
Kovulmasının arkasında bu mektup mu var? İnsanlık tehdit altında
Günlerdir teknoloji dünyasının odağında yapay zekâ şirketi OpenAI var. Bu defa şirket, geliştirdiği yeni bir sistemle dikkat çekmek yerine yönetimde yaşanan sorunlarla tartışmaların merkezinde kendini buluyor.
Play Video
Sansasyonel şirket sonunda Sam Altman ile yeniden bir araya gelse de ünlü CEO’nun görevden alınma nedeni hakkındaki iddialar oldukça çarpıcı.
Basına yansıyan haberlere göre CEO Sam Altman kovulmadan önce yönetim kurulu, insanlığı tehdit edebilecek güçlü yapay zekâ keşfi konusunda uyarıldı.
Birkaç araştırmacı, yöneticileri Q* Projesi’nde kaydedilen ilerlemenin insanlığı tehlikeye atma potansiyeline sahip olduğu konusunda uyardı. İddialara göre bu uyarı da ChatGPT’nin yaratıcısı Altman’ın görevden alınmasına ve ardından start-up şirketinde beş gün boyunca süren krize neden oldu.
TEHLİKEYİ GÖRMEZDEN Mİ GELDİ?
Yönetici Mira Murati, çarşamba günü çalışanlara Q*’dan bahsetti ve bu hafta sonu yaşanan olaylardan önce yönetim kuruluna bir mektup gönderildiğini açıkladı.
Kaynaklar mektubu, yönetim kurulunun Altman’ın kovulmasına neden olan uzun şikayet listesindeki faktörlerden biri olarak gösterdi. Hatta başka bir habere göre de Altman, yapay zekânın tehlikelerini göz ardı ettiği için ChatGPT yapımcısı OpenAI’nin CEO’luğundan çekildi.
OpenAI’nin Q-Star olarak anılan Q* projesinin şirketin yapay genel zekâ (AGI) olarak bilinen araştırmalarında bir dönüm noktası olabileceği düşünülüyor. OpenAI, yapay genel zekâyı, ekonomik açıdan önemli birçok görevi insanlardan daha iyi yapabilecek otonom sistemler olarak tanımlıyor.
BİR İNSAN GİBİ ÖĞRENME VE KAVRAMA POTANSİYELİNE SAHİP
Şirket adına açıklama yapma yetkisi olmadığı için adının açıklanmasını istemeyen bir kaynak, hesaplama kabiliyeti sayesinde yeni modelin belirli matematiksel problemleri çözebildiğini söyledi. Kaynak, söz konusu problem çözme kabiliyetinin ilkokul öğrencileri seviyesinde olsa da araştırmacıları, Q* projesinin gelecekteki başarısına dair iyimser hâle getirdiğini ifade etti.
Araştırmacılar, matematiği üretken yapay zekânın gelişiminde fethedilmesi gereken önemli bir alan olarak görüyor. Üretken yapay zekâ mevcut durumda istatistiksel olarak bir sonraki kelimeyi tahmin ederek yazı faaliyetlerinde ve dil çevirisinde başarılı olsa da matematiğe oldukça önem veriliyor.
Yapay zekânın matematik problemlerini çözebilmesi insan zekâsına benzeyen muhakeme becerisine sahip olabileceğine işaret ediyor. AGI, sınırlı sayıda işlem gerçekleştirebilen bir hesap makinesine kıyasla genelleme yapma, öğrenme ve kavrama potansiyeline sahip.
ELON MUSK DA HEDEF ALMIŞTI
Şirketin insanlığı tehdit edecek bir sistem oluşturmasıyla ilgili endişelerin, Elon Musk’ın kısa süre önce yayınladığı başka bir mektuptan sonra gelmesi de ayrıca dikkat çekiyor.
Musk, Altman ve kurucu ortağı Greg Brockman’ın düşmanca bir çalışma ortamı yarattığını iddia eden başka bir mektup yayınlayarak eski şirketini hedef almıştı. Eski OpenAI çalışanları tarafından yazıldığı iddia edilen mektupta, Altman ve Brockman dürüst olmamakla ve manipülatif liderlikle suçlanıyordu.
Birkaç yıl önce firmanın liderliği konusunda Altman ile anlaşmazlık yaşayan Tesla CEO’su, “Bunlar araştırılmaya değer endişeler gibi görünüyor” diye yazdı.
Kaynağı bilinmeyen mektup, yeni atanan yönetim kurulundan bu etik dışı uygulamalara karşı kararlı bir tavır almasını, Altman ve Brockman’in davranışlarına ilişkin bağımsız bir soruşturma başlatmasını talep ederek sona eriyor.
“AMACINDAN SAPTI”
Musk’ın iddia ettiği bu mektuba rağmen Altman geçen hafta sonu görevden alındığında, şirket çalışanlarından yaklaşık 700’ü istifa etmek ve liderlerini Microsoft’a kadar takip etmekle yönetimi tehdit etti. Ve Altman, görevden alınmasından sadece beş gün sonra, 21 Kasım’da OpenAI’nin CEO’su olarak şirkete geri döndü.
Elon Musk, şirketin CEO’su Sam Altman ile birlikte OpenAI’yi kurmuş ancak milyarder 2018’de start-up’ın kontrolünü ele geçirmeye çalışmış ve bu talebi reddedilmişti. Musk ardından yapay zekâ şirketinden ayrılmış ve kendi çalışmalarına yönelmişti. Ancak şirketi hedef almayı da ihmal etmemişti. Ünlü milyarder OpenAI’nin orijinal kâr amacı gütmeyen misyonundan saptığını söylemişti.
Şubat ayında X’te paylaştığı bir gönderide geride bıraktığı şirket ile ilgili şunları yazmıştı: “OpenAI açık kaynak kodlu bir şirket olarak yaratıldı (bu yüzden ona ‘Açık’/Open AI adını verdim), Google’a karşı bir denge görevi görecek kâr amacı gütmeyen bir şirket, ancak şimdi Microsoft tarafından etkili bir şekilde kontrol edilen kapalı kaynaklı, maksimum kârlı bir şirket haline geldi.”
Hatta Musk bu söylemleriyle kalmamış aynı zamanda yapay zekânın toplum ve insanlık için derin bir risk oluşturduğunu ve felakete varacak etkileri olabileceğinden korktuğu için yapay zekâ geliştirme konusundaki tehlikeli yarışa ara verilmesi çağrısında bulunmuştu.
OpenAI, geçen kasım ayında ChatGPT’yi piyasaya sürdü ve o zamandan beri teknoloji hızla ilerlemeye başladı.
