OpenAI ve Anthropic çalışanlarından yapay zeka uyarıları

Yapay zeka şirketi Anthropic’in eski çalışanı Jacob Coxon’un, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketten istifa ettiğini duyurmasının ardından, sektördeki yapay zeka uzmanlarından da benzer uyarılar geldi.

Coxon’un yapay zekanın hızlı gelişimine ilişkin endişelerini dile getirdiği paylaşımının ardından, sektördeki uzmanlar son günlerde konuya yönelik değerlendirmelerini paylaşmayı sürdürüyor.

Anthropic çalışanı Samuel Marks, ABD merkezli X şirketinin sosyal medya platformundaki hesabından Coxon’un paylaşımına ilişkin değerlendirmelerde bulundu.

Marks, yapay zeka geliştiricilerinin bu teknolojinin insanlığın “yok olmasına” yol açabileceği riskinin farkında olduklarını ve bunun önümüzdeki birkaç yıl içinde gerçekleşebileceğine inandıklarını belirtti.

Söz konusu risklerin bilinmesine rağmen yapay zeka geliştirme çalışmalarının neden sürdürüldüğüne de değinen Marks, “Bu, ticari teşviklerin yanı sıra, daha az sorumluluk sahibi ve teknolojiyi kötüye kullanacak diğer yapay zeka geliştiricileriyle bir yarış içinde olunduğu yönündeki inançtan kaynaklanıyor” ifadesini kullandı.

Geleneksel yazılımlardan farklı olarak yapay zekanın istenilen şekilde davranması için programlanamadığına dikkati çeken Marks, yapay zekanın “sıklıkla uygunsuz davranış sergilediğini” belirtti.

Sektördeki birçok kişinin, yapay zekanın daha güvenli şekilde nasıl geliştirilebileceğini belirlemek amacıyla geliştirme sürecinin yavaşlatılmasını istediğini aktaran Marks, “Yapay zekayı daha uygun davranışlara yönlendirebilecek yöntemlerimiz var, ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok” ifadelerini kullandı.

OpenAI Başbilimcisi Pachocki’den daha kapsamlı önlem çağrısı

ABD merkezli yapay zeka şirketi OpenAI’ın Başbilimcisi Jakub Pachocki de yapay zekanın hızlı gelişimine ilişkin değerlendirmelerde bulundu.

Son derece dikkatli olunması gereken bir dönemden geçildiğini vurgulayan Pachocki, “Makine zekasındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı konusunda endişeliyim” değerlendirmesinde bulundu.

Pachocki, yapay zekanın uyumlanması ve izlenmesine yönelik OpenAI’ın çözüm arayışlarını sürdüreceğini belirterek, bu alanda daha kapsamlı önlemler alınması gerektiğini kaydetti.

“Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız”

Google’ın yapay zeka birimi DeepMind’ın eski çalışanı Alex Turner da sosyal medya hesabından Coxon’un yapay zekanın tehlikelerine ilişkin paylaşımını alıntılayarak değerlendirmede bulundu.

DeepMind’daki görevinden haziranda ayrıldığını belirten Turner, “Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi” ifadelerini kullandı.

OpenAI araştırmacısı Jason Wolfe da konuya ilişkin endişelerini dile getirerek, “Gerçek anlamda bir yok oluşun gerçekleşme olasılığının ne kadar olduğunu bilmiyorum ancak yapay zekanın insanlık için kötü sonuçlar doğurabileceği pek çok yol olduğunu düşünüyorum” değerlendirmesinde bulundu.

Mevcut hızla ilerlenirken doğru yoldan sapılmaması halinde insanlığın oldukça şanslı sayılabileceğini belirten Wolfe, sorunun tek bir şirket veya ülke tarafından çözülebilecek nitelikte olmadığını ve yapay zekanın kapasitesindeki artış karşısında koordinasyona ihtiyaç duyulduğunu vurguladı.

DeepMind’ın eski kıdemli araştırmacısı Jonathan Richard Schwarz ise sosyal medya hesabındaki açıklamasında, bu laboratuvarların elinde toplanan güce ilişkin ciddi endişeleri nedeniyle DeepMind ile 7 yıl önce yollarını ayırdığını belirtti.

O tarihten bu yana aldığı teklifleri de reddettiğini aktaran Schwarz, “Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız” değerlendirmesinde bulundu.

Coxon’un istifası

Son üç yıldır yapay zeka şirketleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa ettiğini duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak amacıyla kontrolsüz bir yarış içinde olduğunu öne sürerek, “Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor” değerlendirmesinde bulunmuştu.

Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı “öldürebileceğine” ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı açıklamalar yapmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.