Anthropic’in kurucusu: Yapay zekânın insan müdahalesi olmadan gelişmesini durdurmalıyız

Clark, yapay zeka araştırma ve geliştirme için bir “fren pedalı”nın nasıl oluşturulabileceğini detaylı olarak açıklamadı ancak geçen yüzyıldaki petrol patlamasıyla bağlantı kurarak şunları belirtti:

“Toplumun tepkisi, petrolün dünyaya sağlayabileceği faydalar konusunda insanlara güven verecek makul politika ve düzenleyici bir çerçeve oluşturmak oldu.

“Böylece şirketleri yöneten kişilerin karakteri konusunda endişelenmek zorunda kalınmadı. Varacağımız yer açıkça burası.”

• Space X tarihin en büyük halka arzını hedefliyor: Elon Musk, dünyanın ilk trilyoneri olabilir mi?

Buna karşın Anthropic, bu hafta ABD Başkanı Donald Trump’ın çıkardığı ve yapay zekâ şirketlerine müdahaleleri nispeten kısıtlı tutan başkanlık kararnamesini memnuniyetle karşıladı.

Söz konusu kararnamede, yapay zekâ şirketlerinin hükümet tarafından güvenlik testlerine tâbi tutulması zorunlu kılınmadı. Bu halen gönüllü bir uygulama.

Anthropic, OpenAI ve Google dahil olmak üzere teknolojide ilerleme peşinde olan büyük yapay zeka şirketleri de kendi araştırmalarını durduracaklarını açıklamadı.

Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz için hazırlık yapıyor.

Şirketin yeni yapay zekâ firmaları arasında halka açılan ilk şirketlerden biri olması bekleniyor.

Bu gerçekleşirse tarihin en değerli halka arzlarından biri olacak.

Özel yatırımcılar Anthropic’in değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor.

Clark ayrıca Anthropic’in yapay zekâ teknolojisinin artan kapasitesi hakkında kamuoyuna açık şekilde konuşmasının amacının ücretli müşteriler nezdinde itibarını artırmak olmadığını söyledi.

Amacının yalnızca bu şirketlerin içinde, bu sıra dışı teknolojiyle ilgili neler düşünüldüğünü dünyaya anlatmak olduğunu ifade etti.

• OpenAI’ın patronu Sam Altman ile Elon Musk’ın hukuk mücadelesinde neler yaşandı?

Anthropic CEO’su Dario Amodei, şirketin kuruluşundan bu yana yapay zekadan kaynaklanabilecek potansiyel riskler konusunda açık sözlü davranıyor.

Şirket, yapay zeka araçlarının Amerikalıların kitlesel olarak izlenmesi ve otonom savaşta kullanılabileceğine dair endişeler nedeniyle ABD Savunma Bakanlığı ile kamuoyuna yansıyan bir anlaşmazlığa da girdi.

• Yapay zeka firması Anthropic, Trump yönetimine dava açtı

Clark, Newsnight’a “Toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yapmazsak çocuklarım için endişe ederim. Potansiyel olarak büyük faydalar var. Aynı zamanda riskler de var” dedi.

Ayrıca risklerden birinin ekonomik düzende yaşanabilecek bir sarsıntı olduğunu belirtti.

“Ajanlar” olarak adlandırılan ve belirli görevleri kısmen otonom biçimde yerine getiren yapay zeka araçlarının bazı işleri devralabileceği yönündeki endişelere işaret etti.

‘Yaratıcı kişiler avantajlı olacak’

Büyük teknoloji şirketleri son bir yılda, çoğu zaman yapay zeka araçlarının yüzlerce hatta binlerce yazılım mühendisinin işini yapabilme kapasitesi nedeniyle toplu işten çıkarmalar gerçekleştirdi.

• AI2027 senaryosu: Yapay zeka insanlığın sonunu nasıl getirebilir?

Clark, daha yaratıcı olan ve daha iyi fikirler üretebilen kişilerin aslında yapay zeka teknolojisine karşı avantajlı olabileceğini söyledi.

“Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağı konusunda açık sorular var… Bunun için henüz gerçekten bir kanıt yok” dedi ve ekledi:

“Anthropic’te artık daha çok iyi fikir üretme kapasitesinde sınırımız var; bu fikirleri gerçeğe dönüştürecek mühendislik kapasitemizde değil.”

Buna rağmen Clark, yapay zeka temelli bir ekonomide kendine yer olmadığını düşünen gençlere “bir hobi geliştirmesini” ve sosyal bilimler odaklı bir eğitim almasını önerdi.

Clark, “Yaratıcı olan, geniş düşünebilen, çok okuyan ve farklı ilgi alanlarına sahip insanlar bu süreçten en çok fayda sağlayanlar” dedi.

“Merakı teşvik edin. Bu, bu teknolojiyi nasıl kullanabileceğiniz konusunda size geri döner.”