Yapay Zeka Devriminde Kritik İstifa Dalga Hızıyla Sürüyor

Yapay zeka alanında yaşanan istifa dalgası, sektörde ciddi endişeleri beraberinde getiriyor.OpenAI ve Anthropic'te görev yapan önemli isimler, şirketlerin yapay zekanın güvenliği ve insanlık üzerindeki potansiyel riskleri konusunda açık uyarılarda bulunarak görevlerinden ayrıldı. Anthropic'in güvenlik araştırma ekibine liderlik eden Mrinank Sharma, yaptığı açıklamada 'Dünya tehlike altında' ifadesini kullanırken, yapay zeka ve biyolojik silahların ötesinde, birçok krizin eş zamanlı ilerlediğine dikkat çekti. Sharma, insanlığın karar verme becerilerinin gelişmesi gerektiğinin altını çizdi.

Şirket içi deneyimlerini aktaran Sharma, değerlerin karar alma süreçlerinde her zaman etkili olmasının zor olduğunu belirtti. Bu açıklamalar, dünya genelinde yapay zekanın yaygın kullanılmasıyla beraber, biyoterörizm ve aşırı uyum gibi risklerin de artacağını gösteriyor. Anthropic, özellikle yazılımcılar ve iş dünyası tarafından kullanılan Claude adlı sohbet robotu ile ön plana çıkıyor. Ayrıca, yapay zekanın insanlar üzerindeki duygusal bağımlılığı ve biyoterörizm risklerine karşı geliştirdiği savunma mekanizmalarıyla gündemde.

İngiltere merkezli The Times'dan alınan bilgilere göre, OpenAI'de ürün ve güvenlik alanında çalışan Zoë Hitzig de istifasını kamuoyuna duyurdu. Hitzig, ChatGPT’ye entegre edilen reklam ve kullanıcıların mahrem bilgilerinin paylaşılması konusundaki derin endişelerini dile getirirken, kullanıcıların en mahrem düşüncelerini sohbet botlarıyla paylaşması ve bunun manipüle edilme riskleri, dikkat çekiyor. Üstelik, yapay zekanın insanlara ne kadar zarar verebileceği konusunda uzmanlar endişelerini dile getiriyor. Önde gelen kampanya grubu ControlAI'nin CEO'su Andrea Moretti, şirketlerin 'süper zeka' geliştirme hedeflerinin, insanlık için varoluşsal risk oluşturduğunu söylüyor. Ayrıca, OpenAI teknik ekibinde görev yapan Hieu Pham da, yapay zeka teknolojisi geliştikçe, insanlara ne kalacağı sorusunu sormaktan kendini alamıyor.