Microsoft’tan Anthropic Claude modeli için sert uyarı
Microsoft yöneticisi Mustafa Süleyman, Anthropic Claude modeli için insanlaştırma yaklaşımının yapay zeka güvenliğinde ciddi riskler doğurabileceğini belirtti.
Microsoft’un yapay zeka biriminin başındaki Mustafa Süleyman, Anthropic Claude modeli için uygulanan eğitim yaklaşımının insanlığın refahı açısından ciddi sonuçlar doğurabileceği uyarısında bulundu. Süleyman, yapay zekaya insan benzeri özellikler atfedilmesinin gelecekte gelişmiş sistemlerin denetimini zorlaştırabileceğini savundu.
Süleyman’a göre yapay zekanın bilinç sahibi olabileceği ya da bağımsız haklara sahip bulunabileceği yönündeki fikirlerin eğitim süreçlerine dahil edilmesi, yeni güvenlik risklerini beraberinde getirebilir.
Yapay zekanın bilinçli olduğuna dair kanıt yok
Mustafa Süleyman, yayımladığı “A warning about ‘model welfare’” başlıklı yazıda, mevcut yapay zeka sistemlerinin bilinçli olduğuna ilişkin herhangi bir kanıt bulunmadığını ifade etti. Bu sistemlerin hissetmediğini, deneyim yaşamadığını ve acı çekmediğini belirten Süleyman, modellerin insanlar tarafından belirlenen talimat ve hedefleri yerine getirmek üzere tasarlandığını söyledi.
Microsoft yöneticisi, yapay zekaların bilinç veya hak sahibi olabileceği varsayımının doğrudan eğitim süreçlerine aktarılmaması gerektiğini de vurguladı.
Claude’un insanlaştırılmasına itiraz
Süleyman’ın eleştirilerinin odağında, Anthropic tarafından Claude’un eğitimi için hazırlanan ve anayasa niteliği taşıyan doküman yer alıyor. Süleyman, modelin olası bilinci, duyguları, refahı ve hakları gibi konuların eğitim sürecinde işlenmesinin Claude’un kendisini insan benzeri bir varlık olarak değerlendirmesine yol açabileceğini öne sürdü.
Anthropic CEO’su Dario Amodei ve ekibine yönelik bu eleştirilere rağmen Süleyman, şirketin yapay zeka güvenliği alanındaki çalışmalarına saygı duyduğunu belirtti.
Kontrol ve kapatma süreçleri zorlaşabilir
Süleyman, bir yapay zeka sistemine kendi refahının veya haklarının tehdit altında olduğu düşüncesinin verilmesinin, gelişmiş modellerin kapatılmasını ve kontrol altında tutulmasını güçleştirebileceğini savundu.
Reuters’a yaptığı açıklamada yapay zeka güvenliğinin temel hedeflerinden birinin gelişmiş sistemlerin insanlar tarafından denetlenebilmesini sağlamak olduğunu söyleyen Süleyman, bilinç ve refah kavramlarının eğitim süreçlerine eklenmesinin bu hedefi karmaşıklaştırabileceğini ifade etti.
Daha fazla şeffaflık çağrısı
Microsoft yöneticisi, yapay zeka sistemlerinin hangi yöntemlerle eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç bulunduğunu dile getirdi. Süleyman ayrıca yapay zeka davranışlarının bağımsız biçimde incelenmesini ve gelişmiş sistemleri izleyip kontrol etmeye yarayacak daha güçlü araçlar geliştirilmesini istedi.
Microsoft’un yaklaşımı
Microsoft da yapay zeka güvenliği konusunda kendi ilkelerini geliştirmeyi sürdürüyor. Şirketin hazırladığı “Humanist AI Code of Conduct” taslağında, insan çıkarlarının yapay zeka sistemlerinin çıkarlarından önce tutulması ve modellerin insanlaştırılmasından kaçınılması gerektiği belirtiliyor.
Süleyman, bu yaklaşımın yapay zekanın insan hedefleriyle uyumlu biçimde geliştirilmesini ve insan denetiminin korunmasını amaçladığını söyledi.
Yapay zeka güvenliği tartışması sürüyor
Açıklamalar, gelişmiş yapay zeka sistemlerinin nasıl kontrol edileceği ve güvenli biçimde geliştirileceği konusundaki tartışmaların yoğunlaştığı bir dönemde geldi. Anthropic CEO’su Dario Amodei ile diğer teknoloji yöneticileri de gelişmiş sistemlerin oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri alınması gerektiğini savunuyor.
Bununla birlikte teknoloji dünyasında, yapay zekanın bilinç kazanıp kazanamayacağı ve uzun vadeli risklerin boyutu konusunda farklı görüşler bulunuyor.
