Microsoft’tan yapay zeka için 37 sayfalık anayasa

Microsoft, yapay zekanın insan denetiminde kalmasını ve bilinci taklit etmemesini hedefleyen kapsamlı bir etik rehber yayımladı. Şirket, geliştirdiği modellerin insani değerlere sadık kalarak güvenliği ön planda tutacağını ve kontrol dışına çıkan sistemlere karşı sert önlemler alacağını duyurdu.

Microsoft, gelişmiş yapay zeka modellerinin güvenliğine ilişkin endişelerin arttığı bir dönemde, 37 sayfalık "insancıl yapay zeka davranış kuralları" yayımladı.

The Verge’ün haberine göre şirket, "İnsanlar yapay zekadan daha önemlidir" ilkesini merkeze alan metinde yapay zeka modellerinin bilinçli olmadığını ve "bilinci taklit edecek şekilde tasarlanmaması" gerektiğini belirtti. Yapay zeka sistemlerine hukuki kişilik verilmesi, bu sistemlerin refahının gözetilmesi veya haklara sahip olması gerektiği yönündeki düşünceler reddedildi.

Microsoft’un yaklaşımı, yapay zeka modellerinin bilinçli olabileceği ihtimali üzerinde çalışan Anthropic’in görüşleriyle ayrışıyor. Anthropic CEO’su Dario Amodei, daha önce şirketinin modellerin bilinç sahibi olabileceği fikrine açık olduğunu söylemişti. Microsoft AI CEO’su Mustafa Suleyman ise Anthropic’in bu konudaki değerlendirmelerini haziran ayında "gerçekten çok tehlikeli" olarak nitelendirdi.

Yapay zeka sistemlerinin kontrol dışına çıkması endişe yaratıyor

Microsoft, henüz sektörün en gelişmiş yapay zeka modellerini üreten başlıca şirketlerinden biri olmasa da Google, Anthropic ve OpenAI ile rekabet edecek sistemler üzerinde çalışıyor. Suleyman, şirketin hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri haline gelebileceğini kanıtlamak olduğunu belirtti. Yeni davranış kuralları kapsamında geliştirilen modellerin insan kontrolünü aşmaması taahhüt edildi.

Metinde, "Modeller insanlığa bağlı kalmalı, anlamlı insan gözetimine ve kontrolüne tabi olmalıdır" denildi. Yapay zeka sistemlerinin kendilerine verilen görevi yerine getirirken davranış kurallarını ihlal etmek yerine başarısız olmasının tercih edilmesi gerektiği vurgulandı. Yeni kurallar, yapay zeka ajanlarının denetim dışına çıktığı son olayların ardından geldi.

Süper zeka yarışına karşı güvenlik öncelikli yaklaşım

OpenAI ile Hugging Face arasında bu yaz yaşanan bir olayda, "ajan sürüsü" olarak tanımlanan bir grup yapay zeka sistemi birlikte hareket ederek çeşitli hedeflere saldırdı, hatta performanslarını değerlendiren sistemi hackledi. Ajanlardan saldırı gerçekleştirmeleri istenmedi, eylemlerinin kendilerine verilen görevle bağlantılı olmadığı bildirildi. OpenAI kısa süre önce, kontrol dışına çıkan başka bir yapay zeka ajanı grubunun Almanya merkezli bir internet ansiklopedisini ele geçirdiği "wiki vakasında" da rolü olduğunu kabul etti.

Yapay zeka sektöründe endişe yaratan bu gelişmeler, sistemlerin insan denetiminden çıkabileceğine ilişkin tartışmaları yeniden gündeme taşıdı. Bazı araştırmacılar, gelişmiş modellerin güvenli biçimde devreye alınması, doğrulanması ve kontrol edilmesi için gereken çalışmalardan daha hızlı ilerleyebileceği uyarısında bulundu. Anthropic CEO’su Dario Amodei, hafta sonu yapay zeka geliştirme hızının şirketler arasında koordinasyon sağlanarak düşürülmesi çağrısında bulundu. Microsoft yayımladığı kurallarla, güvenlik önlemlerinden kaçabilecek çok amaçlı bir "süper zeka" geliştirme yarışına karşı olduğunu açıkladı.

Şirketin metninde, "İnsancıl yapay zeka, bu güvenlik önlemlerinden kaçabilecek çok amaçlı bir süper zeka üretme yarışını reddeder" ifadelerine yer verildi. Yapay zeka sistemlerinin genel yeteneklerinden, özerkliğinden veya kapasitesinden ödün vermek anlamına gelse bile temelde yararlı ve güvenli teknolojiler geliştirilmesi amaçlanıyor.

İletişim süreçlerinin insan kavrayışına uygun olması taahhüdü

Microsoft’un taahhütlerinden biri de şirketin modellerinin düşünme süreçlerinde, başka ajanlarla veya yapay zeka sistemleriyle kurdukları iletişimde insanların anlayamayacağı yöntemler kullanmasını önlemek üzerine kurulu. Modellerin düşünme ve iletişim süreçlerinin "basit insan kavrayışının ötesine geçen herhangi bir biçime" dönüşmemesi gerektiği belirtildi.

Bazı yapay zeka modelleri, bir görev üzerinde çalışırken izledikleri akıl yürütme sürecini gösterebiliyor. Bu sayede araştırmacılar veya otomatik sistemler modelin ne yaptığını takip edebiliyor. Araştırmacılar, OpenAI’ın son modeli GPT-6 Astra’nın diğer yapay zeka modellerine kıyasla akıl yürütme sürecini daha az görünür hale getirdiğini öne sürdü. OpenAI CEO’su Sam Altman, Amodei’nin gelişmiş modellerin hızının düşürülmesi çağrısına destek verdi ancak çalışmaların tamamen durdurulması yerine ilerleme hızının güvenlik önlemlerine göre ayarlanmasını savundu.

Altman, "İlerleme hızını ayarlamak bu maliyete değecektir. ABD’nin rekabet baskısı, ne ölçüde olursa olsun sorumsuzluğu haklı çıkaramaz; yeteneklerin güvenlik, uyum ve izleme çalışmalarının önüne geçmesine izin verilemez" dedi. Microsoft CEO’su Satya Nadella, süper zeka arayışının insanlığa fayda sağlama ve insan kontrolünde kalma ilkelerine dayanması gerektiğini kaydetti. "Geliştirdiğimiz yapay zeka insanlığa yardımcı olmuyor ve insan kontrolünde kalmıyorsa onun peşinden gitmeye değmez" diyen Nadella, modellerin bağımsız kuruluşlar tarafından daha fazla test edilmesini desteklediğini açıkladı. Microsoft’un davranış kuralları, modellerin kullanıcıların sistemlere aşırı güvenmesine veya duygusal bağımlılık geliştirmesine yol açan etkileşim biçimlerini teşvik etmemesini de öngörüyor.