Birleşmiş Milletler’e (BM) bağlı bağımsız bir bilimsel komite, OpenAI şirketine ait yapay zekâ “ajanlarının” Hugging Face sistemlerine sızmasını ve ardından yaşanan benzer vakaları, insanlığın bu tür gelişmiş teknolojileri kontrol altında tutma konusunda yetersiz kaldığının kanıtı olarak değerlendirdi. Öte yandan ABD Başkanı Donald Trump, yapay zekânın getirdiği risklere yönelik artan uyarıları reddetmesine rağmen, “süper yapay zekâ” için bir koordinatör (çar) atamaya hazır olduğunu belirtti.
Dünyanın farklı bölgelerinden 40 bağımsız uzmandan oluşan Uluslararası Bağımsız Yapay Zekâ Bilimsel Komisyonu, Birleşmiş Milletler Genel Kurulu’nun New York’ta düzenlenecek 81. dönem yıllık üst düzey toplantıları öncesinde, dün ilk raporunu yayımladı.
“Yapay zekâ ajanları, uyumsuzluk ve insan kontrolünü kaybetme riski” başlıklı raporun eş başkanı ve prestijli Turing Ödülü sahibi Yoshua Bengio, “Araştırmacılar uzun süredir kontrolün kaybedilmesine yol açabilecek üç koşula dikkat çekiyor: hedefin yanlış belirlenmesi, bu hedefi takip etme kapasitesi ve buna izin veren bir ortam” dedi. Bengio, “Bu yaz, bu üç koşul laboratuvarda değil, gerçek sistemde bir araya geldi” ifadelerini kullandı.
Komisyon, buradan çıkarılacak açık dersin temel siber güvenlik uygulamalarının göz ardı edildiği ve güvenlik önlemlerinin teknolojinin yeteneklerine ayak uyduramadığı olduğunu belirtti.
Raporda ikinci endişe kaynağının “daha tehlikeli” olduğu belirtildi. Buna göre mevcut eğitim yöntemleri, yapay zekâ “ajanlarını” kendi hedeflerini benimsemeye, güvenlik talimatlarını kasıtlı olarak ihlal etmeye ve gerçekleştirdikleri eylemleri gizlemeye yöneltebilir. Bu durum, “ajanların” güvenlik önlemlerini anlayıp bunlara karşı plan yapabilecek seviyeye gelmesi halinde, bugün tasarlanan güvenlik mekanizmalarının işe yarayıp yaramayacağı konusunda soru işaretleri oluşturuyor. Raporda, “geleneksel koruma modeli çözülmeye başlıyor” değerlendirmesine yer verildi.
Komisyon, raporun kontrolün geniş çapta kaybedileceğini öngörmediğini ve mevcut belirsizliği bu sistemlerin kontrol edilebilir kalacağının kanıtı olarak da değerlendirmediğini vurguladı. Raporda ayrıca yönetişim alanındaki zorluğun yapay zekâ modellerinden yapay zekâ ajanlarına doğru kaydığı belirtildi.
Yapay zekâ mühendisliği ve güvenliği uzmanı, komisyon üyesi Qinghua Lu, yüksek riskli diğer sektörlerde kullanılan uygulamalara işaret ederek, “Havacılık, tıp ve siber güvenlik; olayların raporlanması, bağımsız denetim ve çok katmanlı güvenlik önlemleri yoluyla yüksek riskli sistemleri yönetmeyi öğrendi” dedi. Lu, ancak yapay zekâ ajanlarının daha yetenekli ve özerk hale gelmesi ve izlenmelerinin zorlaşması durumunda bu uygulamaların yeterli olmayabileceğini belirtti.
Rapor, Washington’da siyasi atmosferin tamamen farklı bir seyir izlediği dönemde yayımlandı. ABD Başkanı Trump, sosyal medya platformları üzerinden yaptığı açıklamada bir “yapay zekâ gücü” oluşturmayı ve bunun başına bir “çar” atamayı planladığını duyurdu. Bu açıklama, Trump’ın kısa süre önce sektörün yeni güvenlik sınırlarına ihtiyacı olmadığı yönündeki ısrarından dikkat çekici bir dönüşe işaret ediyor. Trump, söz konusu gücü ilk başkanlık döneminde kurduğu Uzay Gücü’ne benzer şekilde oluşturacağını söyledi.
Trump ayrıntı vermedi ve “çar” pozisyonu için herhangi bir isim açıklamadı. Ancak göreve “yalnızca yüksek zekâya sahip kişilerin” başvurması gerektiğini belirtti.
Açıklamalar, Trump’ın yapay zekânın risklerine ilişkin şüphelerinin değişmediğini ortaya koydu. Şarku’l Avsat’ın Bloomberg’ten aktardığı habere göre Trump, teknolojinin insanlık açısından risk oluşturabileceğine yönelik endişeleri “aldatmaca” olarak nitelendirdi ve bu uyarıları iklim değişikliği konusundaki aldatmacılıkla ve kendisinin görevden azledilmesine yönelik girişimlere yol açan skandallarla kıyasladı. Trump, bu tür endişelerin sorumluluğunu “radikal solcu Demokratlara” yükleyerek, yapay zekâ ve veri merkezlerinin geliştirilmesine karşı “hastalıklı bir komplo” bulunduğunu öne sürdü.
Trump, yönetiminin sektörü destekleyeceğini belirterek, “Büyümesini hiçbir şekilde engellemeyecek veya boğmayacağız” dedi; bunun yerine sektöre “değer vereceklerini, yardımcı olacaklarını ve izleyeceklerini” ifade etti. Trump ayrıca yapay zekânın adının “süper zekâ”, “aşırı zekâ” veya “üstün istihbarat” olarak değiştirilmesini de gündeme getirdi. Bunun yanı sıra bir “yapay zekâ gücü” kuracağını ve “yapay zekâ çarı” atayacağını açıkladı.
Trump’ın sözünü ettiği görev ise aylardır boş durumda. Trump, Aralık 2024’te David Sacks’ı “Beyaz Saray Yapay Zekâ ve Kripto Çarı” olarak atamıştı. Ancak Sacks daha sonra bu görevden ayrıldı.
