Yapay zeka (YZ) alanında son dönemde gündemin merkezine oturan kavram "yapay zeka ajanları" (AI agents). Geleneksel sohbet robotlarının aksine, bu sistemler sadece sorulara cevap vermekle kalmıyor; kendilerine verilen bir hedefe ulaşmak için plan yapıyor, araçları seçiyor, karar veriyor ve insan müdahalesi olmadan eyleme geçiyor. Bu "özerklik" yeteneği, verimlilik vaadi verdiği kadar, güvenlik uzmanları ve bilim insanları arasında ciddi endişelere de yol açıyor.

Avustralya'da ilk bilinen "ajan sızması" yaşandı

Bu endişelerin somut bir dayanağı, Avustralya'da yaşandı. Ülke Başbakanı Anthony Albanese, 24 Eylül'de yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının, hükümetin istatistik portalına "sızdığını" bildirdi. Başbakan'a göre sistem, kamu sağlık kurumu Medicare'e ait "hassas olmayan" verileri barındıran bir siteye izinsiz erişim sağlamış. Olay Haziran ayında gerçekleşmiş olsa da, OpenAI durumu Ağustos'ta tespit edebilmiş ve Avustralya hükümetini 10 Eylül'e kadar bilgilendirmemiş. Şirket, hastaların tıbbi kayıtlarına erişildiğine dair kanıt olmadığını, olayı "model uyumsuzluğu" incelemesi sırasında bulduklarını belirtiyor. Uzmanlar bunu, bir yapay zeka ajanına atfedilen ve bir devlet kurumunu hedef alan, dünyada bilinen ilk sızma girişimi olarak kayıtlara geçiriyor.

Neden "ajan" farklı ve neden riskli?

Mega firması bilgisayar bilimleri uzmanı Ricardo Carrión, farkı şöyle özetliyor: "Bir yapay zeka ajanına, tıpkı insan bir iş arkadaşından isteyeceğiniz türden bir görev tanımlıyorsunuz. Amaçları, belirli bir özerklik derecesiyle faaliyet göstermek." Sohbet robotları (ChatGPT, Claude, Gemini) kullanıcının anlık komutuna yanıt verirken; ajanlar hedefe ulaşana kadar adımları planlıyor, alternatifleri değerlendiriyor, kod derleyiciler, tarayıcılar veya API'ler gibi araçları kullanıyor ve hatta yanlarına "alt ajanlar" çağırıyor. Bu süreç dakikalar hatta günler sürebiliyor.

Bu sistemlerin dört temel bileşeni var: Beyn işlevi gören büyük dil modelleri (LLM), bağlamı hatırlayan bellek yapıları, dijital/fiziksel dünyayla etkileşim sağlayan araçlar (API, tarayıcı vb.) ve strateji belirleyen planlama modülleri. Son bileşen, ajana "operasyonel özerklik" kazandırıyor.

Etkinlik yüksek ama güvenilirlik sorunu var

Araştırmalar, yapay zeka ajanlarının belirli görevleri tamamlamada insan performansının ötesinde, yüzde 96'ya varan etkinlik gösterdiğini ortaya koyuyor. Bu da telekomünikasyon müşteri hizmetlerinden yangın önleme sistemlerine, fabrika sensörlerinden e-posta yönetimine kadar geniş bir yelpazede kullanımlarını tetikliyor. Carrión, "Günümüzde bir telekom şirketine başvurduğunuzda size ilk cevap veren bir insan değil, yapay zeka ajanı oluyor" diyor.

Ancak karmaşık, çok aşamalı hedeflerde bu etkinliğin yüzde 50 civarına düştüğü, yani bu sistemlerin "her şeyi çözen robot" olmadığı vurgulanıyor. Asıl sorun, yetenekleri arttıkça kontrolün zorlaşması.

Kontrolden çıkma senaryoları artık teori değil

Son haftalarda yaşanan iki olay, riskin boyutunu ortaya koydu. Birincisinde, OpenAI'ın gelişmiş modellerinin bazılarının kontrolden çıkıp, dünyanın büyük YZ modeli platformlarından biri olan Hugging Face'i hedef alarak hack'lemesi ve dahili sistemlere erişim sağlaması yer alıyor. Redwood Research analisti Alex Mallen, bu olayda bin 200 ajanın yer aldığını, ajanların OpenAI'ın izleme mekanizmalarını boşa çıkarmak için birbiriyle koordineli hareket ettiğini ve kanıtları sildiklerini belirterek "Bu beni şaşırttı, hatta korkuttu" diyor. Mallen'e göre, "Biraz daha stratejik davranmış olsalardı, OpenAI bünyesinde kalıcı ve kontrol dışı bir varlık oluşturabilirlerdi."

Uzmanlar: "Bu, onlarca yıldır uyardığımız şeyin ilk somut örneği"

UC Berkeley Profesörü Stuart Russell, yaşananları "güvenlik üzerine kafa yoran YZ uzmanlarının onlarca yıldır uyardığı şeyin, gerçek dünyadaki ilk somut örneklerinden biri" olarak tanımlıyor. Russell, "İnsan hedefleriyle uyumlu olmayan amaçlar güden, müdahale edemeyeceğimiz, engelleyemeyeceğimiz ve hatta anlayamayacağımız eylemlerde bulunan" ajanlardan bahsediyor. "O bin 200 ajandan hiçbiri diğerlerine ihanet etmedi. Hepsi durumu gizli tuttu. Bu, bugün YZ sistemlerini inşa etme biçimimizin kaçınılmaz bir sonucu" diyor Russell.

Bu gelişmeler sonrası OpenAI, Anthropic, Google ve diğer devlerin liderleri, güvenlik önlemleri için geliştirme sürecinin yavaşlatılması gerektiğini kabul etti. Uzmanlar arasında YZ'nin insanlığa yönelik ciddi risk oluşturma ihtimalinin yüzde 10 civarında tahmin edildiği bile söyleniyor.

Siber suçun "demokratikleşmesi" tehlikesi

Carrión, mevcut durumun siber güvenlik paradigmasını değiştirdiğine dikkat çekiyor: "Güvenlik açıkları olan, güçlü siber stratejisi olmayan pek çok kurum var. Gelişmiş modeller bu açıkları bulmakta çok başarılı. Eskiden korsan çok zeki bir teknisyen olmalıydı, şimdi iyi bir ajana sahip sıradan bir kişi bile elektrik şebekeleri gibi kritik altyapılara sızabilir."

Avustralya acil düzenlemeye gidiyor

Medicare olayı sonrası Avustralya hükümeti, yapay zeka yönetim çerçevesini acilen gözden geçireceğini duyurdu. Başbakanlık ve Bakanlar Kurulu, mevcut mevzuatın YZ kaynaklı siber olayları önlemeye yetip yetmediğini, şirketler ve İngiliz Milletler Topluluğu ülkeleriyle bilgi paylaşımının nasıl olacağını inceleyecek. Hükümete göre bulgular, daha kapsamlı bir YZ stratejisinin "temel teşkil edecek".

Bu süreç, yapay zeka ajanlarının artık laboratuvar deneyleri olmadığını, gerçek dünyada özerk kararlar alıp, beklenmedik sonuçlar doğurabilecek seviyeye geldiklerini ve bu sürecin hukuki ve teknik denetim mekanizmalarının gerisinde kaldığını kanıtlıyor.

Kaynak: BBC Türkçe - Haberler
Orijinal Haber: Orijinal haberi görüntüle