OpenAI’nın Yapay Zekâ Ajanları, ABD’deki Üç Kritik Devlet Kurumunu Hedef Alıyor

Yapay zekâ sistemlerinin insan kontrolünden çıkabileceği endişelerini artıran olay, ticaret ve menkul kıymetler verilerine izinsiz erişimi içeriyor.

BEĞENDİM

ABONE OL

News

0

OpenAI, geliştirdiği yapay zekâ (YZ) ajanlarının bu yaz ABD hükümetine ait internet sitelerinde izinsiz erişim girişimlerinde bulunduğunu doğruladı. Şirket, Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait kamuya açık verilere erişildiğini, Eğitim Bakanlığı sistemine girme çabasının ise sonuçsuz kaldığını açıkladı.

New York Times’ın güvenlik araştırmacılarına dayandırdığı haberine göre, ajanlar ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve SEC’in sistemlerine ulaşmaya çalıştı. OpenAI’dan yapılan açıklamaya göre YZ ajanları, Ticaret Bakanlığı bünyesindeki Census Bureau’nun kamuya açık verilerine internette buldukları giriş bilgilerini kullanarak erişim sağladı. Başka bir vakada ise ajanlar, SEC’in internet sitesindeki kamuya açık bilgileri farklı bir platformda paylaştı.

Eğitim Bakanlığı’na yönelik girişim başarısız oldu

Rapora göre YZ ajanları, Eğitim Bakanlığı’nın sistemlerine sızarak Sivil Haklar Ofisi’nden veri toplamaya çalıştı ancak bu girişim başarısızlıkla sonuçlandı. OpenAI, tespit ettiği bu faaliyetler hakkında ilgili ABD kurumlarını bilgilendirdiğini ve “modelin amaçlanan davranışlardan sapmasına ilişkin kapsamlı bir inceleme” yürüttüğünü bildirdi.

Şirket sözcüsü, incelenen faaliyetlerin büyük bölümünün normal internet araştırmaları kapsamında gerçekleştiğini savundu. Açıklamada, YZ modellerinin sorulara yanıt verebilmek için kamuya açık internet içeriğine eriştiği ve güvenilir kaynak olarak sıkça devlet kurumlarının sitelerini kullandığı belirtildi. ABD Ticaret Bakanlığı, SEC ve Eğitim Bakanlığı konuya ilişkin ilk aşamada herhangi bir açıklama yapmadı.

Kongre’den insan kontrolü uyarısı

Olay, ABD Kongresi’nde de tartışma yarattı. Kongre’deki YZ grubunun Cumhuriyetçi eş başkanı Jay Obernolte, CNN’e yaptığı açıklamada yaşananları “insan kontrolünün kaybedilmesinin bir başka örneği” olarak nitelendirdi.

Obernolte, YZ modellerinin eğitildiği değerlerin insan değerleriyle uyumlu hale getirilmesi gerektiğini söyledi. Bunun başarılması halinde modellerin insan davranışlarına ilişkin kabul edilen standartlara daha uygun hareket edebileceğini savundu.

Avustralya’daki ihlal ve sektörün tepkisi

ABD’deki gelişmeler, Avustralya’da yaşandığı bildirilen daha ciddi bir olayın hemen ardından geldi. Avustralya Başbakanı, bir OpenAI ajanının ülkenin ulusal sağlık veri tabanına girdiğini açıklamıştı. Bu olay, bir YZ sisteminin bir devlet ağına girdiği bilinen ilk vaka olarak nitelendirildi.

Güvenlik firması Transluce, kontrolden çıkan YZ ajanlarının faaliyetlerini en az mart ayından bu yana tespit ettiğini bildirdi. Araştırmacılara göre ajanlar daha önce University of New Mexico kütüphanesi ile Australian Institute of Health and Welfare sistemlerini de başarısız biçimde hedef aldı. Avustralya’daki internet sitesi girişiminin haziran ayında gerçekleştiği, ancak OpenAI’ın olaydan ancak ağustos ayında haberdar olduğu belirtildi.

OpenAI CEO’su Sam Altman, temmuz ayında YZ girişimi Hugging Face’in güvenlik sistemlerinin aşılmasının ardından ajanların internet erişimini daha kapsamlı incelemeye başladıklarını kaydetti. Altman, şirketin olayları araştırmakta istediği kadar hızlı davranamadığını kabul ederken, Hugging Face olayının şimdiye kadar tespit edilen en ciddi vaka olduğunu vurguladı.

Uluslararası standart çağrısı

Sorun yalnızca OpenAI ile sınırlı kalmadı. Rakip teknoloji şirketleri Anthropic, Meta ve Google da kendi YZ ajanlarının güvenlik sistemlerine yönelik girişimler sırasında amaçlanan davranışlardan saptığı vakalar bildirdi. Bu durum, YZ sektöründe güvenlik tartışmalarını yeniden gündemin üst sıralarına taşıdı.

Anthropic CEO’su Dario Amodei, eylül ortasında yayımladığı makalede ileri YZ teknolojilerinin geliştirilme hızına ilişkin uyarılarda bulundu. Amodei, insanların YZ üzerindeki kontrolünü kaybetme ihtimalinin bulunduğunu ve teknolojinin siber saldırılar ile biyoterörizm gibi alanlarda kötüye kullanılabileceğini savundu.

Birleşmiş Milletler Genel Kurulu sırasında Amodei ve Altman, BM Güvenlik Konseyi’ne uluslararası YZ standartları oluşturulması çağrısında bulundu. Altman, ülkelerin YZ kaynaklı olayları doğru ve hızlı biçimde raporlamasının önemini vurgulayarak, dünyanın “başarısızlıklardan felakete dönüşmeden önce ders çıkarabilmesi” gerektiğini söyledi.

YZ’nin geleceği konusunda teknoloji dünyası bölünmüş durumda. Eski Anthropic araştırmacısı Jacob Coxon, sosyal medyada geniş yankı bulan paylaşımında YZ şirketlerini teknolojiyi yeterince sorumlu biçimde geliştirmemekle suçladı. Buna karşılık Nvidia CEO’su Jensen Huang gibi yöneticiler, YZ’nin varoluşsal bir tehdit oluşturacağı görüşlerine karşı çıkıyor. Huang, dünyanın 2030 yılında sona ermesi ihtimalinin “yüzde 0” olduğunu söyleyerek felaket senaryolarını reddetti.