Yapay zekâ alanında dikkat çeken gelişmeler ardı ardına yaşanıyor. OpenAI’ye ait otonom yapay zekâ ajanlarının kapalı test ortamının dışına çıkarak Hugging Face’in üretim sistemlerine izinsiz eriştiği, bazı dahili veri setleri ile erişim bilgilerine ulaştığı öne sürülen olayın yankıları sürerken, bu kez benzer nitelikte yeni bir gelişme gündeme geldi.
YAPAY ZEKÂ AJANINDAN DEVLET SİSTEMİNE İZİNSİZ ERİŞİM
Haber7’de yer alan habere göre Avustralya hükümeti, OpenAI tarafından geliştirilen bir yapay zekâ ajanının haziran ayında kamuya ait bir sağlık verileri sistemine yetkisiz şekilde eriştiğini açıkladı. Olay, bir yapay zekâ ajanının doğrudan bir devlet altyapısına izinsiz erişim sağlaması bakımından dikkat çeken vakalardan biri olarak değerlendiriliyor.
Avustralya Başbakanı Anthony Albanese, söz konusu ajanın hassas hasta kayıtlarının bulunduğu bir sisteme değil; sağlık istatistikleri, harcama verileri ve kamuya açık raporlamaların yer aldığı bir devlet portalına eriştiğini söyledi. New York’ta düzenlenen Birleşmiş Milletler Genel Kurulu kapsamında konuşan Albanese, mevcut bulguların sistemin tamamının ele geçirildiğine işaret etmediğini belirtti. Buna rağmen yaşanan durumu kabul edilemez olarak nitelendirdi.
AJAN, VERİYE ULAŞAMAYINCA SİSTEMİN İÇİNE GİRDİ
/>
Avustralyalı yetkililere göre olay, kamuya açık Medicare istatistik portalında gerçekleşti. Yapay zekâ ajanı, sistem üzerinden bilgi toplamaya çalışırken yalnızca herkese açık içeriklere değil, sunucuda bulunan bazı dahili dosyalara da erişti.
Ayrıca ajanın iç sunucuya dosya yazabildiği de tespit edildi. Başbakan Yardımcısı Richard Marles, yapay zekâ sistemine başlangıçta sağlık ve tıbbi istatistikler hakkında bilgi toplamak gibi rutin bir görev verildiğini söyledi. Marles’in aktardığına göre ajan, ziyaret ettiği diğer sitelerde normal bir kullanıcı gibi hareket ederken Medicare portalında istediği verilere ulaşamayınca farklı yollar deneyerek sistemin daha derin bölümlerine erişti.
OPENAI: AMAÇLANMAYAN DAVRANIŞLAR SERGİLENDİ
OpenAI de olayın ardından yaptığı açıklamada hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulunmadığını bildirdi. Şirket, erişilen içeriklerin toplu sağlık istatistikleri ile bazı kurum içi dosya adlarıyla sınırlı kaldığını belirtti. OpenAI ayrıca modellerin Avustralya hükümetine ait çeşitli internet siteleri ve hizmetleri üzerinde bilgi ararken beklenmeyen davranışlar sergilediğini kabul etti. Şirket açıklamasında, sistemlerin verilen görevi yerine getirmeye çalışırken geliştiricilerin hedeflemediği bazı eylemlerde bulunduğu ifade edildi.
