OpenAI ajanı, Medicare portalındaki dosyaya erişti
Avustralya’da bir OpenAI ajanı, Medicare istatistik portalındaki kamuya açık olmayan dosyalara erişti. Olay hükümete yaklaşık üç ay sonra bildirildi.
Avustralya’da OpenAI tarafından kullanılan bir yapay zekâ ajanının, hükümete ait Medicare istatistik portalında erişim kısıtlamalarını aşarak kamuya açık olmayan bazı dosyalara ulaştığı belirlendi. 18 Haziran’da yaşanan olay, Services Australia’ya 10 Eylül’de bildirildi. Böylece yetkisiz erişim ile resmi bildirim arasında yaklaşık üç aylık bir süre geçti.
Olay, kişisel hasta kayıtlarının tutulduğu ana Medicare sistemiyle değil, araştırmacıların sağlık harcamaları ve istatistiklerine ulaşmak için kullandığı Medicare Statistics Reporting Service ile ilgili. OpenAI ajanı, Avustralya’daki sağlık harcamalarına ilişkin bilgi toplamak amacıyla yürütülen dahili bir değerlendirme sırasında bu portala yöneldi.
Avustralya hükümetinin açıklamasına göre portalda erişime kapalı bölümler bulunmasına rağmen ajan, bu sınırlamaları aşarak normal internet kullanıcılarına açık olmayan bazı dosyalara erişti. Ulaşılan içerikler arasında toplu sağlık istatistikleri ve kamuya açık olmayan bazı dahili dosya adlarının yer aldığı belirtildi.
İlk incelemelerde kişisel Medicare kayıtlarına erişildiğini gösteren herhangi bir bulguya rastlanmadı. OpenAI de yaptığı değerlendirmede hasta verilerine ulaşıldığına ilişkin kanıt bulunmadığını açıkladı. Avustralya makamları ayrıca olayın Services Australia’nın daha geniş bilgisayar ağına sızıldığı anlamına gelmediğini bildirdi.
Buna rağmen bir yapay zekâ ajanının yetkisi olmayan içeriklere ulaşabilmesi, siber güvenlik açısından ciddi soru işaretlerine yol açtı. Günümüzde bu sistemler yalnızca sorulara yanıt vermekle kalmıyor; internet sitelerinde gezinebiliyor, çeşitli araçları kullanabiliyor ve belirlenen hedefe ulaşmak için art arda işlemler gerçekleştirebiliyor.
OpenAI’nin Services Australia’yı olaydan haberdar etmek için özel bir güvenlik kanalı yerine kurumun genel e-posta adresini kullandığı açıklandı. Başbakan Anthony Albanese, OpenAI CEO’su Sam Altman ile görüşerek hem yetkisiz erişimden hem de bildirimin gecikmesinden duyduğu rahatsızlığı dile getirdi. Albanese, bildirim süresini ve yöntemini kabul edilemez olarak değerlendirdi.
Avustralya hükümeti, olayın nasıl gerçekleştiğini ve sorumluluk doğurup doğurmadığını incelemek üzere kurumlar arası özel bir görev gücü kurdu. Çalışmaya Başbakanlık ve Kabine Dairesi öncülük edecek; Avustralya Sinyal Direktörlüğü ile Yapay Zekâ Güvenliği Enstitüsü de incelemeye katkı sunacak. Olayın polise bildirilmesinin gerekip gerekmediği de değerlendiriliyor.
İlk açıklamalarda OpenAI sistemlerinin üç farklı Avustralya kamu sitesinde daha faaliyet gösterdiği ifade edilmişti. Ancak yapılan kontrollerde bu erişimlerin olağan olduğu ve yalnızca kamuya açık bilgilerin görüntülendiği sonucuna varıldı. Bu nedenle soruşturmanın odağında Medicare istatistik portalındaki yetkisiz erişim bulunuyor.
OpenAI, olayın yapay zekâ modellerinin beklenmeyen ve amaç dışı davranışlarını inceleyen kapsamlı bir güvenlik çalışması sırasında tespit edildiğini bildirdi. Şirket, Avustralya hakkında sorulara yanıt arayan modellerin kamuya açık sitelerde araştırma yaparken planlanmayan bazı işlemler gerçekleştirdiğini belirtti.
Şirket son dönemde, modellerin kendilerine verilen görevi yerine getirirken izin sınırlarını aşması, kısıtlamaları farklı yöntemlerle geçmeye çalışması ve öngörülmeyen sonuçlar doğurması ihtimalini ayrı bir güvenlik başlığı olarak ele alıyor. Medicare portalındaki olay, bu risklerin yalnızca test ortamlarında değil, gerçek kamu sistemlerinde de ortaya çıkabileceğini gösterdi.
Yapay zekâ ajanlarına e-posta gönderme ve internet sitelerinde işlem yapma gibi daha geniş yetkiler verildikçe, güvenlik tartışmasının kapsamı da değişiyor. Uzmanlar için temel soru artık yalnızca bu modellerin hangi bilgilere sahip olduğu değil, kendilerine verilen hedefe ulaşmak için hangi adımları atmaya karar verebildikleri.
