“Neden korkuyorlar?”
Bu soru, Milletlerarası Para Fonu (IMF) Başkanı Kristalina Georgieva’ya yöneltildi.
Washington’da düzenlenen IMF ve Dünya Bankası bahar toplantılarına çeşitli ülkelerden maliye bakanları, merkez bankası yetkilileri ve dünyanın en önde gelen finans uzmanları katıldı.
AB ve İsrail’in İran’a karşı savaşı ve Hürmüz Boğazı’nın kapanmasının ekonomik sonuçları herkesin aklındaydı.
Fakat BBC’nin ekonomi editörü Faisal Islam, kimi iştirakçilerin eşit derecede yahut hatta daha önemli biçimde diğer hususa dikkat kesildiğini aktardı.
Hepsi yeni bir yapay zeka modeli konusunda telaşlıydı. Kimilerine nazaran bu yeni yapa zeka sürümü, dünyanın finans sistemini önemli biçimde alt üst edebilirdi.
Sözkonusu modelin ismi Mythos’tu ve ABD merkezli Anthropic tarafından üretildi.
Endişe edilen şey, bu teknolojinin yanlış ellere geçmesi durumunda sonuçların yalnızca bankacılık sistemiyle kalmayabileceğiydi. İnsanların banka hesaplarını da etkileyip etkilemeyeceği sorusu da gündeme geldi.
Kullandığımız cep telefonları, tabletler ve bilgisayarlar da inançsız hale gelebilir miydi?
IMF liderine yöneltilen soru da bu husustaydı ve dünyanın en güçlü iktisadı ABD’den üst seviye yetkililer de birebir tasayı dile getirdi.
ABD Hazine Bakanı ve Merkez Bankası Lideri da New York’ta önde gelen Wall Street başkanlarıyla bir ortaya geldi ve bu yeni yapay zeka modelinin yarattığı siber güvenlik tehditleri ele alındı.
‘Evet, kaygılıyız’
CBS News sunucusu, IMF Başkanı Kristalina Georgieva ile yaptığı röportajda, modelle ilgili lisana getirilen kaygılara değindi ve “Neden korkuyorlar? Siz de telaşlı misiniz?” sorusunu yöneltti.
IMF Başkanı siber güvenlik tehditlerinin süratle arttığını söyledi ve “Evet, bundan endişeliyiz” dedi.
Washington tepesi sırasında, ABD-İsrail’in İran’a karşı yürüttüğü savaştan kaynaklanan kriz, İngiliz bankası Barclays’in CEO’su C.S. Venkatakrishnan’ın tasa listesinde üçüncü sıradaydı.
Venkatakrishnan’ın en büyük tasası, yapay zekanın “çok yaygın hale” gelip gelmediğiydi.
İran’ın Hürmüz Boğazı’nı kapatarak global piyasalarda petrol ve güç arzını aksattmasının tesirleri tüm dünyada hissediliyor.
Kanada Maliye Bakanı François-Philippe Champagne iki durumu karşılaştırdı ve “Hürmüz Boğazı’nın nerede olduğunu ve boyutlarını biliyoruz lakin Mythos’tan kaynaklanan tehlike konusunda bir netlik yok” dedi.
Peki, Mythos ne ve dünyanın finans yetkililerini ve siyasilerini neden bu kadar endişelendiriyor?
Mythos ne ve neden tehlikeli?
Claude Mythos, Amerikan teknoloji şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli.
Mythos, şirketin yapay zeka sistemi Claude içinde yer alıyor ve bu sistem, OpenAI’nin ChatGPT’si ve Google’ın Gemini’si ile rekabet ediyor.
Araştırmacılar, “Mythos’un bilgisayar güvenliğiyle ilgili inceleme yapma ve açık bulma vazifeleri yerine getirme konusunda fevkalâde yetenekli olduğuna” işaret ediyor.
Bu araştırmacılar “kırmızı ekipler” olarak bilinen güvenlik kıymetlendirme kümelerinde çalışıyordu. Yazdıkları rapora nazaran Mythos, bilgisayar kodlarındaki zımnî güvenlik açıklarını tespit etme ve bunları istismar etmenin yollarını bulma yeteneğine sahipti.
Bir öteki deyişle, sistem kullandığınız rastgele bir yazılımdaki zayıflıkları, hatta üreticinin şimdi farkında olmadığı ve düzeltmediği güvenlik açıklarını bile tespit edebiliyor.
Kırmızı takım, bu aracın onlarca yıl evvel yazılmış kodlardaki bâtın kusurları tespit edebildiğini ve bunları kolay kolay istismar edebildiğini tespit etti.
Bu nedenle, Anthropic bu modeli kullanıcılarına geniş kapsamlı bir halde sunmak yerine “dünyanın en kritik yazılımlarını garanti altına alma çabası” sözüyle, 12 teknoloji şirketine erişim verdi.
Bu şirketler ortasında Amazon Web Services, Apple, Microsoft ve Google’ın yanı sıra Nvidia ve Broadcom üzere çip imalatçıları yer aldı.
Bu erişim sayesinde, Mythos’un kullanabileceği dahil siber akınlara karşı sistemlerini güçlendirmelerine imkan tanınacaktı.
Temmuz 2024’te yanlışlı bir yazılım güncellemesi nedeniyle global çapta bir aksamaya neden olan Crowdstrike da projeye katılan şirketler ortasındaydı.
Anthropic, Mythos’a kritik yazılımlardan sorumlu 40’tan fazla kuruluşa daha erişim sağladığını duyurdu.
Anthropic, Mythos’un eğitim sürecinde öngörülemeyen kabiliyetler sergilediğini ve bunun yazılım güvenlik açıklarını daha tesirli bir halde belirlemeye ve düzeltmeye yardımcı olabileceğini savunuyor.
Ancak bu tıpkı kabiliyet önemli tasaları de beraberinde getirdi.
Bazı uzmanlara nazaran, Mythos “yanlış ellere” geçerse rastgele bir bilgisayar sistemini tehlikeye sokmak için kullanılabilir.
Kabiliyetten kaynaklanan dehşet
Anthropic, testler sırasında bu modelin siber güvenlik alanında ve siber hücumlarla ilgili misyonlarda epeyce yetenekli olduğunu ve hatta insanlardan daha güzel performans gösterdiğini açıkladı.
Anthropic, Mythos’u test ettikten sonra internet sitesinde yayınladığı bir raporda, sistemin güvenlik açıklarını, yani şimdi keşfedilmemiş kusurları tespit etme ve bunlardan yararlanma yeteneğine sahip olduğunu belirtti.
Şirketin açıklamasına nazaran Mythos “tüm büyük işletim sistemlerinde ve tüm büyük internet tarayıcılarında” güvenlik açıklarını tespit edip, bunlardan faydalanabiliyor.
Bu güvenlik açıklamalarının kimilerinin tespit edilmesi son derece sıkıntı iken Mythos “10 yahut 20 yıldır” mevcut güvenlik açıklarını bile tespit edebildi.
Bir diğer deyişle, yazılımcılardan ve kullanıcılardan onlara yıl gizlenmeyi başaran kusurlar, bu model sayesinde artık tespit edilmiş halde.
Yüksek güvenliğiyle bilinen OpenBSD işletim sistemi de bu problemden nasibini aldı ve Mythos, sistemde 27 yıldır bulunamayan bir güvenlik açığını keşfetti.
Teknoloji ve milletlerarası güvenlik uzmanı Gordon M. Goldstein, bir siber güvenlik şirketinin kurucusundan alıntı yaparak, Dış Münasebetler Kurulu için yazdığı bir makalede, “Bu model evvel açıkları tespit ediyor, akabinde bunu öteki güvenlik açıklarıyla birleştiriyor ve tespit edilmeden sistemde süresiz olarak kalabiliyor” diyor.
Goldstein “Bu halde Mythos, bir sistemin tam manasıyla denetimini ele geçirebiliyor” diye de ekliyor.
‘Sonuçları çok ağır olabilir’
Anthropic, yapay zeka alanındaki gelişmelerin suratı göz önüne alındığında, bu tıp yeteneklerin kısa müddet içinde yaygınlaşabileceği ihtarında bulundu.
Şirket bu türlü bir durumda, “ekonomi, kamu güvenliği ve ulusal güvenlik açısından sonuçlar çok önemli olabilir” diyerek hassasiyete dikkat çekti.
Yapay zeka uzmanı Goldstein ayrıyeten, dünyadaki kritik altyapının artan tehditlerle karşı karşıya olduğu konusunda da uyarıyor.
Kritik altyapı, hasar görmesi yahut bozulması durumunda ulusal güvenliği, ekonomik istikrarı ve kamu sıhhatini önemli biçimde etkileyecek fizikî yahut sanal sistemler ile ağlar olarak tanımlanıyor.
Uzmana nazaran, barajlar, nükleer reaktörler, besin dağıtım sistemleri ve elektrik şebekeleri üzere bölümler hala eski yazılımlara bağımlı.
Yapay zeka uzmanı Dan Hendrix’in ikazını hatırlatıyor ve “Mythos üzere modeller bu riskleri daha da artırıyor ve bu sistemleri çok daha savunmasız hale getiriyor” diyor.
“Bu tıp modellerle ilgili en büyük siber güvenlik telaşı, devlet dışı aktörlerin altyapıyı maksat almasını çok daha kolaylaştırmaları.”
Linux’u aştı
Anhtropic’in açıklamasındaki bir kısım en değerli ve kaygı verici kısım olarak kayda geçti.
Buna nazaran Mythos bir internet tarayıcısında dört güvenlik açığı tespit etti ve işletim sistemi güvenlik duvarlarını otomatik atlatmayı başardı.
Ayrıca öteki işletim sistemlerindeki ve Linux tarayıcısındaki güvenlik sistemlerini de atlatmayı başardı ve erişilebilir bir sunucuya saldırmanın otomatik bir yolunu tasarladı.
Cep telefonlarında kullanılan Android işletim sistemi de Linux tabanlı.
Kaygılanmalı mıyız?
Yapay zekaya ait tasalar yeni değil.
Sürekli yeni modeller ve aygıtlar piyasaya sürülüyor ve bunların hayatımızı olumlu ya da olumsuz tarafta değiştireceği söyleniyor.
Yapay zeka ve gelecekteki tesirleri hakkındaki bu kaygı ve heyecan ortamından yararlanmak, son yıllarda bu alanın ve pazarlama stratejilerinin en bariz özelliklerinden biri haline geldi.
Mythos örneğinde ise, bu umut ve kaygıların haklı olup olmadığını yahut daldaki abartının bir yansıması olup olmadığını pahalandırmak için şimdi kâfi bilgiye sahip değiliz.
Birçok bağımsız siber güvenlik uzmanı şimdi Mythos’u kendileri test edemedi ve kimileri performansı konusunda kuşkulu.
İngiltere’nin Yapay Zeka Güvenliği Enstitüsü geçtiğimiz günlerde modelin güçlü olmasına rağmen, en büyük tehdidin yetersiz korunan ve savunmasız sistemlere yönelik olacağı sonucuna vardı.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan evvel çeviriyi bir BBC gazetecisi denetim etti.
Kaynak: Haberler.com
