“Neden korkuyorlar?”
Bu soru, Memleketler arası Para Fonu (IMF) Başkanı Kristalina Georgieva’ya yöneltildi.
Washington’da düzenlenen IMF ve Dünya Bankası bahar toplantılarına çeşitli ülkelerden maliye bakanları, merkez bankası yetkilileri ve dünyanın en önde gelen finans uzmanları katıldı.
AB ve İsrail’in İran’a karşı savaşı ve Hürmüz Boğazı’nın kapanmasının ekonomik sonuçları herkesin aklındaydı.
Fakat BBC’nin ekonomi editörü Faisal Islam, kimi iştirakçilerin eşit derecede yahut hatta daha önemli formda öbür mevzuya dikkat kesildiğini aktardı.
Hepsi yeni bir yapay zeka modeli konusunda kaygılıydı. Kimilerine nazaran bu yeni yapa zeka sürümü, dünyanın finans sistemini önemli formda alt üst edebilirdi.
Sözkonusu modelin ismi Mythos’tu ve ABD merkezli Anthropic tarafından üretildi.
Endişe edilen şey, bu teknolojinin yanlış ellere geçmesi durumunda sonuçların yalnızca bankacılık sistemiyle kalmayabileceğiydi. İnsanların banka hesaplarını da etkileyip etkilemeyeceği sorusu da gündeme geldi.
Kullandığımız cep telefonları, tabletler ve bilgisayarlar da inançsız hale gelebilir miydi?
IMF liderine yöneltilen soru da bu husustaydı ve dünyanın en güçlü iktisadı ABD’den üst seviye yetkililer de tıpkı tasayı dile getirdi.
ABD Hazine Bakanı ve Merkez Bankası Lideri da New York’ta önde gelen Wall Street önderleriyle bir ortaya geldi ve bu yeni yapay zeka modelinin yarattığı siber güvenlik tehditleri ele alındı.
‘Evet, kaygılıyız’
CBS News sunucusu, IMF Başkanı Kristalina Georgieva ile yaptığı röportajda, modelle ilgili lisana getirilen tasalara değindi ve “Neden korkuyorlar? Siz de telaşlı misiniz?” sorusunu yöneltti.
IMF Başkanı siber güvenlik tehditlerinin süratle arttığını söyledi ve “Evet, bundan endişeliyiz” dedi.
Washington doruğu sırasında, ABD-İsrail’in İran’a karşı yürüttüğü savaştan kaynaklanan kriz, İngiliz bankası Barclays’in CEO’su C.S. Venkatakrishnan’ın dert listesinde üçüncü sıradaydı.
Venkatakrishnan’ın en büyük tasası, yapay zekanın “çok yaygın hale” gelip gelmediğiydi.
İran’ın Hürmüz Boğazı’nı kapatarak global piyasalarda petrol ve güç arzını aksattmasının tesirleri tüm dünyada hissediliyor.
Kanada Maliye Bakanı François-Philippe Champagne iki durumu karşılaştırdı ve “Hürmüz Boğazı’nın nerede olduğunu ve boyutlarını biliyoruz lakin Mythos’tan kaynaklanan tehlike konusunda bir netlik yok” dedi.
Peki, Mythos ne ve dünyanın finans yetkililerini ve siyasilerini neden bu kadar endişelendiriyor?
Mythos ne ve neden tehlikeli?
Claude Mythos, Amerikan teknoloji şirketi Anthropic tarafından geliştirilen bir yapay zeka modeli.
Mythos, şirketin yapay zeka sistemi Claude içinde yer alıyor ve bu sistem, OpenAI’nin ChatGPT’si ve Google’ın Gemini’si ile rekabet ediyor.
Araştırmacılar, “Mythos’un bilgisayar güvenliğiyle ilgili inceleme yapma ve açık bulma misyonları yerine getirme konusunda harika yetenekli olduğuna” işaret ediyor.
Bu araştırmacılar “kırmızı ekipler” olarak bilinen güvenlik kıymetlendirme kümelerinde çalışıyordu. Yazdıkları rapora nazaran Mythos, bilgisayar kodlarındaki zımnî güvenlik açıklarını tespit etme ve bunları istismar etmenin yollarını bulma yeteneğine sahipti.
Bir öbür deyişle, sistem kullandığınız rastgele bir yazılımdaki zayıflıkları, hatta üreticinin şimdi farkında olmadığı ve düzeltmediği güvenlik açıklarını bile tespit edebiliyor.
Kırmızı takım, bu aracın onlarca yıl evvel yazılmış kodlardaki zımnî yanılgıları tespit edebildiğini ve bunları kolaylıkla istismar edebildiğini tespit etti.
Bu nedenle, Anthropic bu modeli kullanıcılarına geniş kapsamlı bir formda sunmak yerine “dünyanın en kritik yazılımlarını garanti altına alma çabası” sözüyle, 12 teknoloji şirketine erişim verdi.
Bu şirketler ortasında Amazon Web Services, Apple, Microsoft ve Google’ın yanı sıra Nvidia ve Broadcom üzere çip imalatçıları yer aldı.
Bu erişim sayesinde, Mythos’un kullanabileceği dahil siber ataklara karşı sistemlerini güçlendirmelerine imkan tanınacaktı.
Temmuz 2024’te kusurlu bir yazılım güncellemesi nedeniyle global çapta bir aksamaya neden olan Crowdstrike da projeye katılan şirketler ortasındaydı.
Anthropic, Mythos’a kritik yazılımlardan sorumlu 40’tan fazla kuruluşa daha erişim sağladığını duyurdu.
Anthropic, Mythos’un eğitim sürecinde öngörülemeyen kabiliyetler sergilediğini ve bunun yazılım güvenlik açıklarını daha tesirli bir halde belirlemeye ve düzeltmeye yardımcı olabileceğini savunuyor.
Ancak bu tıpkı kabiliyet önemli telaşları de beraberinde getirdi.
Bazı uzmanlara nazaran, Mythos “yanlış ellere” geçerse rastgele bir bilgisayar sistemini tehlikeye sokmak için kullanılabilir.
Kabiliyetten kaynaklanan dehşet
Anthropic, testler sırasında bu modelin siber güvenlik alanında ve siber hücumlarla ilgili misyonlarda epeyce yetenekli olduğunu ve hatta insanlardan daha uygun performans gösterdiğini açıkladı.
Anthropic, Mythos’u test ettikten sonra internet sitesinde yayınladığı bir raporda, sistemin güvenlik açıklarını, yani şimdi keşfedilmemiş kusurları tespit etme ve bunlardan yararlanma yeteneğine sahip olduğunu belirtti.
Şirketin açıklamasına nazaran Mythos “tüm büyük işletim sistemlerinde ve tüm büyük internet tarayıcılarında” güvenlik açıklarını tespit edip, bunlardan faydalanabiliyor.
Bu güvenlik açıklamalarının kimilerinin tespit edilmesi son derece güç iken Mythos “10 yahut 20 yıldır” mevcut güvenlik açıklarını bile tespit edebildi.
Bir öteki deyişle, yazılımcılardan ve kullanıcılardan onlara yıl gizlenmeyi başaran kusurlar, bu model sayesinde artık tespit edilmiş halde.
Yüksek güvenliğiyle bilinen OpenBSD işletim sistemi de bu sıkıntıdan nasibini aldı ve Mythos, sistemde 27 yıldır bulunamayan bir güvenlik açığını keşfetti.
Teknoloji ve memleketler arası güvenlik uzmanı Gordon M. Goldstein, bir siber güvenlik şirketinin kurucusundan alıntı yaparak, Dış İlgiler Kurulu için yazdığı bir makalede, “Bu model evvel açıkları tespit ediyor, akabinde bunu öbür güvenlik açıklarıyla birleştiriyor ve tespit edilmeden sistemde süresiz olarak kalabiliyor” diyor.
Goldstein “Bu halde Mythos, bir sistemin tam manasıyla denetimini ele geçirebiliyor” diye de ekliyor.
‘Sonuçları çok ağır olabilir’
Anthropic, yapay zeka alanındaki gelişmelerin suratı göz önüne alındığında, bu çeşit yeteneklerin kısa müddet içinde yaygınlaşabileceği ikazında bulundu.
Şirket bu türlü bir durumda, “ekonomi, kamu güvenliği ve ulusal güvenlik açısından sonuçlar çok önemli olabilir” diyerek hassasiyete dikkat çekti.
Yapay zeka uzmanı Goldstein ayrıyeten, dünyadaki kritik altyapının artan tehditlerle karşı karşıya olduğu konusunda da uyarıyor.
Kritik altyapı, hasar görmesi yahut bozulması durumunda ulusal güvenliği, ekonomik istikrarı ve kamu sıhhatini önemli biçimde etkileyecek fizikî yahut sanal sistemler ile ağlar olarak tanımlanıyor.
Uzmana nazaran, barajlar, nükleer reaktörler, besin dağıtım sistemleri ve elektrik şebekeleri üzere dallar hala eski yazılımlara bağımlı.
Yapay zeka uzmanı Dan Hendrix’in ikazını hatırlatıyor ve “Mythos üzere modeller bu riskleri daha da artırıyor ve bu sistemleri çok daha savunmasız hale getiriyor” diyor.
“Bu cins modellerle ilgili en büyük siber güvenlik kaygısı, devlet dışı aktörlerin altyapıyı amaç almasını çok daha kolaylaştırmaları.”
Linux’u aştı
Anhtropic’in açıklamasındaki bir kısım en kıymetli ve kaygı verici kısım olarak kayda geçti.
Buna nazaran Mythos bir internet tarayıcısında dört güvenlik açığı tespit etti ve işletim sistemi güvenlik duvarlarını otomatik atlatmayı başardı.
Ayrıca başka işletim sistemlerindeki ve Linux tarayıcısındaki güvenlik sistemlerini de atlatmayı başardı ve erişilebilir bir sunucuya saldırmanın otomatik bir yolunu tasarladı.
Cep telefonlarında kullanılan Android işletim sistemi de Linux tabanlı.
Kaygılanmalı mıyız?
Yapay zekaya ait tasalar yeni değil.
Sürekli yeni modeller ve aygıtlar piyasaya sürülüyor ve bunların hayatımızı olumlu ya da olumsuz istikamette değiştireceği söyleniyor.
Yapay zeka ve gelecekteki tesirleri hakkındaki bu telaş ve heyecan ortamından yararlanmak, son yıllarda bu alanın ve pazarlama stratejilerinin en besbelli özelliklerinden biri haline geldi.
Mythos örneğinde ise, bu umut ve tasaların haklı olup olmadığını yahut kesimdeki abartının bir yansıması olup olmadığını pahalandırmak için şimdi kâfi bilgiye sahip değiliz.
Birçok bağımsız siber güvenlik uzmanı şimdi Mythos’u kendileri test edemedi ve kimileri performansı konusunda kuşkulu.
İngiltere’nin Yapay Zeka Güvenliği Enstitüsü geçtiğimiz günlerde modelin güçlü olmasına rağmen, en büyük tehdidin yetersiz korunan ve savunmasız sistemlere yönelik olacağı sonucuna vardı.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan evvel çeviriyi bir BBC gazetecisi denetim etti.
Kaynak: Haberler.com
