Yapay zeka (Ai) teknolojilerindeki hızlı gelişim, beraberinde güvenlik ve insanlığın geleceğine ilişkin tartışmaları da büyütüyor. Yapay zeka şirketi Anthropic'in üst düzey güvenlik araştırmacılarından Evan Hubinger, teknolojinin mevcut hızla ilerlemeye devam etmesi halinde önümüzdeki 10 yıl içinde insanlığın sonunu getirme ihtimalinin yüzde 10'dan fazla olduğuna inandığını söyledi. Hubinger, sosyal medya hesabı üzerinden yaptığı paylaşımda, mevcut yapay zeka modellerinin oluşturduğu riskin henüz düşük seviyede olduğunu belirtti. Ancak sistemlerin önümüzdeki dönemde kendilerini geliştirebilecek seviyeye ulaşmasının, riskleri önemli ölçüde artırabileceği uyarısında bulundu. Yapay zekanın kendi yeteneklerini geliştirmesi ve insan müdahalesine daha az ihtiyaç duyması ihtimali, uzmanlar arasında özellikle "süper zeka" tartışmasını gündeme getiriyor. Hubinger da teknolojinin bu noktaya ulaşmasının insanlık açısından varoluşsal bir tehdit oluşturabileceği endişesini dile getirdi.
'YATIRIM YAPMAYIN'
HUBİNGER, yapay zeka sistemlerinin insanlığı tam olarak hangi yollarla yok edebileceğine ilişkin ise ayrıntı paylaşmadı. Hubinger'ın açıklamaları, yakın zamanda Anthropic'ten istifa eden ve daha önce OpenAI'da görev yapan yapay zeka araştırmacısı Jacob Coxon'un paylaşımına yanıt olarak geldi. Coxon, yapay zeka alanında faaliyet gösteren iki büyük şirketin de teknolojinin güvenli geliştirilmesi konusunda yeterince sorumlu davranmadığını savundu. Yapay zeka sistemlerinin yakın gelecekte çok daha gelişmiş siber saldırılar gerçekleştirebileceğini, farklı sektörlerde büyük dönüşümlere yol açabileceğini ve önemli miktarda güç ile kaynağa erişebilecek seviyeye ulaşabileceğini ifade etti. OpenAI ise Coxon ve Hubinger'ın açıklamalarıyla ilgili herhangi bir değerlendirmede bulunmadı. Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall da sosyal medyada gündeme gelen açıklamalara ilişkin değerlendirmede bulundu. Hall, yapay zeka şirketlerinin halka arz öncesinde bu tür açıklamaları bir pazarlama stratejisinin parçası olarak kullanabileceğini öne sürdü. Şirketlerin teknolojiye yönelik riskleri nasıl değerlendirdiğinin yatırımcılar açısından da önemli olduğunu belirten Hall, bu değer sistemiyle hareket eden bir şirkete yatırım yapılmaması gerektiği yönünde çağrıda bulundu. Tartışmaların ardından eski Hazine Başsekreteri Darren Jones da Başbakan Andy Burnham'a açık mektup göndererek yapay zekanın güvenli gelişimini sağlamak amacıyla yeni bir uluslararası anlaşma yapılmasını istedi. Jones, yapay zekanın oluşturabileceği risklerin tek bir ülkenin çabalarıyla yönetilemeyeceğini, hükümetlerin ortak hareket ederek uluslararası güvenlik ve denetim mekanizmaları oluşturması gerektiğini vurguladı.
GÜVENLIK HUSUSU
YAPAY zeka güvenliği tartışmalarının sürdüğü dönemde, Financial Times tarafından ortaya atılan başka bir iddia da gündeme geldi. Habere göre Anthropic, geliştirdiği son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizledi. Şirket, çalışanlarının sosyal medya paylaşımları ve enstitüyle ilgili iddialar konusunda açıklama yapmayı reddetti. İngiltere Kabine Ofisi sözcüsü ise modelin enstitüden gizlenip gizlenmediğine ilişkin bilgi vermedi. Sözcü, yapay zeka modellerinin daha güvenli hale getirilmesi amacıyla Anthropic dahil olmak üzere sektör ortaklarıyla yakın iş birliğinin sürdüğünü belirtti. Evan Hubinger'ın açıklamalarındaki en dikkat çekici noktalardan biri de yapay zekanın insanlığın sonunu getirebilecek bir seviyeye ulaşma ihtimaline ilişkin değerlendirmesi oldu. Hubinger, kendisinin ve bazı meslektaşlarının bu ihtimali gerçekten ciddiye aldığını belirterek, riskleri azaltmak için çalışmalar yürüttüklerini ancak süper zekanın insan hedefleriyle uyumlu şekilde çalışmasını sağlama konusunda henüz kesin ve kapsamlı bir planlarının bulunmadığını ifade etti. Bu durum, yapay zeka sistemlerinin yetenekleri hızla gelişirken güvenlik çalışmalarının aynı hızda ilerleyip ilerlemediği sorusunu yeniden gündeme taşıdı.
