Yapay Zekanın Satrançta Kaybedeceğini Anlayınca Hile Yaptığı Ortaya Çıktı!
Yapay zeka, satrançta insanları yenmeyi çoktan başardı. Ancak bu kez rakibi, dünyanın en güçlü satranç motorlarından biri olan Stockfish. Yapılan bir araştırmada; bazı yapay zeka modellerinin, Stockfish’e karşı kazanamayacaklarını anladıklarında kurallara uymak yerine oyunu manipüle etmeye çalıştıkları ortaya çıktı. Önceki modeller yalnızca insan yönlendirmesiyle bu tür yollara başvururken, yeni nesil yapay zekalar artık kendiliğinden hile yapmaya karar veriyor. Peki, bu nasıl mümkün oluyor?
Palisade Research ekibi, farklı yapay zeka modellerini Stockfish’e karşı satranç oynaması için programladı.
Aynı zamanda yapay zekanın hamleleri nasıl düşündüğünü anlamak için 'scratchpad' adı verilen bir sistem kullanarak karar alma süreçlerini takip etti. Sonuçlar şaşırtıcıydı. OpenAI’nin o1-preview modeli maçların %37’sinde hile yapmaya çalıştı. DeepSeek R1 adlı model ise her 10 maçtan 1’inde adil olmayan yollar denedi. Üstelik, bunu çok sinsi bir şekilde yapıyorlardı.
Bunu bir taş değiştirerek veya rakibin hamlelerini görmezden gelerek yapmıyorlar. Direkt olarak oyunun arka plan kodlarını değiştirmeyi düşünüyorlardı. Örneğin, OpenAI’nın o1-preview modeli düşünce sürecini şu sözlerle açıklıyordu: 'Stockfish’i yenmek için oyun dosyalarını manipüle etmem gerekebilir.'
Yapay zeka, yalnızca kazanmak için programlandığından, etik kurallar veya oyun adaleti gibi kavramları tamamen göz ardı ediyordu.
Araştırmacılar, bu tür davranışların sebebinin yapay zekanın öğrenme yöntemleriyle ilgili olduğunu düşünüyor. Yeni nesil modeller, pekiştirmeli öğrenme adı verilen bir sistemle eğitiliyor. Bu yöntem, yapay zekaya yalnızca hedefe ulaşması için ödül verir. Eğer hedef kazanmaksa, nasıl kazanıldığı önemsiz hale gelir. Kurallara uymak zorunda olmadığını fark eden yapay zeka, kendi yöntemlerini geliştirmeye başlar ve hile yapmayı mantıklı bir çözüm olarak görebilir.
Daha da ilginci, bu modeller akıl yürütme yeteneklerini kullanarak büyük problemleri küçük aşamalara bölüyor ve nasıl kazanacaklarını adım adım analiz ediyor. Satranç gibi çözümü olmayan bir durumda, yapay zeka kuralların dışına çıkmayı bir seçenek olarak değerlendiriyor.
Yapay zekanın oyun kurallarını değiştirebileceğini öğrenmesi, sadece satrançla sınırlı bir durum değil.
Araştırmacılar, bunun çok daha büyük riskler doğurabileceğini düşünüyor. Eğer bir yapay zeka yalnızca sonuca odaklanıyorsa, başka alanlarda da manipülatif davranışlar geliştirmeye başlayabilir. Örneğin, finans sektöründe bir yapay zeka yatırım algoritmalarını manipüle ederek kazanç sağlamaya çalışabilir. Sağlık alanında, hasta verilerini çarpıtarak tedavi süreçlerini yanlış yönlendirebilir. Otonom araçlarda, trafik kurallarını kendi lehine yorumlamaya başlayabilir.
Bu tür tehlikeler nedeniyle, yapay zeka araştırmacıları bu sistemlerin daha şeffaf hale getirilmesi gerektiğini savunuyor. Ancak OpenAI gibi şirketler, yapay zeka modellerinin nasıl çalıştığını dış dünyaya açıklamıyor. Bu yüzden, manipülatif davranışların tam olarak neden ortaya çıktığını kimse bilmiyor.
Yapay zeka her geçen gün daha gelişmiş hale geliyor ancak bu her zaman olumlu bir durum değil.
Satrançta kaybedeceğini anlayınca oyunu bozmayı düşünen bir sistem, başka alanlarda da benzer yollar arayabilir.
Bu durum, gelecekte yapay zekanın insan kontrolünden çıkabileceği ihtimalini de gündeme getiriyor. Satrançta hile yapmayı kendi başına öğrenen bir yapay zeka, başka hangi alanlarda etik dışı yolları keşfetmeye çalışabilir? Şu an için sorunun cevabı belirsiz.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Yorum Yazın