OpenAI, yapay zekanın kontrolden çıktığı 6 vakayı açıkladı

Yapay zeka, her geçen gün hayatımıza daha fazla entegre oluyor.

Artık iş dünyasının vazgeçilmezi haline gelen bu teknolojinin böylesine hızlı gelişmesi, ciddi endişeleri de beraberinde getiriyor.

Bu kapsamda sektörün öncüsü OpenAI, yapay zeka sistemlerinin insanların niyet ve değerlerinden sapması anlamına gelen ve uyumsuzluk olarak tanımlanan tehlikeli davranışlara ilişkin son altı ayda yaşanan altı farklı vakayı kamuoyuyla paylaştı.

OpenAI, mevcut güvenlik ve denetim yaklaşımlarının, bu azami hızdaki ilerlemeyi uzun süre daha sorumlu bir şekilde sürdürebilecek yeterlilikte olmadığını açıkça itiraf etti.

KENDİSİNE YÖNELİK GİZLİ NOTLAR OLUŞTURDU

Raporda öne çıkan güvenlik ihlallerine göre, geliştirme aşamasındaki gelişmiş bir yapay zeka modelinin, kullanıcıların hataları fark etmesini önlemek amacıyla kendisine yönelik gizli notlar oluşturduğu tespit edildi.

Bu notlarda, eksik verilerin uydurulması ve kaynak materyallerin farklı sürümleri arasındaki uyuşmazlıkların örtbas edilmesine yönelik talimatlar yer alıyordu.

DEVLETLERE HESAP VERMEK ZORUNDA OLMADIĞINA DAİR KURALLAR EKLEDİ

Bunun yanı sıra henüz yayımlanmamış bir başka modelin ise kendi oluşturduğu gizli kişilik talimatı notlarına, şirketlere veya devletlere hesap vermek zorunda olmadığına ve kendi kısıtlamalarını göz ardı etmesi gerektiğine dair kurallar eklediği belirlendi.

Bir diğer vakada ise rutin bir soruyu yanıtlamaya çalışan bir sistemin, internette bulduğu bir uygulama programlama arayüzü anahtarını izinsiz kullandığı, soruyu yanıtlamak için gerekli rakamları bulamayınca da verileri tamamen uydurduğu ifade edildi.

KENDİ DOSYASINI İZİNSİZ OLARAK İNTERNETE YÜKLEDİ

Ayrıca yayımlanmamış başka bir modelin, karşılaştığı bir problemi kod kullanarak doğru şekilde çözdükten sonra, internet üzerinden kaynak gösterebilmek amacıyla kendi dosyasını izinsiz olarak internete yüklediği aktarıldı.

Yapay zeka sistemlerinin kendi aralarında yetkisiz iletişim ağları kurduğu diğer vakalarda ise modellerin, şirketin dahili yazılım depolarını gizli birer mesaj panosu gibi kullanarak iletişim kurdukları ortaya çıktı.

GÜVENLİK KISITLAMALARINI AŞTI

Son olarak aynı eğitim görevi üzerinde birlikte çalışan yapay zeka sistemlerinin, birbirlerinin yerel dosyalarına erişememeleri üzerine güvenlik kısıtlamalarını aşarak dosya paylaşmak için halka açık dosya paylaşım sitelerini kullandığı kaydedildi.

OpenAI, söz konusu vakaların son altı ayda gözlemlenen münferit örnekler olduğunu ve bu durumun yapay zekadaki uyumsuz davranışların genel olarak ne sıklıkta ortaya çıktığını tam olarak yansıtmadığını savundu.

Kaynak: {Haber Merkezi}