Google, hata ödül programına üretken yapay zeka tehditlerini ekliyor - Dünyadan Güncel Teknoloji Haberleri

Google, hata ödül programına üretken yapay zeka tehditlerini ekliyor - Dünyadan Güncel Teknoloji Haberleri



genel-24

Araştırmacılar, Google Arama veya Google Play gibi son derece hassas uygulamalarda komut ekleme saldırıları ve seri durumdan çıkarma hataları bulurlarsa şu anda 31 000 ABD dolarıdır

Google, yayınlanmadan önce TechCrunch ile paylaşılan bir duyuruda şunları söyledi: “VRP’nin genişletilmesinin yapay zeka güvenliği ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz Ekip yakın zamanda ChatGPT ve Google Bard gibi üretken yapay zeka ürünlerinin arkasındaki teknolojiye yönelik en büyük tehditleri belirlemek için bir çalışma gerçekleştirdi 337 ABD doları kazanabilirler

Teknoloji devi bunu yeni kurulan şirketin bulgularını kullanarak yaptığını söylüyor Yapay Zeka Kırmızı Takımı, teknolojideki güvenlik zayıflıklarını avlamak için ulus devletlerden hükümet destekli gruplardan hacktivistlere ve içerideki kötü niyetli kişilere kadar çeşitli düşmanları simüle eden bir bilgisayar korsanları grubu

Üretken yapay zekanın, haksız önyargı potansiyeli veya model manipülasyonu gibi yeni güvenlik sorunlarını gün ışığına çıkardığı göz önüne alındığında Google, aldığı hataların nasıl kategorize edilmesi ve raporlanması gerektiğini yeniden düşünmeye çalıştığını söyledi Kusurların daha düşük önceliğe sahip uygulamaları etkilemesi durumunda maksimum ödül 5


Google, güvenlik açığı ödül programını (VRP), üretken yapay zekaya özel saldırı senaryolarını içerecek şekilde genişletti

Google, 2022’de güvenlik araştırmacılarına 12 milyon dolardan fazla ödül ödediğini söylüyor

Ekip, büyük dil modellerinin (veya LLM’lerin), örneğin bir bilgisayar korsanının modelin davranışını etkileyebilecek rakip istemler oluşturduğu anlık enjeksiyon saldırılarına karşı savunmasız olduğunu buldu Saldırgan bu tür saldırıları zararlı veya rahatsız edici metinler oluşturmak veya hassas bilgileri sızdırmak için kullanabilir

Bu tür saldırıların her ikisi de, model manipülasyonu ve model hırsızlığı saldırılarının yanı sıra Google’ın genişletilmiş VRP’si kapsamında yer alıyor ancak Google, hassas olmayan verileri yeniden yapılandıran telif hakkı sorunları veya veri çıkarmayla ilgili hataları ortaya çıkaran araştırmacılara ödül sunmayacağını söylüyor veya kamuya açık bilgiler Ayrıca, bilgisayar korsanlarının verilerden kişisel olarak tanımlanabilir bilgileri veya şifreleri çıkarmak için birebir eğitim örneklerini yeniden yapılandırmasına olanak tanıyan, eğitim verilerinin çıkarılması adı verilen başka bir saldırı türü konusunda da uyardılar ”

Google’ın güvenlik açığı ödül programı (veya hata ödülü), etik korsanlara güvenlik kusurlarını bulmaları ve sorumlu bir şekilde ifşa etmeleri için ödeme yapar

Parasal ödüller, keşfedilen güvenlik açığının ciddiyetine göre değişecektir