Google, hata ödül programına üretken yapay zeka tehditlerini ekliyor - Dünyadan Güncel Teknoloji Haberleri

Google, hata ödül programına üretken yapay zeka tehditlerini ekliyor - Dünyadan Güncel Teknoloji Haberleri
veya kamuya açık bilgiler



genel-24

000 ABD dolarıdır

Üretken yapay zekanın, haksız önyargı potansiyeli veya model manipülasyonu gibi yeni güvenlik sorunlarını gün ışığına çıkardığı göz önüne alındığında Google, aldığı hataların nasıl kategorize edilmesi ve raporlanması gerektiğini yeniden düşünmeye çalıştığını söyledi

Bu tür saldırıların her ikisi de, model manipülasyonu ve model hırsızlığı saldırılarının yanı sıra Google’ın genişletilmiş VRP’si kapsamında yer alıyor ancak Google, hassas olmayan verileri yeniden yapılandıran telif hakkı sorunları veya veri çıkarmayla ilgili hataları ortaya çıkaran araştırmacılara ödül sunmayacağını söylüyor

Parasal ödüller, keşfedilen güvenlik açığının ciddiyetine göre değişecektir ”

Google’ın güvenlik açığı ödül programı (veya hata ödülü), etik korsanlara güvenlik kusurlarını bulmaları ve sorumlu bir şekilde ifşa etmeleri için ödeme yapar 337 ABD doları kazanabilirler


Google, güvenlik açığı ödül programını (VRP), üretken yapay zekaya özel saldırı senaryolarını içerecek şekilde genişletti

Google, 2022’de güvenlik araştırmacılarına 12 milyon dolardan fazla ödül ödediğini söylüyor Ayrıca, bilgisayar korsanlarının verilerden kişisel olarak tanımlanabilir bilgileri veya şifreleri çıkarmak için birebir eğitim örneklerini yeniden yapılandırmasına olanak tanıyan, eğitim verilerinin çıkarılması adı verilen başka bir saldırı türü konusunda da uyardılar Saldırgan bu tür saldırıları zararlı veya rahatsız edici metinler oluşturmak veya hassas bilgileri sızdırmak için kullanabilir Ekip yakın zamanda ChatGPT ve Google Bard gibi üretken yapay zeka ürünlerinin arkasındaki teknolojiye yönelik en büyük tehditleri belirlemek için bir çalışma gerçekleştirdi Kusurların daha düşük önceliğe sahip uygulamaları etkilemesi durumunda maksimum ödül 5 Araştırmacılar, Google Arama veya Google Play gibi son derece hassas uygulamalarda komut ekleme saldırıları ve seri durumdan çıkarma hataları bulurlarsa şu anda 31

Teknoloji devi bunu yeni kurulan şirketin bulgularını kullanarak yaptığını söylüyor Yapay Zeka Kırmızı Takımı, teknolojideki güvenlik zayıflıklarını avlamak için ulus devletlerden hükümet destekli gruplardan hacktivistlere ve içerideki kötü niyetli kişilere kadar çeşitli düşmanları simüle eden bir bilgisayar korsanları grubu

Ekip, büyük dil modellerinin (veya LLM’lerin), örneğin bir bilgisayar korsanının modelin davranışını etkileyebilecek rakip istemler oluşturduğu anlık enjeksiyon saldırılarına karşı savunmasız olduğunu buldu

Google, yayınlanmadan önce TechCrunch ile paylaşılan bir duyuruda şunları söyledi: “VRP’nin genişletilmesinin yapay zeka güvenliği ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz