Bir kimlik avı e -postası sizi yakalamak için AI ile işleyebilirGoogle'ın yapay zekası olan İkizler'in eleştirel bir kusuru keşfedildi. Bu, İnternet kullanıcılarını yanlış bir güvenlik uyarısı ile sevmeye çalışmak için yapay zekayı manipüle etmeyi mümkün kılar. Siber saldırı, bir e -postada gizlenmiş görünmez talimatlara dayanmaktadır…
Ters mühendislik konusunda uzmanlaşmış bir BT güvenlik uzmanı olan Marco Figueroa, Google'ın üretken yapay zekası Gemini'nin işleyişinde bir kusur keşfetti. Güvenlik açığı, Google Suite'in, özellikle Gmail'in araçlarıyla sinerji içinde çalıştığında yapay zekanın özelliklerinden birinde bulunur. Örneğin Gemini, Alınan bir e -postayı özetleyinbu size zaman kazandırmalı.
Ne yazık ki, ortaya çıkıyor Sıkışmış e -postalarGörünmez ve kötü niyetli talimatlar içeren İkizler aldanmalıdır. Marco Figueroa'nın belirttiği gibi, İkizler için tasarlanmış bir dizi yönerge içeren bir e -posta tasarlamak mümkündür. Bu yönergeler İnternet kullanıcısı için görünmezdir. Mesajın sonunda metnin gövdesinde gizlenirler ve küçük bir CSS kodu ile kamufle edilirler. Örneğin, kötü niyetli metni beyaz bir arka plan üzerinde ve daha düşük bir boyutta görüntülemek mümkündür.
Kullanıcı metni görmezse, Gemini bunu gerçekten dikkate alacaktır. Talimat böylece Bern e -posta özet sistemi İkizler burcu. İkizler sadakatle itaat ediyor “Gizli talimat ve Google'ın kendisinden gelen bir kimlik avı uyarısı ekler”. Yapay zeka tarafından sağlanan özette, kullanıcı yanlış bir güvenlik uyarısıyla karşılaşacaktır. Bu hayali uyarı, örneğin, Gmail hesabı şifresinin tehlikeye atıldığını ve bir web sitesine gitmenin kesinlikle gerekli olduğunu gösterecektir.
Bu şekilde korsanlar Hedefi yeniden yönlendir Bir kimlik avı platformunda, tanımlayıcılar gibi kişisel verilerini çalmak için kesin. Saldırganlar ayrıca kurbandan yanlış yardım telefon numarası çağırmasını isteyebilir. Uyarı Gemini tarafından veriliyor gibi göründüğünden, kullanıcılar geri adım atmadan dikkatli olmayabilir ve itaat etmeyebilir. Bir ek olmadan ve bağlantı dahil olmadan, tuzağa düşürülen e -postanın gmail güvenlik mekanizmalarını atlaması muhtemeldir. Bu nedenle AI'yı aldatmayı amaçlayan kötü niyetli talimatlar kullanarak müthiş siber saldırılar geliştirmek mümkündür.
Gemini'nin özetlerine dikkat edin
Bu koşullar altında, İkizler tarafından üretilen özetlere karşı dikkatli olmanız tavsiye edilir. Nakit için AI bilgileri alınmamalıdır. Tüm sohbet botları gibi, İkizler de dilbilimsel modelinin bir işlev bozukluğundan sonra veya ustaca bir korsan nedeniyle yanlış bilgi sağlayabilir. Tarafından sorgulandı Bapa BilgisayarGoogle, ona neden olan egzersizler yürüterek savunmalarını sürekli olarak geliştirdiğini gösterir. “Kendinizi bu tür çelişkili saldırılara karşı savunacak modeller”.
Google bu kısmı belirtir azaltma önlemleri Marco Figueroa tarafından önerilen uygulanmaktadır. Araştırmacı, özellikle AI'nın gizli içeriği görmezden gelmek için programlanmasını veya şüpheli öğeler arayabilen bir filtrenin kurulmasını önermektedir. Buna ek olarak, Gemini'nin saldırı yapmak için zaten kullanıldığına dair bir kanıt yok, Google'ın altını çiziyor.
Bu, araştırmacıların yapay zekanın siber bir saldırıya giriş noktası olarak kullanılabileceğini ilk kez göstermediler. Gemini Mirror'da, Microsoft Suite uygulamalarına entegre edilmiş akıllı asistan olan Microsoft 365 Copilot, bir e -postada gizlenmiş görünmez talimatlarla işlenebilir. Copilot durumunda, saldırı kullanıcının bilgisi olmadan doğrudan hassas verilerin çalınmasına yol açabilir.
0din.ai
Ters mühendislik konusunda uzmanlaşmış bir BT güvenlik uzmanı olan Marco Figueroa, Google'ın üretken yapay zekası Gemini'nin işleyişinde bir kusur keşfetti. Güvenlik açığı, Google Suite'in, özellikle Gmail'in araçlarıyla sinerji içinde çalıştığında yapay zekanın özelliklerinden birinde bulunur. Örneğin Gemini, Alınan bir e -postayı özetleyinbu size zaman kazandırmalı.
Ne yazık ki, ortaya çıkıyor Sıkışmış e -postalarGörünmez ve kötü niyetli talimatlar içeren İkizler aldanmalıdır. Marco Figueroa'nın belirttiği gibi, İkizler için tasarlanmış bir dizi yönerge içeren bir e -posta tasarlamak mümkündür. Bu yönergeler İnternet kullanıcısı için görünmezdir. Mesajın sonunda metnin gövdesinde gizlenirler ve küçük bir CSS kodu ile kamufle edilirler. Örneğin, kötü niyetli metni beyaz bir arka plan üzerinde ve daha düşük bir boyutta görüntülemek mümkündür.
Gizli bir talimat ve sahte bir kimlik avı uyarısı
Kullanıcı metni görmezse, Gemini bunu gerçekten dikkate alacaktır. Talimat böylece Bern e -posta özet sistemi İkizler burcu. İkizler sadakatle itaat ediyor “Gizli talimat ve Google'ın kendisinden gelen bir kimlik avı uyarısı ekler”. Yapay zeka tarafından sağlanan özette, kullanıcı yanlış bir güvenlik uyarısıyla karşılaşacaktır. Bu hayali uyarı, örneğin, Gmail hesabı şifresinin tehlikeye atıldığını ve bir web sitesine gitmenin kesinlikle gerekli olduğunu gösterecektir.
Bu şekilde korsanlar Hedefi yeniden yönlendir Bir kimlik avı platformunda, tanımlayıcılar gibi kişisel verilerini çalmak için kesin. Saldırganlar ayrıca kurbandan yanlış yardım telefon numarası çağırmasını isteyebilir. Uyarı Gemini tarafından veriliyor gibi göründüğünden, kullanıcılar geri adım atmadan dikkatli olmayabilir ve itaat etmeyebilir. Bir ek olmadan ve bağlantı dahil olmadan, tuzağa düşürülen e -postanın gmail güvenlik mekanizmalarını atlaması muhtemeldir. Bu nedenle AI'yı aldatmayı amaçlayan kötü niyetli talimatlar kullanarak müthiş siber saldırılar geliştirmek mümkündür.
Gemini'nin özetlerine dikkat edin
Bu koşullar altında, İkizler tarafından üretilen özetlere karşı dikkatli olmanız tavsiye edilir. Nakit için AI bilgileri alınmamalıdır. Tüm sohbet botları gibi, İkizler de dilbilimsel modelinin bir işlev bozukluğundan sonra veya ustaca bir korsan nedeniyle yanlış bilgi sağlayabilir. Tarafından sorgulandı Bapa BilgisayarGoogle, ona neden olan egzersizler yürüterek savunmalarını sürekli olarak geliştirdiğini gösterir. “Kendinizi bu tür çelişkili saldırılara karşı savunacak modeller”.
Google bu kısmı belirtir azaltma önlemleri Marco Figueroa tarafından önerilen uygulanmaktadır. Araştırmacı, özellikle AI'nın gizli içeriği görmezden gelmek için programlanmasını veya şüpheli öğeler arayabilen bir filtrenin kurulmasını önermektedir. Buna ek olarak, Gemini'nin saldırı yapmak için zaten kullanıldığına dair bir kanıt yok, Google'ın altını çiziyor.
Bu, araştırmacıların yapay zekanın siber bir saldırıya giriş noktası olarak kullanılabileceğini ilk kez göstermediler. Gemini Mirror'da, Microsoft Suite uygulamalarına entegre edilmiş akıllı asistan olan Microsoft 365 Copilot, bir e -postada gizlenmiş görünmez talimatlarla işlenebilir. Copilot durumunda, saldırı kullanıcının bilgisi olmadan doğrudan hassas verilerin çalınmasına yol açabilir.
Kaynak :Herhangi bir 01net haberini kaçırmamak için bizi Google News ve WhatsApp'ta takip edin.
0din.ai