A hackerek is egyre inkább kihasználják a Google Geminit lehetőségeit - Smarteast.hu Techmagazin.

Több állami támogatással működő hackercsoport, különösen Kínából és Iránból, új módszereket keres a Google Gemini mesterséges intelligencia rendszerének kiaknázására. Céljaik között szerepel saját hatékonyságuk fokozása, valamint potenciális célpontok és infrastruktúrák feltérképezése.

A Google Threat Intelligence Group (GTIG) elemzései alapján a fejlett állandó fenyegetést jelentő (APT) csoportok főként a Geminit eszközt a hatékonyságuk növelésére alkalmazzák, nem pedig új típusú, a hagyományos védelmi rendszerek kijátszására szolgáló AI-alapú támadások kidolgozására.

A támadók változó sikerrel próbálják az AI eszközöket beépíteni műveleteikbe, mivel ezek jelentősen lerövidíthetik az előkészítési időszakot. A Google több mint 20 országból azonosított APT csoportokat, amelyek a Geminit használják, de a legaktívabbak egyértelműen a kínai és iráni szereplők.

A hackerek a Geminit különböző célokra használják, hogy kihasználják annak sokoldalúságát:

Az iráni csoportok a Geminit platformot alkalmazzák a legaktívan, különféle céljaik megvalósítása érdekében:

Az észak-koreai APT (Advanced Persistent Threat) csoportok tevékenységei széles spektrumot ölelnek fel, amelyek céljaik elérése érdekében különböző módszereket és technikákat alkalmaznak. Ezek a csoportok jellemzően a következő területeken aktívak: 1. **Kiberkémkedés**: Az észak-koreai APT csoportok gyakran célba veszik más országok kormányzati intézményeit, hogy érzékeny információkat gyűjtsenek be, amelyek stratégiai előnyhöz juttathatják őket. 2. **Infrastruktúra támadások**: Az energetikai és vízgazdálkodási rendszerek, valamint egyéb kritikus infrastruktúrák ellen irányuló támadások célja lehet a destabilizáció vagy a pánikkeltés az ellenfél országában. 3. **Pénzügyi bűncselekmények**: Az észak-koreai csoportok gyakran részt vesznek banki hackelésben és kriptovaluta lopásokban, hogy finanszírozni tudják a rezsim működését és programjait. 4. **Dezinformációs kampányok**: A kiberhadviselés mellett a propaganda és dezinformáció terjesztése is fontos része a stratégiájuknak, amelynek célja a közvélemény manipulálása és a politikai feszültségek fokozása. 5. **Kiberhadviselés**: A katonai célú kibertámadások, például a fegyveres erők és védelmi rendszerek ellen irányuló támadások, szintén részei az észak-koreai csoportok repertoárjának. Ezek a tevékenységek nemcsak a regionális, hanem a globális biztonsági helyzetre is hatással vannak, és folyamatos figyelmet igényelnek a nemzetközi közösség részéről.

Az orosz csoportok korlátozott mértékben használják a Geminit:

A korlátozott használat arra is utalhat, hogy az orosz hackerek a hazai fejlesztésű mesterséges intelligencia modellekre helyezik a hangsúlyt, vagy pedig operatív biztonsági megfontolások miatt távol tartják magukat a nyugati platformoktól.

A Google jelentése szerint a támadók próbálkoztak jailbreak-módszerekkel is a Gemini ellen, vagy átfogalmazták parancsaikat a biztonsági intézkedések megkerülésére, de ezek a kísérletek eddig sikertelenek voltak.

Az OpenAI, a ChatGPT mögött álló fejlesztőcég, 2024 októberében olyan megfigyelésekről számolt be, amelyek alátámasztják, hogy a támadók egyre inkább kihasználják a generatív mesterséges intelligencia eszközeinek lehetőségeit.

Miközben a mainstream mesterséges intelligencia (AI) termékek jailbreak-próbálkozásai komoly aggodalmakat keltenek, egyre több olyan modell tűnik fel a piacon, amelyek nem rendelkeznek megfelelő védelemmel a visszaélések ellen. A KELA kiberbiztonsági vállalat nemrégiben nyilvánosságra hozta a DeepSeek R1 és az Alibaba Qwen 2.5 sérülékenységeit, amelyek a prompt injektálási támadásoknak kitettségük miatt aggasztóan gyenge védelmet mutatnak. Emellett a Unit 42 kutatói is felfedték, hogy a DeepSeek R1 és V3 modellek esetében hatékony jailbreak technikák léteznek, ami arra utal, hogy ezek a rendszerek szintén könnyen sebezhetőek lehetnek.