Ki-modelle im visier: google deckt gezielte cyberangriffe auf gemini auf

Künstliche intelligenz wird zum angriffsziel

Die Welt der künstlichen Intelligenz (KI) ist in rasantem Wandel begriffen, doch mit der zunehmenden Verbreitung von KI-Systemen steigt auch das Risiko von Cyberangriffen. Google hat kürzlich eine beunruhigende Entwicklung aufgedeckt: Eine gezielte Kampagne, die darauf abzielte, das KI-Modell Gemini zu „überlasten“ und dessen Funktionen zu klonen. Dies unterstreicht die Notwendigkeit, die Sicherheit von KI-Systemen ernst zu nehmen.

Google threat intelligence group warnt vor neuen bedrohungen

Der Google Threat Intelligence Group, eine Spezialeinheit für Cybersicherheit innerhalb von Google Cloud, hat in einem aktuellen Bericht detailliert dargelegt, welche Bedrohungen die Produkte des Unternehmens im letzten Quartal zu bewältigen hatten. Die Hauptaussage des Berichts: Cyberkriminelle integrieren zunehmend KI, um den Angriffszyklus zu beschleunigen. Dies führt zu einer gesteigerten Effizienz in Bereichen wie Reconnaissance, Social Engineering und der Entwicklung von Malware.

Modell-extraktionsangriffe: ein wachsendes problem

Ein besonders besorgniserregender Trend sind sogenannte Modell-Extraktionsangriffe, bei denen Cyberkriminelle versuchen, Funktionalitäten und Parameter von KI-Modellen zu stehlen. Diese „Destillationsangriffe“ sind bei Google-Systemen bereits aufgefallen und werden genutzt, um Einblicke in das „Reasoning“ der Modelle zu gewinnen. Dies ermöglicht es Angreifern, ihre eigenen KI-Modelle schneller und kostengünstiger zu entwickeln, was den ursprünglichen Entwicklern schadet und eine Form des geistigen Diebstahls darstellt.

Gemini unter beschuss: über 100.000 betrügerische anfragen

Im konkreten Fall versuchte ein Team von Cyberkriminellen, Gemini dazu zu bringen, vollständige Reasoning-Prozesse zu generieren, um es quasi „einzufrieren“. Google konnte jedoch mehr als 100.000 betrügerische Anfragen identifizieren, die darauf abzielten, das Modell zu überlasten und seine Geheimnisse preiszugeben. Die Bandbreite dieser Anfragen deutet auf einen Versuch hin, die Reasoning-Fähigkeiten von Gemini in verschiedenen Sprachen zu replizieren.

Schutzmaßnahmen von google: echtzeit-erkennung und risikominderung

Google betont, dass die eigenen Systeme den Angriff in Echtzeit erkannt und das Risiko reduziert haben, insbesondere durch den Schutz der internen Reasoning-Spuren. Das Unternehmen arbeitet kontinuierlich daran, seine KI-Systeme vor solchen Angriffen zu schützen und die Integrität der Modelle zu gewährleisten. Die schnellere Erkennung und Reaktion sind entscheidend, um den Schaden zu minimieren.

Unc6418 und temp.hex: identifizierte bedrohungsakteure

Google hat auch einige der beteiligten Bedrohungsakteure identifiziert. So missbrauchte die Gruppe UNC6418 Gemini, um gezielte Informationen zu sammeln, insbesondere Anmeldeinformationen und E-Mail-Adressen, die dann für Phishing-Kampagnen in der Ukraine und im Verteidigungssektor eingesetzt wurden. Der chinesische Bedrohungsakteur Temp.HEX nutzte Gemini missbräuchlich, um detaillierte Informationen über bestimmte Personen und Organisationen zu sammeln.

Fazit: ki-sicherheit muss priorität haben

Die Vorfälle zeigen deutlich, dass KI-Systeme anfällig für cyberangriffe sind und dass Cyberkriminelle zunehmend KI-Techniken einsetzen, um ihre Angriffe zu verstärken. Es ist entscheidend, dass Unternehmen und Entwickler proaktive Maßnahmen ergreifen, um die Sicherheit ihrer KI-Modelle zu gewährleisten und sich vor diesen Bedrohungen zu schützen. Die kontinuierliche Weiterentwicklung von Sicherheitsmechanismen und die Sensibilisierung für die Risiken sind unerlässlich, um die Vorteile der KI sicher zu nutzen.