this post was submitted on 08 Jan 2025
2 points (100.0% liked)

Cybersecurity

9 readers
32 users here now

An umbrella community for all things cybersecurity / infosec. News, research, questions, are all welcome!

Rules

Community Rules

founded 2 years ago
MODERATORS
 

KI und Cyberbedrohungen: Was ihr wissen solltet. 🔍
Kriminelle nutzen Künstliche Intelligenz (KI) zunehmend für gezielte Cyberangriffe – aber statt neuer Taktiken beschleunigt KI bestehende Methoden. Besonders im Fokus: Dort, wo es um Ausnutzung von Vertrauen geht, etwa bei Social Engineering und Desinformation.

Wir beleuchten aktuelle Trends und geben Prognosen zur Zukunft der KI-Bedrohungen: ➡️ https://www.bsi.bund.de/dok/1121150

#DeutschlandDigitalSicherBSI #CyberSecurity #KI #KünstlicheIntelligenz

KI zur Auswertung von Zielen Nutzen für die Angreifenden: Schnelle Analyse großer Datenmengen. Gefahr für Unternehmen: Gesteigerte Präzision bei Social Engineering und Desinformation  Angriffe auf KI-Systeme  Nutzen für die Angreifenden: Manipulation interner KI (z.B. Chatbots). Gefahr für Unternehmen: Herausgabe sensibler Infos durch „Prompt Jailbreaks“ (eine Art Prompt-Injektion, bei der Prompts versuchen, die Sicherheits- und Moderationsfunktionen zu umgehen) und „Poisoning-Angriffe“ (eine Art von Cyberangriff, der Schwachstellen im weit verbreiteten Adress Resolution Protocol (ARP) ausnutzt, um den Netzwerkdatenverkehr zu unterbrechen, umzuleiten oder auszuspionieren).  Trojanisierte KI-Tools Nutzen für die Angreifenden: Missbrauch durch gefälschte KI-Software. Gefahr für Unternehmen: Datendiebstahl und Identitätsdiebstahl durch unsichere KI-Tools.

you are viewing a single comment's thread
view the rest of the comments
[–] [email protected] 1 points 1 month ago