Пентестеры оценивают эффективность и риски внедрения искусственного интеллекта в кибербезопасность

Wie KI-Tools im Unternehmensumfeld für Pentesting genutzt werden Wir haben professionelle Pentester gefragt, wie sie KI-Tools in ihren Tests verwenden und welche Herausforderungen das mit sich bringt. - Jörg Schneider Im Themenfeld Cybersicherheit dominieren derzeit Sprachmodelle und Agenten die KI-Nachrichten. Sie finden sehr erfolgreich Sicherheitslücken in Software. Dadurch haben Softwareentwickler eine Flut von Sicherheitsmeldungen zu verarbeiten. Bei einem Penetrationstest geht es ebenfalls darum, Sicherheitslücken zu suchen – jedoch keine abstrakt möglichen Einfallstore in einer Software, sondern konkret ausnutzbare Lücken in den Systemen und ausgeführten Anwendungen im geprüften Netzwerk. Das ist ein anderer Anwendungsfall, aber es gibt viele Überschneidungen. Wir haben daher Pentester gefragt, inwieweit sie KI-Tools einsetzen und welche Vorteile und Grenzen sie aktuell sehen. Mehr als fünfzehn Experten haben geantwortet. Teilweise entstanden die Antworten im Team, bilden also die Erfahrungen mehrerer Personen ab. Einige sagten, dass sie derzeit explizit keine KI-Tools in ihren Pentests einsetzen. Sie sehen die Risiken und Grenzen, die weiter unten besprochen werden, als zu groß an. - Auch bei Sicherheitsprüfungen für Netzwerke und Anwendungen ziehen KI-Tools ein, der Großteil bleibt aber Handarbeit. - Vertrauliche Daten und Risiken für die getesteten Netze schränken den Einsatz stark ein. - Das Zusammenfassen von Informationen und Codegenerierung nannten die befragten Experten als häufige Einsatzzwecke. - Lokale Sprachmodelle sollen Vertraulichkeit ermöglichen, hinken aber bei der Funktionalität hinterher. Während es schon viele Meldungen von spektakulären Einzelerfolgen oder experimentellen Versuchen gibt, werden wir den alltäglichen Einsatz beleuchten. Dazu fassen wir zu den verschiedenen Schritten im Penetrationstest (siehe Abbildung 1) die Rückmeldungen zusammen. Das war die Leseprobe unseres heise-Plus-Artikels "Wie KI-Tools im Unternehmensumfeld für Pentesting genutzt werden". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.