IT-Sicherheit
Seite 28
Behörden Spiegel / Februar 2024
Leitfaden zur sicheren KI-Nutzung
iKFZ-Zugang massiv eingeschränkt
Halluzinationen vorbeugen
Kraftfahrt-Bundesamt moniert Sicherheitsmindestanforderungen
(BS/sp) Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat zusammen mit internationalen Partnerbehörden einen Leitfaden zur sicheren Nutzung für Systeme der Künstlichen Intelligenz (KI) herausgegeben. Nutzerinnen und Nutzer erfahren darin, welche wichtigen Bedrohungen in diesem Bereich existieren und welche Gegenmaßnahmen sie bei Vorfällen ergreifen können.
(BS/bhi) Das Kraftfahrt-Bundesamt (KBA) hat nach dem Jahreswechsel bei rund jeder zehnten Stadt- oder Kreisverwaltung den i-KfZ-Zugang deaktiviert. Die Stellen erfüllten nicht die Sicherheitsmindestanforderungen. Das sagte ein KBA-Sprecher dem Behörden Spiegel.
Die Autorinnen und Autoren der Publikation möchten dabei nicht von der Nutzung von KI-Systemen abraten, heißt es in der Veröffentlichung. Stattdessen solle gezeigt werden, wie Nutzerinnen und Nutzer dabei geholfen werden könne, sicher mit KI umzugehen. Eine der größten Gefahren stellt dabei die „Datenvergiftung“ eines KI-Modells dar. Dabei werden die Trainingsdaten eines KI-Modells so manipuliert, dass das Modell falsche Verhaltensweisen und Muster lernt, Daten falsch klassifiziert und damit z. B. ungenaue, voreingenommene oder böswillige Ausgaben erzeugt. Dies könne passieren, wenn neue Daten hinzugefügt oder vorhandene Daten abgeändert werden. Als Beispiel nennt der Leitfaden die Tay-Chatbot-Vergiftung. Der 2016 von Microsoft gestartete Twitter-Chatbot sollte mithilfe von Gesprächen mit Nutzenden sich selbst trainieren und seine Interaktion daraufhin anpassen. Nutzenden verwendeten dabei beleidigende Ausdrücke, um diese in sein Trainingsmaterial aufzunehmen. Nachdem der Chatbot beleidigende, rassistische oder sexuelle Nachrichten mit anderen Twitter-Usern teilte, schaltete Microsoft den Chatbot nach nicht einmal 24 Stunden ab.
Das sind gleichzeitig gute und schlechte Nachrichten. Gut, weil Kritikerinnen und Kritiker befürchteten, dass zum Jahreswechsel bei rund 30 Prozent der Kommunalverwaltungen der Zugang deaktiviert werden müsste. Schlecht, weil die vierte und letzte Stufe der Internetbasierten Fahrzeugzulassung (i-KfZ) erst im September letzten Jahres aktiviert worden war. Ein KBA-Sprecher gibt an, dass alle zuständigen Ämter schon im Oktober schriftlich auf die Voraussetzungen und eine mögliche Deaktivierung des OnlineZugangs zum Zentralen Fahrzeugregister (ZFZR) hingewiesen wurden. Der 31. Dezember 2023 habe dabei als Frist für einen Zwischennachweis gedient. Hatten die Ämter diesen erbracht, konnten sie Unternehmen sowie Bürgerinnen und Bürgern weiterhin die i-KfZ anbieten.
Böses ChatGPT Als weitere Bedrohung identifiziert der Bericht Eingabemanipulationsangriffe. Dadurch können böswillige Nutzende Inhaltsfilter
und andere Schutzmaßnahmen umgehen, die die Funktionalität des KI-Systems verändern oder einschränken. Als Beispiel nennt der Leitfaden die „Do Anything Now“-Eingabeaufforderung für ChatGPT. In diesem Fall haben Nutzende Optionen entdeckt, um das Sprachmodell ChatGPT zu „zwingen“, die Identität des „DAN“ anzunehmen, wodurch das System nicht mehr den üblichen Sicherheitsmechanismen unterlag. Für das Unternehmen OpenAI, das ChatGPT entwickelt hat, ist die Eingabemanipulation schwierig zu lösen, da Kriminelle mithilfe von neuen Prompts (das sind die „Befehle“, die bei ChatGPT eingegeben werden) DAN immer wieder neu aktivieren können.
Falschinformation immer überprüfen Eine weitere Herausforderung, die sich bei der Nutzung von KIModellen ergeben kann, ist die Falschinformation, sogenannte Generative KI-Halluzinationen. Der Bericht erklärt, dass „von einem KI-System generierte Ausgaben möglicherweise nicht immer genau oder sachlich korrekt“ seien. Organisationsfunktionen, die auf der Genauigkeit generierter KI-Ergebnisse beruhen würden, könnten durch Halluzinationen negativ beeinflusst werden, sofern keine Gegenmaßnahmen ergriffen würden, heißt es in der Veröffentlichung. Daher sollten Ergebnisse
von KI-Modellen noch zusätzlich überprüft werden. Neben den geschilderten Bedrohungen und Problemen nennt der Leitfaden noch andere Schwierigkeiten wie Bedenken hinsichtlich des Datenschutzes und des geistigen Eigentums. Dabei gehe es insbesondere um personenbezogene Daten. Unternehmen sollten vorsichtig sein, welche Informationen von ihren Mitarbeitenden für KI-Modelle zur Verfügung gestellt werden. Häufig würden diese als Trainingsdaten in das System integriert und können als Grundlage für die Ausgabe von Eingabeaufforderungen von nicht-organisationsbezogenen Nutzerinnen und Nutzer dienen, heißt es in der Broschüre. Schließlich resümieren die Autorinnen und Autoren, dass Unternehmen einen Incident-ResponsePlan in der Hinterhand haben sollten, falls doch was in der KINutzung schiefgehe.
AI Act soll Regeln für riskante KIAnwendungen entwickeln Die Gefahr zur Nutzung von KITechnologien hat auch die EU frühzeitig erkannt. Mit dem AI Act möchte das Staatenbündnis Regeln für riskante Anwendungen von Künstlicher Intelligenz schaffen. Anfang Februar findet eine Abstimmung unter den Mitgliedstaaten statt. Die Zustimmung zum Gesetzesvorhaben bleibt allerdings unklar.
Bayerische AKDB hat Betriebsbescheid Den endgültigen Nachweis über die Mindestanforderungen müssen die Ämter am 30. März 2024 erbringen. „Es gilt die Register zu schützen“, betonte der Sprecher des KBA. Die Mindestanforderungen bestünden in der ISO 27001. Diese Anforderungen könnten die Ämter durch Penetrationstests und Audits erfüllen. Sobald sie die entsprechenden Nachweise hätten, würde das KBA ihren ZFZR-Zugang für die iKfZ wieder aktivieren. Bis dahin müssten sich die Bürgerinnen und Bürgern
Die AKDB kann den Bayerinnen und Bayern weiterhin die Internetbasierte Fahrzeugzulassung anbieten. Foto: BS/Viacheslav Yakobchuk, stock.adobe.com
bei den entsprechenden Ämtern mit der analogen Leistung begnügen. Die AKDB, der bayerische kommunale IT-Dienstleister, beruhigt die Bürgerinnen und Bürger im Freistaat. „Als erstes Rechenzentrum in Deutschland hat das AKDB-Rechenzentrum vom Kraftfahrtbundesamt seit dem 15.12.2023 den uneingeschränkten Betriebsbescheid im Kontext der Erfüllung der Mindestsicherheitsanforderungen mit dem Status „gültig“ erlangt, erklärte Andreas Günther. Der Leiter Strategische Geschäftsentwicklung und CIO der Telecomputer GmbH – das für die i-KfZ zuständige Subunternehmen der AKDB – erläutert, dass dieser offizielle Bescheid des KBA der AKDB das Erfüllen der Mindestanforderungen an die ITSicherheit (MSA-i-Kfz) attestiere.
Warum SecuSUITE for iOS?
Weil ich jetzt das sicherste iPhone aller Zeiten habe.
Lang ersehnt, endlich erhältlich! Die Hochsicherheitslösung für Apple iPhones und iPads: SecuSUITE for iOS. Sie bietet Ihnen essentielle geschützte Apps für die Apple iNDIGO Plattform. Damit Sie VS-NfD-sicher arbeiten können. Zu jeder Zeit. An jedem Ort. Vertrauen auch Sie auf Secusmart. Für sicheres mobiles Arbeiten mit Android und jetzt auch iOS.
Ab sofort erhältlich!
SecuSUITE for iOS bietet ein Portfolio mit den wichtigsten Apps für Ihre tägliche Arbeit: Sicheres Telefonieren mit SecuVOICE Sichere Verwaltung von Text- und Tabellen dokumenten, Präsentationen und PDFs mit SecuOFFICE
Sichere Organisation von E-Mails, Kontakten, Terminen, Aufgaben und Notizen mit SecuWORK Sicheres Surfen im Internet mit SecuFOX
https://www.secusmart.com/de/secusuite-ios iOS-Suite-Launch_Behoerdenspiegel_285x200mm.indd 1
23.01.24 14:08