Künstliche Intelligenz in der Informationssicherheit
Veranstaltungsort
Campus Westend – PEG-GebäudePEG-Gebäude Raum 1.G135
Theodor-W.-Adorno-Platz 6
60323 Frankfurt am Main, Deutschland
Beschreibung
Die Buzzwords „Künstliche Intelligenz/KI/Artificial Intelligence/AI, haben gerade in den letzten Jahren, vorwiegend durch die Technologie der Large Language Models (LLM) und Lösungen wie z.B. ChatGPT von der Firma OpenAI, einen extremen Schub in der öffentlichen Wahrnehmung erhalten und scheinen in aller Munde zu sein.
Immer mehr Unternehmen, Produkte und Veranstaltungen nehmen dieses Thema auf und werben mit innovativen Produkten, Lösungen und Ideen. Die immer größere Bekanntheit hat auch Auswirkungen auf die Arbeitswelt, da viele Unternehmen versuchen, die (neu) entdeckten Möglichkeiten zu operationalisieren, was auch eine tiefere Durchdringung der Arbeitswelt bedeutet. Dies liegt vor allem daran, dass mittlerweile nicht nur intelligente Sprachsteuerungen existieren, sondern auch solche Produkte eine standardmäßige Integration in Systeme finden (bspw. Windows Copilot).
Hierbei stellt sich die Frage, ob der momentane Schwung, die mediale Aufmerksamkeit und die forcierte Produktentwicklung in diesem Bereich eine Chance oder ein Risiko für die Informationssicherheit sind. Da Auswirkungen auf die Informationssicherheit erkennbar sind, fand der Begriff der Künstlichen Intelligenz auch Einzug in den jährlichen Bericht „Die Lage der IT-Sicherheit in Deutschland“ des Bundesamts für Sicherheit in der Informationstechnik (BSI, (https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Publikationen/Lageberichte/Lagebericht2023.pdf?__blob=publicationFile&v=7 ).
Im Workshop der GI-Fachgruppe SECMGT möchten wir den Spagat zwischen „Aufklärung“ und „Anwendung“ aus verschiedenen Blickwinkeln wagen und das Thema allen Teilnehmerinnen und Teilnehmern näher bringen und mit Ihnen diskutieren. Was ist künstliche Intelligenz? Was kann sie leisten? Welche Einsatzszenarien sind relevant für Unternehmen und welche Risiken der Informationssicherheit haben diese? Bestehen auch Einsatzszenarien zur Verbesserung der Informationssicherheit? Was bedeutet dies für das Management der Informationssicherheit?
(Dazu wollen wir uns mit den generellen Ausgestaltungsmöglichkeiten von künstlicher Intelligenz beschäftigen, die Bedeutung für die Cybersicherheit darstellen und ein Praxisbeispiel vorstellen.)
Dazu wollen wir uns mit den folgenden Themen beschäftigen:
- wesentliche Eigenschaften der künstlichen Intelligenz und der LLMs,
- konkrete Anwendungsfälle und deren Bedeutung für die Informationssicherheit,
- konkrete Sicherheitsmaßnahmen zur Minderung der Risiken von KI.
Programm
Agenda (Stand 11.04.2024)
| 10:00 | Begrüßung & Vorstellung der Fachgruppe SECMGT |
| 10:30 | KI im Fokus: Einblicke in die Modelle hinter den aktuellen KI-Anwendungen in der Cybersicherheit - Prof Dr. Zöller - Professur für Data Science und Artificial Intelligence In diesem Vortrag werden die paradigmatischen Entwicklungen in der Künstlichen Intelligenz (KI) und deren Bedeutung für die Anwendungen untersucht. Beginnend mit einer historischen Perspektive, wird durch die verschiedenen Formen des maschinellen Lernens geführt: überwachtes, unüberwachtes und verstärkendes Lernen. Anschließend werden die Grundlagen von Künstlichen Neuronalen Netzwerken (ANN) und tiefem Lernen (DL) erörtert. Ein besonderer Fokus wird auf aktuelle Ansätze in den Bereichen der großen Sprach- und Bildverarbeitungsmodelle gelegt. Der Vortrag zielt darauf ab, ein konzeptionelles Verständnis in Bezug auf die aktuellen KI-Technologien zu vermitteln. |
| 11:10 | Kommunikationspause - Zeit zum Wissensaustausch |
| 11:25 | KI und Angrifsvektoren- Roland Bernhard - Data & AI Experte - Microsoft - Überblick und grundsätzliches Verständnis zur Nutzung von generative KI - Neue Angriffsvectoren wie LLM-Jailbreak und Services zum Schutz von LLM - Kurzer Einblick zu Microsoft Copilot für Secutrity |
| 12:10 | Mittagspause – Zeit zum Wissensaustausch |
| 14:00 | LLMs und andere KI-Tools - Hilfe, Hype und Hybris. - Welche Bedeutung hat KI für die Cybersicherheit? - Dr. Droste - Bundesamt für Sicherheit in der Informationstechnik (BSI) Der Vortrag beleuchtet den Unterschied zwischen traditionell programmierten Softwaresystemen und solchen, die Neuronale Netze und Sprachmodelle nutzen. Beispielhaft werden Schwächen der ML-Modelle (ML=Maschinelles Lernen) vorgestellt und diese systematisiert. Weiterhin wird thematisiert, wie hochdimensionale Parameterräume sich auf die Schwächen dieser Modelle auswirken. Schließlich beschäftigt sich der Vortrag mit dem massenhaften Einsatz von Sprachmodellen und der Auswirkung auf ihre Qualität und die Rolle öffentlicher Daten. An einem konkreten Anwendungsfall wird sichtbar, wie man einige Probleme erkennbar und damit kontrollierbar macht. |
| 14:40 | Kommunikationspause - Zeit zum Wissensaustausch |
15:00 | Use Cases AI in Cyber Security - Holger Wöhle - E.ON SE - VP Head of Information Security Management |
| 15:45 | Kommunikationspause - Zeit zum Wissensaustausch |
| 16:00 | Moderierte Diskussion/Erfahrungsaustausch |
| 16:30 | Ende der Veranstaltung |
Referent*innen
Herr Prof. Dr. Zöller
Professur für Data Science und Artificial Intelligence
Thomas Zöller lehrt als Professor im Fernstudium der IU Internationale Hochschule im Fachbereich Data Science. Seine Schwerpunkte liegen in den Themenfeldern Advanced Analytics und Artificial Intelligence und deren Schlüsselrolle für die digitale Transformation.
Nach seinem Studium der Informatik mit Nebenfach Mathematik wurde Zöller an der Universität Bonn mit einer Arbeit im Bereich Maschinelles Lernen in der Bildverarbeitung promoviert. Daran schlossen sich mehrere Jahre der anwendungsorientierten Forschung an – unter anderem bei der Fraunhofer Gesellschaft. In seiner weiteren beruflichen Laufbahn war Zöller in verschiedenen Positionen mit inhaltlichem Fokus auf Business Intelligence, Advanced Analytics, Analytics-Strategie und Artificial Intelligence tätig. Im Zuge dieser Tätigkeiten konnte er Erfahrungen in den Branchen Wehrtechnik, Logistik, Handel, Finance und Automotive sammeln.
Dr. Christoph Droste
Bundesamt für Sicherheit in der Informationstechnik (BSI)
Dr. Christoph Droste ist Referent im 'Nationalen IT-Lagezentrum, Analysen und Prognosen' und entwickelt seit 2019 im Projekt FANAL ein Recherche-System, das KI und insbesondere große Sprachmodelle verwendet, um Texte zur IT-Sicherheit anzureichern. Damit soll eine qualifizierte semantische Suche gestaltet werden, die trotzdem ein Maximum an Transparenz und Erklärbarkeit ermöglicht. Darüber hinaus leistet er als Experte für KI und Sprachmodelle wesentliche Beiträge für die langfristige Lagebeobachtung im BSI.
Nach dem Physikstudium mit starkem Informatikbezug wechselte Herr Droste in das ingenieurwissenschaftliche Institut für Photogrammmetrie in Bonn. Hier beschäftigte er sich mit Bildverarbeitung und in einen interdisziplinären Sonderforschungsbereich mit vielfältigen nichtlinearen Beziehungen, deren Unsicherheit bei der Parameterbestimmung er in seiner Promotion thematisierte. Seitdem beschäftigt er sich mit Optimierungsstrategien, z.B. durch Genetische Algorithmen und Neuronale Netze.
In einem Unternehmen vertiefte er anschließend parallel zur Softwareentwicklung von Geoinformationssystemen Themen aus dem Bereich 'Semantic Web' und beschäftigte sich mit Ontologien und ihrer standardkonformen Implementierung. Seine verstärkte Fokussierung auf das Thema IT-Sicherheit führte ihn 2017 ins BSI, wo er von Anfang an die Entwicklung der Künstlichen Intelligenz begleitete und das Projekt FANAL mit konzipierte, in dem das Zusammenspiel von Sprachmodellen und Semantischen Technologien zu Suchstrategien führt, die Transparenz und Nachvollziehbarkeit ermöglichen.
Holger Wöhle
E.ON SE - VP Head of Information Security Management
Roland Bernhard
Data & AI Experte - Microsoft
Anmeldung
- Kosten
- Kostenlos
- Hinweis
- Zu dieser Veranstaltung können Sie sich online anmelden.
- Anmeldefrist
- 15.05.2024
- Freie Plätze
- 19