K.O. durch KI: Wie umgehen mit künstlicher Intelligenz?

ChatGPT hat den breiten Einsatz künstlicher Intelligenz in vielen Lebensbereichen eingeläutet. Doch das Tool von OpenAI bringt nicht nur Vorteile: Gerade Sicherheitsexperten mahnen zur Vorsicht.

Inzwischen ist es in aller Munde: Künstliche Intelligenz ist rasant auf dem Vormarsch. Vor allem durch das Programm ChatGPT der Firma OpenAI wurde das Rennen um die Vormachtstellung auf dem Markt von Artificial Intelligence offiziell eröffnet. Mit entsprechender Software oder neuen Applikationen kommen einige zukünftige Veränderungen auf unseren Umgang mit IT zu – positive wie negative. Gerade der Aspekt der Cyber Sicherheit ist dabei ein entscheidender.

ChatGPT: das Programm für den Durchbruch

Das kostenlos und frei im Internet nutzbare Tool ChatGPT, das durch die Leichtigkeit in seiner Bedienung und Funktionalität neue Maßstäbe gesetzt hat, basiert auf dem Sprachmodell GPT 3.5. Dessen Stärke ist es, durch Deep Learning auf Texteingaben in natürlicher Sprache antworten zu können. Das Programm ist ein Chatbot mit Sprachgenerator, der auf jede mögliche Frage eine Antwort parat hat – ein riesiger Durchbruch bei der Schnittstelle zwischen Mensch und Internet. Er kann Übersetzungen ausführen und Texte in geforderten Formaten wie Gedichten oder in vordefinierter Länge ausgeben. Er kann Befehle in natürlicher Sprache in Code umwandeln oder Aussagen darüber treffen, was bestimmte Zeilen eines Quellcodes bewirken. Zudem erkennt der Chatbot den Kontext einer Eingabe und kann dadurch auch auf Folgefragen und -anweisungen reagieren. Eine Verbindung mit dem Internet und damit die Verfügbarkeit aktueller Informationen besteht jedoch nicht: ChatGPT kann lediglich mit den Datensätzen operieren, mithilfe derer er trainiert wurde. Auch wenn deren schiere Größe schwer vorstellbar ist – zeitlich datieren sie aus dem Jahr 2021.

Zukünftige Veränderungen, die sich aufgrund der Entwicklung ergeben werden, sind in Gänze noch nicht absehbar. Die Arbeits- und Bildungslandschaft erwartet jedoch mittelfristig ein Grundsätze verschiebendes Beben. Sogar militärische Sicherheitsaspekte werden immer relevanter. Das Programm selbst sagt über sich, dass es eine große Produktivitäts- und Effizienzsteigerung beim Kundensupport, bei Marketingkampagnen und in Besprechungen bieten kann.

Microsoft vs. Google: Die Big Player bringen sich in Stellung

Wie groß die Tragweite dieser Programme ist, lässt sich erahnen, wenn man auf die Global Player im IT-Bereich blickt: Microsoft will zukünftig Milliarden in die Firma OpenAI investieren – und das zusätzlich zum bisherigen Investment von über einer Milliarde Dollar. Die eigene Suchmaschine Bing soll durch die Erweiterung mit GPT 3.5 noch attraktiver und besser werden. Ferner möchte Microsoft ChatGPT bald für Kunden von Azure (Link zu unserem Azure Angebot einfügen) und dem Office Paket verfügbar machen. So sollen sich neue Funktionen, verbesserte Interaktionen der Nutzenden und eine einfachere Bedienung in der Cloud ergeben. Durch den Einsatz natürlicher Sprache würden Suchanfragen oder Analysen sowie Datenvisualisierungen auf eine neue Ebene gehoben und deutlich vereinfacht, so der Hersteller.

GPT 3.5 läuft bereits auf der Azure-Infrastruktur, wurde auf der Basis von Azure-Ressourcen trainiert. Sicherheitsmechanismen, die Missbrauch der Technologie verhindern sollen, wurden zudem in Stellung gebracht: So müssen Entwicklerinnen und Entwickler ihren Anwendungsfall beschreiben, bevor sie von Microsoft dafür freigeschaltet werden. Der Limited Access soll die Bereiche der Verwendung von Microsoft überwachbar machen. Inhaltsfilter gegen Hassrede und unerwünschte Inhalte sind weitere Maßnahmen des Tech-Giganten aus Redmond.

Konkurrent Google hat als Reaktion angekündigt, die selbst entwickelte Sprach-KI „Bard“ ebenfalls bald nutzbar zu machen. Die Veröffentlichung von ChatGPT scheint in Kalifornien ein kleines Beben ausgelöst haben: Der Marktführer fürchtete um die Relevanz seiner eigenen Google Suche und gab angeblich einen internen „Code Red“ aus. Ebenfalls bereits in Entwicklung sind verschiedenste Tools, die dabei helfen sollen, menschlich erstellte Texte von solchen zu unterscheiden, die von Maschinen formuliert wurden. Neben OpenAI selbst arbeiten sowohl an der Standfort University als auch in Princeton Expertinnen und Experten an der Konstruktion solcher Programme. Viele Beobachterinnen und Beobachter fürchten ein „AI arms race“, also ein Wettrüsten der Wettbewerber auf dem Markt künstlicher Intelligenz. Besonders prekär wird dies, betrachtet man die Risiken, die mit der neuen Technologie einhergehen.

Daten- und Faktensicherheit – ein Ding der Vergangenheit?

Um das Chatmodell zu trainieren, werden vielfältige Daten aufgenommen, gespeichert und verarbeitet. Im Hinblick auf Datenschutz und Sicherheit werden hier keinerlei Standards eingehalten, die in Europa gelten, da die Server ausnahmslos in den USA stehen. Selbst Microsoft soll seine Mitarbeitenden trotz der Beteiligung an OpenAI dazu angewiesen haben, keine vertraulichen oder höchst relevanten Datensätze mithilfe der KI zu bearbeiten. Auch sind Fragestellungen in Bezug auf Hassparolen und Falschnachrichten essentiell: Das Modell muss mit von Menschen erstellten Datensätzen trainiert werden, damit es weiter lernt. Diese Daten sind aber – der menschlichen Natur geschuldet – mit Meinungen und Ansichten gefärbt. Im Extremfall kann es so dazu kommen, dass KI-Programme beispielsweise rassistische oder antisemitische Äußerungen reproduzieren und weiterverbreiten. ChatGPT ist weit davon entfernt, fehlerlos zu sein: Aussagen und Faktenlagen sind nicht immer korrekt, die Quellenlage für die genannten Informationen ist oftmals fraglich. Das Tool bildet nicht transparent ab, woher es seine Daten bezieht. Auf diesem Wege können sich Falschinformationen schnell und effektiv verbreiten: Nach den „Fake News“ jetzt also die „Fake Facts“?

Hackerangriffe leicht gemacht

Gegen Fragen mit kriminellen Inhalten existieren zwar Sperren, jedoch lassen sich diese durch Umformulierungen umgehen. Dadurch kann ChatGPT zum vielwissenden Unterstützer von Straftaten werden, gerade im IT-Bereich. Hackerangriffe könnten in Zukunft komplett automatisiert ablaufen. Malware, extrem personalisierte Phishingmails oder sogar Code, der Anti-Viren-Schutz und Firewalls umgehen kann – alles kein Ding der Unmöglichkeit durch den mächtigen digitalen Co-Piloten. Wer hier nach klaren Rahmenbedingungen durch den Gesetzgeber sucht, wird enttäuscht. Wie so oft ist die technische Entwicklung deutlich schneller als die gesetzliche.

Wie Sie sich effektiv vor Phishing schützen!

KI als Weg der Zukunft

Betont werden muss allerdings auch, welche Chancen durch den Einsatz von KI im gesamten IT-Bereich entstehen. Insbesondere bei Cyber Security können Tools ein großes Sprungbrett für mehr Sicherheit sein. Durch die technische Unterstützung ist es beispielsweise möglich, Phishing Mails überprüfen und erkennen zu lassen, Software qualitativen Prüfungen auf Codeebene zu unterziehen oder sogar Monitoring von Programmen durchzuführen. Wie bereits beschrieben, ist es ChatGPT möglich, anhand von Codezeilen den Nutzen der jeweiligen Software auszulesen.

Im Bereich der Thread Intelligence rechnen Expertinnen und Experten des Weiteren mit großen Sprüngen: Durch die Assistenz der Technologie werden die gemeldeten und reparierten Lücken in Software und Anwendungen aller Art rasant ansteigen. Auch kann die Incidence Response verbessert werden. Sollte ein Angriff erfolgreich sein, können mithilfe des KI-Helfers massive Datenmengen ausgewertet und durch das Log des Angriffs weiterführende und wertvolle Infos bereitgestellt werden. Analyse, Programmierung und Überwachung – alles wird durch die digitale Hilfe für den Menschen verbessert und erleichtert. Die „Einstiegshürden“ für Hacker wurden zwar gesenkt, jedoch sind auch die Möglichkeiten von Sicherheitsmaßnahmen exponentiell gestiegen.

Essentieller denn je: ein fundiertes Sicherheitskonzept

Die aktuelle Entwicklung bildet ein gutes Beispiel für die rasanten Entwicklungen auf dem IT-Markt, die tiefgreifende Veränderungen in zahlreichen anderen Bereichen nach sich ziehen. So schnell veränderlich wie Programme sowie potentielle Herausforderungen und Bedrohungen sind, so dynamisch muss ein standfestes Sicherheitskonzept sein. Nur so sind Unternehmen für Gefahren gerüstet und können auf etwaige Situationen agil reagieren.

Jetzt Ihre Cyber-Security stärken!

Medialine ist der verlässliche Partner an Ihrer Seite, wenn es darum geht, Ihre Systeme und Netzwerke zu schützen. Durch langjährige Erfahrung und Expertise sind unsere Expertinnen und Experten bestens vorbereitet, Sie und Ihre Systeme zu verteidigen. Gemeinsam erarbeiten wir mit Ihnen ein Sicherheitskonzept, das Ihre individuellen Gegebenheiten bestmöglich abdeckt und schützt. Vereinbaren Sie noch heute Ihren unverbindlichen Beratungstermin! Priorisieren Sie das Thema Cyber Security, bevor es zur Präzedenz wird.