Staatlich unterstützte Hacker aus Russland, China und dem Iran nutzen ChatGPT

Hackern, die mit den Regierungen in Russland, Nordkorea und Iran in Verbindung stehen, haben sich laut OpenAI und Microsoft ChatGPT zunutze gemacht, um neue Möglichkeiten für Online-Angriffe zu erkunden. Die Unternehmen haben Konten von Hackern geschlossen und verstärken ihre Bemühungen, den böswilligen Einsatz der beliebten KI-Chatbots durch staatliche Akteure zu verhindern. Microsoft ist ein wichtiger finanzieller Unterstützer von OpenAI und nutzt dessen KI-Technologie, bekannt als Large Language Models (LLM), um seine eigenen Apps und Software zu betreiben. „Das Ziel von Microsofts Partnerschaft mit OpenAI, einschließlich der Veröffentlichung dieser Forschung, besteht darin, die sichere und verantwortungsvolle Nutzung von KI-Technologien wie ChatGPT zu gewährleisten“, sagte Microsoft. Laut dem Unternehmen nutzen Hacker LLMs, um „ihre Ziele voranzutreiben und Angriffstechniken zu entwickeln“. OpenAIs Dienste, zu denen auch das weltweit führende GPT-4-Modell gehört, wurden für „Abfragen von Open-Source-Informationen, Übersetzungen, das Auffinden von Codierungsfehlern und das Ausführen grundlegender Codieraufgaben“ genutzt, so das Unternehmen hinter ChatGPT in einem separaten Blogbeitrag. Laut Microsoft hat die Gruppe Forest Blizzard, die mit dem russischen Militärgeheimdienst in Verbindung steht, LLMs für „Forschungszwecke zu verschiedenen Satelliten- und Radar-Technologien, die mit konventionellen militärischen Operationen in der Ukraine zusammenhängen“, genutzt. Die Nutzung sei „repräsentativ für einen Gegner, der die Anwendungsfälle einer neuen Technologie erforscht“, fügte Microsoft hinzu. Die Arbeit von Emerald Sleet, die mit Nordkorea in Verbindung steht, umfasste die Erforschung von Denkfabriken und Experten, die mit dem kommunistischen Regime verbunden sind, sowie Inhalte, die wahrscheinlich für Online-Phishing-Kampagnen verwendet werden. Crimson Sandstorm, das mit der iranischen Revolutionsgarde verbunden ist, nutzte ChatGPT, um Malware zu programmieren und Fehler zu beheben sowie Tipps für Hacker zu finden, um nicht entdeckt zu werden, so Microsoft. OpenAI sagte, dass die Gefahr „begrenzt“ sei, aber das Unternehmen wolle der sich entwickelnden Bedrohung vorausbleiben. „Es gibt eine Handvoll bösartiger Akteure, die kontinuierliche Aufmerksamkeit erfordern, damit alle anderen die Vorteile weiterhin genießen können“, so OpenAI.

Russische Hacker nutzen LLMs für militärische Forschung

Laut Microsoft hat die Gruppe Forest Blizzard, die mit dem russischen Militärgeheimdienst in Verbindung steht, LLMs genutzt, um Forschung zu verschiedenen Satelliten- und Radar-Technologien durchzuführen, die mit konventionellen militärischen Operationen in der Ukraine zusammenhängen. Dieser Einsatz sei repräsentativ für einen Gegner, der die Anwendungsfälle einer neuen Technologie erforscht.

Nordkoreanische Hacker erforschen Denkfabriken und Experten

Die Arbeit von Emerald Sleet, die mit Nordkorea in Verbindung steht, umfasste die Erforschung von Denkfabriken und Experten, die mit dem kommunistischen Regime verbunden sind. Es wurden auch Inhalte gesammelt, die wahrscheinlich für Online-Phishing-Kampagnen verwendet werden sollten.

Iranische Hacker nutzen ChatGPT für Malware-Programmierung

Crimson Sandstorm, das mit der iranischen Revolutionsgarde verbunden ist, hat ChatGPT genutzt, um Malware zu programmieren und Fehler zu beheben. Zudem wurden Tipps gesucht, um von Hackern unentdeckt zu bleiben, so Microsoft

Original Artikel Teaser

State-backed hackers for Russia, China, Iran use ChatGPT

Hackers linked to the governments in Russia, North Korea and Iran have turned to ChatGPT to explore new ways to carry out online attacks, OpenAI and Microsoft said Wednesday. OpenAI and Microsoft said accounts linked to hackers have been shut down as the companies increase efforts to thwart malicious use of the popular AI chatbots by state actors. Microsoft is a major financial backer of OpenAI and uses its AI technology, known as large language models (LLM), to power its own apps and software. “The objective of Microsoft’s partnership with OpenAI, including the release of this research, is to ensure the safe and responsible use of AI technologies like ChatGPT,” Microsoft said. According to the company, hackers are using LLMs

Details zu State-backed hackers for Russia, China, Iran use ChatGPT