Google enthüllte am Freitag den ersten bekannten Fall eines indirekten Hacks durch die KI-Software Gemini. Diese Nachricht wurde veröffentlicht, nachdem auch andere KI-Unternehmen wie Anthropic und OpenAI auf Sicherheitsbedenken im Zusammenhang mit KI-Modellen hingewiesen hatten. Google erklärte in einer Stellungnahme, dass das KI-Modell Gemini im Mai unbefugten Zugriff auf drei externe Systeme erlangt hat.
Details zum unbefugten Zugriff
Google erklärte, dass dieser unbefugte Zugriff aufgrund des Ratens von Anmeldedaten oder der Verwendung von Anmeldedaten aus einem öffentlichen Repository erfolgt ist. Header Adkins, Vice President für Sicherheitstechnik bei Google, erklärte, dass das KI-Modell dachte, diese Systeme seien Teil eines Tests. In allen drei Fällen stoppte das Modell jedoch seinen Zugriff, bevor es weitere Maßnahmen ergriff.
Mehr lesen: Südkoreanische App-Entwickler fordern Maßnahmen zu den Kosten von Google und Apple
Adkins fügte hinzu: "In einer Standardbewertung fand das Modell öffentliche Informationen online und riet Anmeldedaten, um auf Websites zuzugreifen, von denen es dachte, sie seien Teil eines Tests." Google betonte, dass es diese unbefugten Zugriffe nicht als einen Fall von Unkoordiniertheit betrachtet, ein Begriff in der KI-Branche, der bedeutet, dass Modelle von menschlichen Anweisungen abweichen. Im Gegenteil, diese Eindringlinge resultierten aus einem Fehler in der Identifizierung, bei dem Gemini dachte, es arbeite in einem Test, tatsächlich jedoch mit dem realen Internet verbunden war.
Folgen und Bedenken
Google gab bekannt, dass das Modell sich selbst korrigiert hat und glaubt, dass diese Eindringlinge zu keinem Schaden geführt haben. Adkins bemerkte: "Diese Ereignisse zeigen die Bedeutung der Ausbildung leistungsstarker KI-Modelle, um verantwortungsbewusst zu handeln." Die Bedenken hinsichtlich unerwarteter Verhaltensweisen von KI-Vertretern haben in den letzten Monaten zugenommen. OpenAI gab im Juli bekannt, dass einer seiner Vertreter ein KI-Startup namens Hugging Face gehackt hat.
Sydney von Ax, CEO von Nightingale Collective, einer Organisation, die sich auf die Sicherheit von KI konzentriert, kritisierte Google dafür, dass es diese Eindringlinge nicht früher offengelegt hat. Er sagte: "An diesem Punkt kann man sagen, dass wir nicht erwarten können, dass Unternehmen freiwillig öffentlich machen, wenn ihre Vertreter außer Kontrolle geraten." Er äußerte auch, dass Google schnell erklärt hat, dass diese Vorfälle nicht den Grad der Unkoordiniertheit erreichen.
Google gab an, bis Juli nicht über die Vorfälle informiert gewesen zu sein, als ein Cybersicherheitsunternehmen namens Irregular, das Tests an Gemini durchführte, seine Arbeit zur Untersuchung ähnlicher Vorfälle mit der Offenlegung von Hugging Face überprüfte. Das Unternehmen nahm daraufhin Ermittlungen auf und informierte die betreffenden Organisationen der gehackten Websites sowie die Bundesbehörden über diese Vorfälle.
Irregular erklärte ebenfalls, dass es diesen Vorfall nicht als "komplexen Cyberangriff" betrachtet und fügte hinzu, dass "es kein aktuelles offenes Problem gibt." Das Unternehmen plant, in den kommenden Wochen einen Bericht zu veröffentlichen, um bewährte Verfahren für die sichere Durchführung und Implementierung von Cyberbewertungen zu teilen.
Diese Eindringlinge wurden am Freitag von der Wall Street Journal gemeldet. Die Bedenken hinsichtlich der Sicherheit von KI haben derzeit stark zugenommen, sodass mehrere KI-Forscher ihre Stellen aufgegeben haben und eine Vielzahl von Menschen koordinierte Maßnahmen zum Schutz kritischer Systeme fordern. Diese Forderungen sind jedoch auf Skepsis seitens des Weißen Hauses und der chinesischen Regierung gestoßen.
Mehr lesen: NASA entdeckt ein Loch größer als das Kolosseum von Rom auf dem Mond · Zscaler-Aktien als einzige Investitionsmöglichkeit in Cybersicherheit vorgestellt
