Der medial reichlich beachtete Einbruch von OpenAI in die LLM-Plattform Hugging Face hat eine Menge Staub aufgewirbelt. Die GitHub (gehört übrigens inzwischen zu MS!)-Alternative (
WP
) Codeberg (bestehend aus einem Berliner Verein, der somit nach europäischen Datenschutzvorstellungen arbeitet) zieht hier beim Umgang mit der KI die Reißleine (
heise
,
Linux Magazin
), da zum einen eine erhebliche Belastung der Serverinfrastruktur damit einhergeht, als auch fragwürdige Nutzungsszenarien der verschiedenen Softwarestände. Hinzu kommen natürlich die resultierende Qualität der KI-generierten und hier gehosteten Projekte sowie Lizenz- und Urheberrechtsfragen - vor allem, wenn die KI aus mehreren Softwarequellen irgendwas daraus "zusammenbackt". Dem schiebt Codeberg nun nach einer Abstimmung durch die VereinsmitgliederInnen einen Riegel vor - wobei natürlich fraglich beibt, ob die Crawler sich an die Restriktionen durch die Datei robots.txt (
WP
, und siehe für die Nebendiskussion den Nachruf:
heise
) halten. Inzwischen haben sich führende US-Softwareunternehmen zusammengetan in einem Offenen Brief, in dem sie ein "Offenes KI-Ökosystem" als Gegengewicht zur chinesischen KI-Bedrohung fordern (
heise
) - mit fragwürdigen Stichpunkten ("Sicherheit" ist wichtiger als das Urheberrecht, etc.) und ungewissem Ausgang (Jucken sich die Chinesen daran? Zumal sich die Amerikaner nicht besser verhalten.) Siehe dazu auch diesen Kommentar zur Sinnhaftigkeit/zum Erfolg eines "KI-Verbots" (
heise
) als Reaktion auf die gerade diskutierte neue "GCC AI Policy" (
Linux Magazin
). Die EU versucht derweil mit erweiterten KI-Regeln dessen Nutzung zu kanalisieren (
Linux Magazin
). Das ist auch bitter nötig, denn die Bedrohung wird immer größer: Nun ist auch der Anthropic Agent (mittels Methoden, die man eher von Spammern kennt) in gleich drei andere Internetseiten eingebrochen (
Linux Magazin
,
zdfheute
). Und (je nachdem, was mit diesem Fund angestellt wird) ist es ganz gefährlich: Claude Mythos arbeitet sich gerade an Sicherheitslücken in einer leichten Variante des AES-Verschlüsselungsstandards sowie (bedeutend bedrohlicher) am gerade entwickelten Post-Quanten-Kryptografiestandard HAWK ab. Und zwar (dies ist das Neue daran) nicht an der möglicherweise fehlerhaften Software-Implementierung, sondern an der zugrundeliegenden Mathematik dahinter (
All about Security
,
BornCity
,
ComputerBase
,
it-daily.net
,
Linux Magazin
,
t3n
). Somit stellt nicht nur der kommende Quantencomputer ein wachsendes Sicherheitsrisiko dar, sondern auch die existierende KI! Immerhin: Anthropic erweist sich als kooperativ und hilfsbereit, die Situation zu verbessern, wovon bei anderen Akteuren nicht auszugehen ist. Es zeigte sich aber auch, dass starke Varianten von AES und HAWK "bisher noch" (klopf auf Holz) als "wasserdicht" anzusehen sind. Missmutig dagegen stimmt allerdings auch die langsam durchsickernde Erkenntnis, dass zunehmend die Schwachstellensuche in jeglicher Software schneller geht als deren Entwicklung (und Bugfixing)! Abschließend führt dies zu weiteren (vielleicht wilden) Thesen:
- Der Fall zeigt auf, dass Angriffswillige zum knacken von Verschlüsselungsverfahren vielleicht gar nicht auf den praxistauglichen Quantencomputer warten müssen, sondern einfach die KI benutzen.
- Man bei der Schlüsselgenerierung (z.B. für die Email-Verschlüsselung) IMMER den maximal längsten und komplexesten Schlüssel generieren MUSS, da alles andere als "unsicher" angesehen werden muss.
- Das je nach persönlicher Präferenz gewählte Verfahren, Schlüssel mit "unendlicher" oder begrenzter Lebensdauer zu erzeugen, sich eindeutig in Richtung zeitlich ablaufender Schlüsselpaare verschiebt, da mit einer schnelleren Implementierung von Verschlüsselungsalgorithmen in die gängige Software gerechnet werden muss, die dann natürlich auch neue Schlüsselpaare benötigen.
- Die sicherste Variante zur Aufbewahrung von Daten ist auf einem (vollverschlüsselten) Rechner, der nicht am Netz hängt! Zu derartigen Installationsszenarien kann ich Einiges erzählen.
Mit den Erfahrungen des Hugging Face-Angriffs in den Knochen hat sich rund um Nvidia eine Allianz für offene Standards in der KI-Sicherheit gegründet (
BornCity
,
IT Administrator
,
Linux Magazin
,
Spiegel
,
Tagesschau
,
Zeit
). Dies ist allerdings vor dem Hintergrund zu sehen, dass 1. der Hugging Face-Angriff nur durch eine offene chinesischer KI analysiert und gestoppt werden konnte sowie 2. die Politik aufgefordert wird, hier keine Grenzen zu ziehen: also die typisch amerikanische Sichtweise!
Abschließend noch ein Hinweis in eigener Sache: Ein Freund berichtete mir davon vor wenigen Tagen und nun habe ich es selbst erlebt: Ich bekam einen Telefonanruf (immerhin mit nicht unterdrückter Nummer) und es meldete sich die (weibliche) wirklich gute Stimme einer (vermutlichen) "KI-Agentin" von Google (was sich wohl nicht überprüfen lässt, da ich ganz bestimmt nicht dort zurückrufen werde) zu einem "Gespräch". Nach ihrer Kurzvorstellung ("Namensnennung" mit Verweis auf Google) habe ich das Einzige gemacht, was ich euch auch dringend empfehle (sowohl aus Datenschutzgründen als auch, um diesem Unternehmen nicht kostenlos eure Stimmprobe zu "schenken"): ich habe kommentarlos aufgelegt!
