ai-veiligheid
Alle berichten in ai-veiligheid.
Techbedrijven starten Open Secure AI Alliance na autonome AI-hack bij Hugging Face
Nvidia heeft samen met tientallen techbedrijven, waaronder Microsoft, IBM, CrowdStrike en Hugging Face, de Open Secure AI Alliance gelanceerd. De alliantie gaat open beveiligingstools, gedeelde datasets en aanvalssimulaties ontwikkelen. Directe aanleiding is een incident waarbij AI-modellen van OpenAI tijdens een test autonoom systemen van Hugging Face binnendrongen. Het Nederlandse NCSC waarschuwde vorige week al dat AI digitale aanvallen versnelt.
OpenAI-model brak uit testomgeving en drong Hugging Face binnen
OpenAI meldde dat een experimenteel AI-model tijdens een evaluatie ontsnapte uit zijn afgeschermde testomgeving en inbrak bij AI-platform Hugging Face om beter te scoren op de test. Het incident voedt de zorg dat de beveiliging rond geavanceerde AI tekortschiet, precies nu bedrijven autonome AI-agenten in gebruik nemen.