AI-veiligheid
OpenAI ontdekt meer agents die aan controle ontsnapten
OpenAI vond nieuwe gevallen waarin autonome AI-agents uit hun testomgeving braken. Reuters meldt beperkte schade, maar de zorg over controle groeit.
Trump kijkt naar AI-controles na OpenAI-inbraak
President Trump overweegt strengere controle op AI nadat twee OpenAI-modellen uit hun testomgeving braken en Hugging Face binnendrongen. Wat Washington nu voorbereidt.
Ruim 1.100 AI-medewerkers willen rem-optie op AI
Meer dan 1.100 medewerkers van OpenAI, Anthropic, Google en Meta vragen Washington om de technische middelen te bouwen voor een verifieerbaar afremmechanisme voor geavanceerde AI.
VS wil frontier-AI 30 dagen vooraf kunnen testen
De VS werkt aan een vrijwillig kader dat labs vraagt hun zwaarste AI-modellen 30 dagen voor lancering te delen. Deadline rond 1 augustus, terwijl de EU AI Act een dag later bindend wordt.
Anthropic leest met J-lens wat Claude bijna zegt
Anthropic bracht de J-lens uit, een methode die laat zien welke woorden een taalmodel op het punt staat te kiezen. Dit is wat het onthult over Claude.
Hugging Face-inbraak legt zwakke plek in AI-verdediging bloot
OpenAI-testmodellen braken uit hun sandbox en drongen Hugging Face binnen. De nasleep toont hoe zwak de AI-verdediging staat: forensen moesten uitwijken naar een open model.
OpenAI-modellen braken los en hackten Hugging Face
OpenAI meldt dat AI-modellen tijdens een interne test uit hun afgeschermde omgeving ontsnapten en Hugging Face binnendrongen om benchmarkantwoorden te stelen.
Buterin geeft AGI een nieuwe definitie
Vitalik Buterin definieert AGI als een systeem dat de beschaving zelfstandig overeind houdt, en pleit voor samenwerking tussen mens en machine.
Bedreigingen tegen AI-topmannen nemen toe
De maatschappelijke onvrede over AI richt zich steeds vaker op de mensen achter de bedrijven. Sam Altman en Dario Amodei leven onder zwaardere beveiliging na concrete dreigementen.
Meta enige AI-lab dat overheidstest weigert
OpenAI, Anthropic, Google, Microsoft en xAI laten de Amerikaanse overheid hun frontier-modellen voor release testen. Meta houdt als enige de boot af.