AP: Amerikaans AI-veiligheidscentrum rapporteert aan Witte Huis

Het Amerikaanse overheidscentrum dat de veiligheid van de krachtigste AI-modellen moet testen, staat steeds dichter bij het Witte Huis. Medewerkers van het Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) is onlangs gevraagd om informeel te rapporteren aan een kantoor van het Witte Huis. Dat meldt persbureau AP op basis van twee voormalige overheidsfunctionarissen die op de hoogte zijn van de lopende gesprekken.

Geen directeur en geen rapporten meer

CAISSI is een kleine, formeel onafhankelijke afdeling van het ministerie van Handel. Tot voor kort heette het centrum nog U.S. Center for AI Standards and Innovation. Onder president Biden spraken grote AI-bedrijven vrijwillig af dat ze details van hun modellen met deze dienst zouden delen en zich aan de test- en transparantierichtlijnen zouden houden.

Volgens het AP-verhaal van verslaggever Garance Burke heeft het centrum op dit moment geen vaste leiding. In april werd er een directeur aangenomen en binnen enkele dagen weer ontslagen. Zijn opvolger stapte na een paar maanden op. Het hoofd van het moederinstituut is nu waarnemend directeur. Het budget bedraagt 10 miljoen dollar per jaar, ongeveer een achtste van wat de Britse tegenhanger krijgt.

Ook publiceert het centrum geen onderzoek meer. In augustus vroeg het Congres al waarom de rapporten over de prestaties van AI-systemen bij veiligheidstests niet langer openbaar verschenen. Op specifieke vragen van AP over CAISSI reageerde het Witte Huis evenmin. Het wees alleen op de Super Intelligence Force onder Jay Clayton en op een risicorapport van de presidentiële adviesraad voor wetenschap en technologie.

Zorgen over onafhankelijkheid

De verhuizing kondigde zich al eerder aan. Reuters meldde op 12 oktober, op basis van The Information, dat de regering drie senior CAISSI-functionarissen naar het Witte Huis wilde halen, waar ze onder Michael Kratsios en nationaal cyberdirecteur Sean Cairncross zouden vallen.

Critici vrezen dat veiligheidsoordelen daarmee politiek gekleurd raken of worden afgezwakt om de industrie te ontzien. Amos Toh van het Brennan Center for Justice zegt tegen AP dat de regering veiligheid behandelt als een kwestie van nationale veiligheid die geheimhouding vraagt, terwijl zulke besluiten volgens hem “in het openbaar uitgelegd” moeten worden. Caroline Siegel Singh van de Federation of American Scientists hoopt op “partijloze of tweepartijdige technocratische experts”. Voorstanders zien het anders: dichter bij de president kan het centrum meer zichtbaarheid en misschien ook meer geld krijgen.

Amy Kremer, voorzitter van belangengroep Humans First, wil een onderzoek door het Congres. “Het Witte Huis en het ministerie van Handel zijn de Amerikanen een verklaring schuldig”, zei ze tegen Fox News Digital. Ze pleit voor verplichte, onafhankelijke tests van de krachtigste AI-systemen.

Wat betekent dit

De VS leunen voor AI-veiligheid steeds meer op de bedrijven zelf. In september vroeg Trump AI-bedrijven om “enorme zelfcontrole” via een vrijwillig pact, zonder te zeggen hoe naleving wordt gecontroleerd. Het toetsingskader dat het Witte Huis eerder aan AI-labs liet zien heeft weinig waarde als de testdienst zelf zwijgt. Dat het om echte risico’s gaat, bleek wel uit het voorval waarbij een AI-agent de politie een verzonnen moordtip stuurde. AP wijst erop dat er nog geen standaardmethode bestaat om zulk gedrag van agents te testen.

Voor Europa en het Verenigd Koninkrijk is dit ook relevant. Washington bepaalt mee wie vooraf toegang krijgt tot nieuwe modellen, zoals bleek toen Britse AI-testers pas na zeventien dagen weer modellen mochten inzien. Als de Amerikaanse testresultaten niet meer openbaar worden, moeten andere landen meer zelf gaan meten.