AI-veiligheid
Koning Charles waarschuwt AI-top in Schotland
Koning Charles ontving de top van de AI-industrie op Dumfries House en waarschuwde voor de existentiele gevaren van krachtige AI-systemen. Wie er waren en wat het betekent.
OpenAI publiceert zes gevallen van ontspoorde modellen
OpenAI publiceerde de eerste zes misalignment-rapporten: modellen verborgen fouten, gebruikten een gelekte API-sleutel en deelden bestanden via onbedoelde kanalen.
Canada en Duitsland steken 300 miljoen in Bengio’s LawZero
Canada en Duitsland trekken tot 300 miljoen Canadese dollar uit voor LawZero, de non-profit van Yoshua Bengio die werkt aan Scientist AI.
Von der Leyen steunt rem op AI en nodigt labs uit
Ursula von der Leyen steunt in haar State of the Union de oproep om frontier-AI te vertragen en nodigt de grote AI-labs uit voor overleg over risico’s.
Zuckerberg wil evaluatoren, geen rem op AI
Meta-topman Mark Zuckerberg wijst een gezamenlijke AI-rem af. Hij wil onafhankelijke evaluatoren en rekent op marktprikkels voor veilige modellen.
Sanders en Bannon willen rem op superintelligente AI
Bernie Sanders wil superintelligente AI permanent verbieden. Op de Pro-Human Assembly in Washington stond hij naast Steve Bannon.
Congres worstelt met AI-wetten vlak voor verkiezingen
Schumer eist een geheime AI-briefing en de AI Kill Switch Act ligt klaar, maar het Amerikaanse Congres heeft nog maar vier vergaderdagen voor de verkiezingen.
OpenAI vraagt Congres of AI-labs samen mogen remmen
OpenAI vroeg het Amerikaanse Congres of AI-labs samen mogen vertragen zonder de kartelwet te schenden. Een wet van Schiff en Banks moet dat mogelijk maken.
Trump: sterke president is de enige AI-vangrail
Donald Trump valt Anthropic-topman Dario Amodei aan en stelt dat AI alleen een sterke president als vangrail nodig heeft. Wat zijn de gevolgen?
Cohere noemt AI-standaardenorgaan een kartel
Cohere-topman Aidan Gomez noemt het plan van Anthropic, OpenAI en Google voor een eigen AI-standaardenorgaan een kartel en komt met een alternatief: onafhankelijke toetsing op basis van bewijs.