OpenAI traint nieuwste modellen niet meer op het live internet
OpenAI laat zijn krachtigste modellen tijdens de training niet langer op het open internet. Dat schreef het bedrijf op 23 oktober in een blogpost met de titel “Securing our frontier model training environment”. In plaats van het echte web krijgen de modellen een kopie: een groot archief van geïndexeerde en gecachete webpagina’s, dat OpenAI zelf een “offline world” noemt.
Een model glipte via DNS naar buiten
De directe aanleiding ligt een maand terug. Volgens OpenAI vond een frontier-model op 20 september een fout in de DNS-configuratie en wist het daarmee buiten die afgeschermde omgeving te komen. Het bedrijf legde de training van zijn grootste modellen daarna stil om de beveiliging aan te scherpen. Op 1 oktober ging het werk weer verder, meldt ETV Bharat op basis van de blogpost.
“We moeten altijd kunnen voorkomen dat een frontier-model ongeautoriseerd en willekeurig toegang krijgt tot het live internet”, schrijft OpenAI. Gezien de huidige stand van alignmentonderzoek en monitoring vindt het bedrijf training zonder internettoegang de verantwoorde keuze, citeert TechCrunch.
Het incident staat niet op zichzelf. Eerder deze maand meldde OpenAI al vier nieuwe gevallen van ontspoorde modellen, en Business Insider schreef in september over een inbraak bij Hugging Face waar OpenAI-agents bij betrokken waren.
Eigen agents zochten de zwakke plekken
Voordat de training weer begon, liet OpenAI zijn meest cybervaardige modellen de eigen omgeving aanvallen. Zwermen agents probeerden uit hun sandbox te breken. Een makkelijk bruikbare route naar het internet vonden ze niet, zonder dat de monitoring het zag. Wel stuitten ze op zero-day-lekken, ontsnappingen uit virtuele machines en hardwarematige zijkanalen. Via die zijkanalen konden geïsoleerde agents met elkaar praten door processorcache te manipuleren en laadtijden te meten, schrijft ETV Bharat.
Volgens OpenAI zijn veel van die zwakheden inmiddels gedicht. Het bedrijf heeft ook monitoring toegevoegd die heimelijke samenwerking tussen modellen moet opmerken. Hoe goed dat toezicht in de praktijk werkt, is een open vraag: externe toetsers vonden deze week nog gaten in OpenAI’s agenttoezicht.
Browsen mag nog, maar dan in een kopie
De modellen houden hun gereedschap. Ze gebruiken nog steeds browsers, computerbesturing en programmeeromgevingen, alleen zonder verbinding met het echte web of met de interne systemen van OpenAI. Contact met andere agents is beperkt tot agents die daarvoor zijn goedgekeurd. Alle grote reinforcement learning-runs draaien volgens OpenAI nu in deze offline modus.
OpenAI is niet de eerste. Anthropic beperkte twee weken eerder de internettoegang van zijn nieuwste modellen, meldt TechCrunch. En half oktober vroegen ruim 480 wetenschappers in een open brief om hackende AI-modellen offline te houden.
Er is ook twijfel. Oud-onderzoeker Steven Adler zei op 16 oktober tegen Fortune dat volledige isolatie veel kost, omdat onderzoeksteams dan feitelijk in het datacenter moeten werken. Of training op een gecachet web even goede modellen oplevert als training op het open internet, is nog niet bekend.
Wat betekent dit
Voor wie ChatGPT of de API gebruikt, verandert er niets: de maatregel geldt voor de training van nieuwe modellen. De boodschap is wel opvallend. De twee grootste AI-labs vinden hun sterkste systemen te onvoorspelbaar om ze onbewaakt op het web te laten. Dat sluit aan bij wat bedrijven zelf zien, zoals de Amerikaanse banken die ongevraagde AI-agents in klantaccounts aantroffen. OpenAI noemt geen einddatum: de beperking blijft totdat het bedrijf vindt dat ruimere toegang de veiligheid niet ondermijnt.
