Christiano treedt toe tot bestuur OpenAI Foundation

OpenAI heeft alignmentonderzoeker Paul Christiano benoemd in het bestuur van de OpenAI Foundation, de stichting die de zeggenschap houdt over het commerciële OpenAI Group PBC. Het bedrijf maakte de benoeming op 9 september bekend. Christiano komt daarnaast in de Safety and Security Committee en krijgt een plek als waarnemer zonder stemrecht bij het bestuur van de PBC.

Wie Paul Christiano is

Christiano werkte tussen 2017 en 2021 al bij OpenAI, waar hij het alignmentonderzoek leidde. Hij legde mede de basis voor reinforcement learning from human feedback, de techniek waarmee taalmodellen op menselijke voorkeuren worden bijgestuurd en die inmiddels in vrijwel elke chatbot zit. Na zijn vertrek richtte hij het Alignment Research Center op, een non-profit die onderzoekt hoe je geavanceerde systemen op menselijke belangen afstemt.

Sindsdien werkt hij voor de Amerikaanse overheid. Als Senior Tech Advisor bij het Center for AI Standards and Innovation, onderdeel van standaardeninstituut NIST binnen het ministerie van Handel, evalueert hij frontiermodellen, ook op nationale veiligheidsrisico’s. Bloomberg wijst erop dat dat werk zich over twee regeringen uitstrekt. Die overheidsfunctie houdt hij aan. Volgens de aankondiging trekt hij zich daar terug uit zaken die OpenAI raken, inclusief evaluaties van OpenAI-modellen.

Wat de veiligheidscommissie doet

De Safety and Security Committee staat onder leiding van Zico Kolter en houdt toezicht op de veiligheidspraktijk bij alle onderdelen van OpenAI, dus ook bij de commerciële tak. Bestuursvoorzitter Bret Taylor zei bij de aankondiging dat Christiano het vakgebied alignment mede heeft gedefinieerd met werk dat zich richt op de moeilijkste vragen rond steeds capabelere systemen.

Het stichtingsbestuur telt verder onder anderen Adam D’Angelo, Sue Desmond-Hellmann, oud-NSA-directeur Paul Nakasone, Nicole Seligman, David Vélez, Robin Vince en topman Sam Altman. Axios omschrijft de stap als het binnenhalen van een veiligheidsexpert op een moment dat OpenAI onder druk staat om aan te tonen dat de stichting daadwerkelijk gewicht in de schaal legt.

Timing na GPT-6 Astra

De benoeming volgt kort op de uitrol van GPT-6 Astra, het model dat Altman begin september een nieuw capaciteitsniveau noemde. OpenAI erkende in de systeemkaart zelf dat Astra lastiger te volgen is dan zijn voorgangers. Het bedrijf publiceerde eerder deze maand ook een framework voor het melden van ontspoorde agents. Christiano heeft in publieke optredens herhaaldelijk gewezen op het risico dat een snelle versnelling in AI-capaciteiten catastrofaal uitpakt, en op de noodzaak om voorbereidingen te treffen voordat systemen dat niveau bereiken.

Wat betekent dit

Een bestuurszetel is geen vetorecht, en Christiano stemt bij de commerciële tak niet mee. Wat hij wel meebrengt is technische kennis van modelevaluatie op het niveau waarop toezichthouders die nu proberen op te bouwen. Dat sluit aan bij wat er buiten OpenAI gebeurt: Californië zette deze week een register voor onafhankelijke AI-auditors op, en in de academische wereld werkt een nieuw instituut aan wiskundige veiligheidsgaranties.

Voor wie AI zakelijk inzet verandert er op korte termijn niets. Interessanter is de vraag die dit oproept over de komende maanden: krijgt de veiligheidscommissie echt invloed op wanneer een model naar buiten gaat, of blijft het bij een naam op een lijst? Het antwoord daarop zie je pas bij de volgende grote release.