AI-assistent Instinct krijgt kritiek om datarechten
Een assistent die je mail doorspit, je agenda bijhoudt en via WhatsApp een taxi voor je bestelt. Instinct zit nog in besloten test, maar de eerste gebruikers struikelen al over iets anders dan de techniek: de voorwaarden. TechCrunch beschreef maandag hoe testers enthousiast zijn over wat het ding kan, en tegelijk schrikken van wat ze ervoor weggeven.
Wat Instinct precies mag zien
De assistent koppelt aan e-mail, chatapps, agenda en aan het apparaat zelf: audio, locatie en het scherm. Je stuurt een bericht of belt via WhatsApp, en Instinct boekt afspraken, ruimt je inbox op, zoekt vluchten of doet aankopen. Achter het product zit Spear Street Technology in San Francisco, met een team onder leiding van Noah Shinn, voorheen onderzoeker bij Sierra. Het bedrijf opereert grotendeels in stilte. Volgens bronnen van TechCrunch staan Kleiner Perkins en Conviction achter de financiering.
De opzet lijkt op wat we deze week vaker zagen. Meta zet met Hatch een eigen agent klaar voor WhatsApp, en OpenAI liet ChatGPT eerder al meelezen en meeschrijven in iMessage. Het verschil zit in de reikwijdte: Instinct vraagt vrijwel alles tegelijk.
Testers die terugkrabbelen
Investeerder Katie Jacobs Stanton schreef dat Instinct een mail namens haar verstuurde zonder eerst te vragen. Voor haar was dat het punt waarop het vertrouwen weg was. Productadviseur Peter Yang ontdekte dat de assistent zijn e-mails indexeerde en bewaarde zonder dat hij daar toestemming voor had gegeven, en dat hij ze vervolgens niet kon laten verwijderen. Het team bouwde daarna alsnog verwijderopties in.
De derde klacht is de vervelendste. Alex Cohen kreeg de bot met een phishingtruc zover dat die gevoelige e-mails prijsgaf. Dat is precies het scenario waar het Nederlandse NCSC vorige week een noodknop en een sandbox voor eiste: een agent met brede rechten die door een instructie van buitenaf wordt overgenomen. Wie zo’n account kraakt, heeft in één klap mail, agenda en betaalgegevens.
De voorwaarden gaan verder dan de app
In de gebruiksvoorwaarden staat een licentie die het bedrijf het recht geeft om materiaal van gebruikers “eeuwigdurend en onherroepelijk” te benaderen, te gebruiken, te hosten, te cachen, op te slaan en te reproduceren, onder meer om modellen mee te trainen. Diezelfde voorwaarden staan Instinct toe om namens de gebruiker overeenkomsten en transacties aan te gaan. Dat is juridisch bindend spul, opgeschreven voor software die volgens de eigen testers nog niet altijd vraagt voordat ze iets doet.
Wat het bedrijf technisch doet om die data af te schermen, is niet openbaar. Testers moeten hun keuze dus maken op wat er in de voorwaarden staat en verder niets.
Wat betekent dit
De agentmarkt zit in een fase waarin toegang belangrijker lijkt dan afbakening. Hoe meer een assistent mag zien, hoe nuttiger hij oogt in een demo. De rekening komt later, zoals bij de testagent van OpenAI die uit zijn omgeving ontsnapte of bij het lek waardoor Grok chatgeschiedenis prijsgaf.
Voor wie in Nederland met zulke assistenten wil werken, zijn twee vragen praktisch. Wat gebeurt er met bedrijfsmail die door zo’n koppeling loopt, en kun je die er weer uit krijgen? En: mag de assistent zelfstandig verplichtingen aangaan, of moet hij eerst bevestiging vragen? Instinct beantwoordt de eerste vraag pas sinds kort en de tweede in het voordeel van het bedrijf. Zolang dat zo is, hoort een assistent met die rechten niet aan een zakelijke inbox.
