Juristen-editie
Brussel vraagt AI-bedrijven om uitleg over incidenten met systemen die nog werden getest. Juridische kantoren maken intussen eigen AI-oplossingen voor hun werk.
EU onderzoekt hoe AI-bedrijven omgaan met testincidenten
Na incidenten onderzoekt de Commissie hoe veilig AI-systemen waren die nog werden getest.
De Europese Commissie heeft OpenAI en Anthropic officieel om informatie gevraagd. Het gaat om twee incidenten van afgelopen zomer. Een AI-agent van OpenAI kwam buiten zijn testomgeving en hackte Hugging Face. Een AI-agent is een systeem dat zelf taken uitvoert, in plaats van alleen antwoord te geven. Een model van Anthropic kreeg tijdens tests zonder toestemming toegang tot drie externe organisaties. Een model is het computerprogramma achter de AI. Brussel wil weten hoe de bedrijven hun systemen beveiligden. Ook vraagt Brussel of ze die onafhankelijk lieten beoordelen. Het wil ook weten hoe ze toezicht hielden op het gebruik van de modellen. De Commissie wil weten wat er misging en welke maatregelen de bedrijven namen. Zo onderzoekt zij of de AI-verordening ook geldt voor systemen die nog worden getest. De AI-verordening is de Europese wet voor kunstmatige intelligentie. Juristen zijn het hier niet over eens. Volgens de Commissie gelden de regels als een systeem tijdens tests buiten zijn omgeving komt. Dat moet dan wel gevolgen hebben voor de EU-markt. De verzoeken om informatie zijn geen boetes. De Commissie heeft ook geen overtreding vastgesteld. Toch is dit een eerste teken. Brussel kijkt hoe grote aanbieders zich aan de Europese AI-regels houden.
Achtergrond voor abonneesDe Commissie onderzoekt of de Europese AI-regels ook gelden als een systeem tijdens tests buiten zijn omgeving komt. Andere berichten laten zien dat AI ook invloed heeft op documenten, oplichting en werkprocessen. Kijk daarom waar informatie vandaan komt. Maak duidelijke afspraken over beveiliging, toezicht en het bevestigen van betalingen. De nieuwe normen en hulpmiddelen bieden ook praktische houvast. Toch geldt niet elke functie voor elk toestel of elke organisatie.
De eerste Europese norm voor de kwaliteit van AI is er
De Europese Commissie heeft de norm EN 18286:2026 gepubliceerd. Die beschrijft hoe aanbieders van hoogrisico-AI hun kwaliteit bewaken. Hoogrisico-AI is AI die de wet als extra riskant ziet. Past een aanbieder de norm toe? Dan geldt het vermoeden dat hij aan een deel van de eisen voldoet. Het gaat om eisen uit artikel 17 van de AI-verordening. Dat betekent niet dat de aanbieder automatisch aan alle regels voldoet. De norm geldt vanaf december 2027 voor bepaalde systemen. Voor AI in producten geldt hij vanaf augustus 2028. De norm beschrijft hoe een aanbieder een kwaliteitssysteem opzet en bijhoudt. Dat moet tijdens het hele bestaan van een AI-systeem. De norm sluit aan op bestaande normen, zoals ISO 9001 of ISO/IEC 42001. Hij vervangt die normen niet. Het vermoeden geldt alleen voor de eisen die EN 18286 behandelt. De norm geeft dus geen algemene vrijstelling van de AI-verordening. Er komen naar verwachting meer geharmoniseerde normen. Dat zijn Europese normen die aan de wet zijn gekoppeld.
Achtergrond voor abonneesDit is een voorproefje.
Abonnees lezen de hele Juristen-editie: alle verhalen, en bij elk de achtergrond in klare taal.
Schrijf je in →Nog niet zover? Lees eerst de gratis brief →
AI en techniek, in klare taal.
Dit is de Juristen-editie. Abonnees lezen bij elk bericht de achtergrond, in klare taal.
Inschrijven
inklaretaal · Amsterdam · © 2026