Lecture: Hoe kan je ontwerpen binnen de AI Act en hoe zich dat verhoudt tot de Affordable Housing Act

De AI Act wordt vaak gepresenteerd als compliance, een lijst met verplichtingen die ontwerpers en gemeenten moeten afvinken. Maar het doel van de wet is een ander: het beschermen van grondrechten, menselijke controle en democratische besluitvorming tegen de risico's van AI-systemen. Voor steden die AI inzetten bij vergunningverlening, gebiedsontwikkeling of monitoring betekent dat iets concreets. Welke toepassingen vallen onder welk risiconiveau? Wat betekent de plicht tot menselijk toezicht voor de manier waarop je een systeem inricht, niet als sluitstuk maar als ontwerpkeuze vooraf? En hoe zorg je dat een inwoner die het niet eens is met een AI-gestuurde beslissing, daadwerkelijk weet hoe en waar hij dat kan aanvechten? De spreker laat zien hoe gemeenten en toezichthouders deze wet in de praktijk gaan handhaven, en hoe je als stad de AI Act gebruikt als instrument voor democratische controle in plaats van als juridisch obstakel.

De Affordable Housing Act zet vol in op digitalisering als instrument om de woningbouwopgave te versnellen. De Europese Commissie wijst digitale vergunningverlening expliciet aan als de standaard waar steden naartoe moeten bewegen. Daarmee staat de wet tegenover de zorgvuldigheid die de AI Act eist: de ene wet duwt naar snelheid en automatisering, de andere naar menselijke controle en toetsbaarheid.

De spreker laat zien hoe een gemeente die haar vergunningproces digitaliseert om aan de 60-dagentermijn te voldoen, dat moet doen binnen de grenzen die de AI Act aan AI-gestuurde besluitvorming stelt. Wat betekent dat voor het ontwerp van zo'n systeem? En wie houdt, bij een geautomatiseerde vergunning binnen 60 dagen, nog daadwerkelijk de controle?