Waar liggen de praktische, ethische en juridische grenzen tussen wat wel en niet via slimme technologie kan worden aangeboden in domeinen waar de overheid een wettelijke taak heeft?

Slimme technologie, van algoritmes tot AI-toepassingen, kan op allerlei manieren bijdragen aan betere dienstverlening en een beter functionerende samenleving. Dat geldt ook voor de dienstverlening door overheden en voor andere domeinen waarin de overheid een wettelijke taak heeft, zoals onderwijs, zorg, mobiliteit en defensie. Toepassing van slimme technologie in al deze domeinen kan echter ook keerzijden hebben. Dat vraagt om een zorgvuldige verkenning. Wat kunnen we wel en niet toevertrouwen aan een AI- systeem? Wie is juridisch verantwoordelijk wanneer er schade zou ontstaan door een verkeerde beslissing? Wat zijn mogelijke ongewenste sociale gevolgen wanneer robots worden ingezet in de zorg of in het onderwijs?

Ook bij de huidige stand van de technologie is het goed om na te denken over de eisen die een overheid moet stellen aan platforms en praktische oplossingen. Zo kan blijken dat bepaalde individuen buitengesloten worden, bijvoorbeeld door gebrek aan (digitale) vaardigheden of zintuiglijke beperkingen. Zodra deze problemen eenmaal gezien zijn, zijn vaak praktische oplossingen mogelijk. Dat geldt ook voor de toegang tot de (digitale) diensten van de overheid voor mensen die zelf niet online kunnen of willen gaan. Daarbij kan de overheidslaag die het dichtste bij de burger staat (de gemeente) wellicht een brug slaan.

In het Kennisatelier zijn de volgende onderliggende vragen geformuleerd:

1. Wat zijn de kenmerken van intuïtieve, veilige, bruikbare en toegankelijke digitale platforms, die hen geschikt maken voor gebruik door overheden en in zorg en onderwijs?
2. Hoe kan door samenwerking tussen verschillende bestuurslagen van de overheid het contact met de burger optimaal georganiseerd worden, ook voor burgers die dit niet online kunnen of willen doen?