Judith Goeree
De Spaanse regering heeft een nieuwe AI-wet aangenomen om het gebruik van kunstmatige intelligentie (AI) in Spanje strikter te reguleren. Deze wet heeft als doel een ethisch en verantwoord gebruik van AI te waarborgen, terwijl de digitale rechten van burgers worden beschermd.
AI is niet meer weg te denken uit het dagelijks leven en biedt talloze kansen voor zowel bedrijven als particulieren. Tegelijkertijd brengen deze technologieën ook nieuwe risico’s met zich mee, waaronder mogelijke vormen van misbruik.
Óscar López Águeda, de Spaanse minister van Digitale Transformatie en Openbaar Bestuur, benadrukt zowel de kracht als de gevaren van kunstmatige intelligentie: “AI is een zeer krachtig hulpmiddel, maar het kan zowel op een goede als op een schadelijke manier worden ingezet.” Hij verwelkomt de invoering van de nieuwe AI-wet in Spanje en licht toe: “Met dit wetsvoorstel identificeren we risico’s en verboden praktijken, zoals subliminale technieken en biometrische herkenning in openbare ruimtes. Daarnaast verplichten we de labeling van deepfake-afbeeldingen en -video’s.”
Om een verantwoord en ethisch gebruik van AI te waarborgen, introduceert Spanje deze nieuwe wet, die in lijn is met de Europese regelgeving.
Verboden AI-toepassingen
De nieuwe regelgeving verbiedt een aantal AI-gebruikstoepassingen die als schadelijk worden beschouwd:
Subliminale technieken
Het gebruik van verborgen boodschappen in beelden of geluiden om onbewust beslissingen van mensen te beïnvloeden zonder hun toestemming. Bijvoorbeeld: AI die gokverslaafden herkent door data-analyse en hen, zonder dat ze het doorhebben, met verborgen signalen aanmoedigt om weer te gaan gokken op een online platform.
Uitbuiting van kwetsbare personen
AI mag niet worden gebruikt om personen te manipuleren op basis van hun leeftijd, handicap of sociaaleconomische status. Bijvoorbeeld: AI kan automatisch persoonlijke gegevens van ouderen verzamelen en gerichte oplichtingsmails of sms-berichten genereren om hen te misleiden, bijvoorbeeld door zich voor te doen als een bank of overheidsinstantie.
Biometrische classificatie
Het categoriseren van mensen op basis van hun ras, politieke opvattingen of seksuele geaardheid met behulp van AI. Bijvoorbeeld: AI die, op basis van gezichtsherkenning, de politieke of seksuele geaardheid van een individu classificeert door analyse van hun foto’s op sociale media.
Sociale scoring
Het toekennen van scores aan burgers gebaseerd op hun gedrag of achtergrond, wat kan leiden tot discriminatie. Bijvoorbeeld: Sommige financiële instellingen gebruiken AI om mensen een alternatieve kredietscore te geven op basis van hun online gedrag, sociale media-activiteiten en biometrische data, wat kan leiden tot onbedoelde discriminatie.
Voorspellende risicobeoordeling
AI-systemen mogen niet worden gebruikt om te bepalen of iemand een misdrijf zal plegen. Dit is alleen toegestaan onder zeer strikte juridische voorwaarden. Voorbeeld: Een AI-systeem dat mensen beoordeelt op basis van hun familiegeschiedenis, opleidingsniveau of woonplaats en hen als risicovol bestempelt.
Emotieherkenning op werk en school
Het gebruik van AI om emoties te herkennen op werkplekken of in het onderwijs mag niet worden ingezet als criterium voor promotie, ontslag of beoordeling. Bijvoorbeeld AI die wordt ingezet om emoties afleiden op de werkplek of in onderwijsinstellingen, als evaluatiemethode voor promotie of ontslag, behalve om medische of veiligheidsredenen.
Verplichte etikettering van AI-gegenereerde inhoud
Een van de meest ingrijpende maatregelen in de nieuwe wet is de verplichte identificatie van door AI gegenereerde of gemanipuleerde inhoud. Dit betekent dat afbeeldingen, video’s en audio waarin AI wordt gebruikt om personen iets te laten zeggen of doen wat zij nooit hebben gedaan (zoals deepfakes), duidelijk gelabeld moeten worden. Dit is bedoeld om desinformatie en misleiding te voorkomen.
Hoge boetes voor overtreders
De Spaanse overheid heeft ook zware sancties opgenomen in de wet om naleving te garanderen. Bedrijven en organisaties die de regels overtreden, riskeren boetes tussen de 7,5 miljoen en 35 miljoen euro, of tot 7% van hun wereldwijde jaaromzet, afhankelijk van welk bedrag hoger uitvalt.
Toezicht en handhaving
De nieuwe AI-wet in Spanje gaat gepaard met verschillende controlemechanismen. De naleving van de regelgeving wordt bewaakt door verschillende Spaanse instanties. Elk verantwoordelijk voor een specifiek aspect van AI-toezicht.
De Spaanse Gegevensbeschermingsautoriteit (AEPD) richt zich op AI-toepassingen die verband houden met gegevensverwerking en privacy. De Algemene Raad voor de Rechtspraak houdt toezicht op het gebruik van AI in juridische procedures. De Centrale Verkiezingscommissie controleert AI-systemen die invloed kunnen hebben op democratische processen. Het Spaanse Agentschap voor Toezicht op Kunstmatige Intelligentie (AESIA) fungeert als het overkoepelende controleorgaan. Dit agentschap coördineert en handhaaft de naleving van de algemene AI-wetgeving.
Lees ook: Spanje lanceert toezichtorgaan op kunstmatige intelligentie (AI)