Hoewel Spanje niet vooroploopt in AI-innovatie, heeft het land besloten om een regulerende instantie in het leven te roepen. Maar wat zal deze organisatie precies doen? En hoe kan dit de AI-ontwikkeling in Spanje en Europa beïnvloeden?
Met de oprichting van de Agencia Española de Supervisión de Inteligencia Artificial (AESIA) zet Spanje een belangrijke stap in de regulatie van kunstmatige intelligentie (AI).
Wat is AESIA?
AESIA, opgericht na een voorstel in 2021, heeft als doel om de impact van AI op de samenleving te reguleren en te waarborgen dat AI-systemen verantwoord worden ingezet. De organisatie zal gevestigd zijn in La Coruña, in het iconische gebouw La Terraza. Vanaf 2025 zal AESIA met 80 medewerkers beginnen aan haar missie om toezicht te houden op AI-praktijken, verboden activiteiten te inspecteren en overtreders te sanctioneren.
Europese focus
AESIA’s richtlijnen zijn nauw verweven met de Europese AI-wetgeving, die strenge eisen stelt aan transparantie en risicobeheer. De focus ligt op “hoogrisico” AI-systemen. Verder moeten minder complexe AI-systemen, die geen hoog risico vormen, voldoen aan basisvereisten voor transparantie. Dit betekent dat het publiek en betrokkenen moeten kunnen begrijpen hoe en waarom deze systemen bepaalde beslissingen nemen. AESIA zal ook een code van goede praktijken ontwikkelen en naleving afdwingen, met een volledig operationeel sanctiemechanisme tegen augustus 2025.
Wat gaat AESIA reguleren?
De exacte taken van de 80 medewerkers van AESIA zijn nog niet volledig duidelijk. Volgens de Spaanse overheid zal de organisatie verantwoordelijk zijn voor het minimaliseren van risico’s die AI kan hebben op veiligheid, gezondheid en fundamentele rechten. Dit omvat onder meer toezicht op algoritmes en het waarborgen van naleving van Europese normen.
Spanje’s AI-strategie
Volgens de doelstellingen van Spanje Digital 2025 zou tegen dat jaar 25% van de Spaanse bedrijven gebruik moeten maken van AI en big data. Uit gegevens van het Instituto Nacional de Estadística (INE) blijkt echter dat slechts 12,4% van de bedrijven AI toepast. Vooral grote bedrijven omarmen AI sneller, maar het blijft een onbekend terrein voor veel kleine en middelgrote ondernemingen (mkb). Volgens experts speelt een gebrek aan kennis en vertrouwen hierin een grote rol, met name gezien zorgen over digitale veiligheid.
Spanje’s AI-strategie
In mei 2024 presenteerde de Spaanse regering een nationale AI-strategie, waarbij 1,5 miljard euro is vrijgemaakt om AI te stimuleren in zowel de publieke als private sector. Deze strategie omvat onder andere subsidies voor AI-onderzoek, de oprichting van testfaciliteiten voor AI-toepassingen en initiatieven om samenwerking tussen universiteiten en bedrijven te bevorderen. Met de strategie wil Spanje een “verantwoordelijke en humanistische” aanpak van AI promoten. Daarin speelt AESIA een sleutelrol. Dit houdt in dat AI-systemen niet alleen effectief moeten zijn, maar ook moeten bijdragen aan maatschappelijke waarden zoals gelijkheid, privacy en ethische besluitvorming. Zo streeft men het ontstaan van discriminerende algoritmes te voorkomen en kwetsbare groepen tegen mogelijke negatieve effecten van AI te beschermen.
Kritiek en uitdagingen
In Spanje roept de oprichting van AESIA vragen op. Spanje is namelijk geen koploper op het gebied van AI-ontwikkeling. Bovendien lijkt de focus van de EU op regulatie te zorgen voor een tweedeling: een “gecensureerde” versie van AI voor Europa, tegenover volledig functionele systemen in de rest van de wereld. Dit kan innovatie vertragen en bedrijven ontmoedigen om in de EU te opereren. Voorbeelden zoals Apple Intelligence, dat zijn lancering in Europa uitstelde, tonen de impact van deze benadering.
Lees ook: Spanje introduceert eigen groot taalmodel voor kunstmatige intelligentie