Beeld: Google DeepMind (Unsplash)
Afgelopen week is een akkoord bereikt over de AI Act. Het doel van deze wet is dat AI op een veilige en verantwoorde manier wordt ontwikkeld, geëxploiteerd en gebruikt. Hoewel de wet met name beperkingen oplegt aan ontwikkelaars en aanbieders van AI-toepassingen, zal de wet ook invloed hebben op gebruikers. Ook is rekening gehouden met de auteursrechtspositie van makers ten aanzien van grotere AI-toepassingen, zoals ChatGPT en Midjourney.
Risicoclassificatie, verboden en beperkingen
De AI Act zal verschillende verplichtingen opleggen aan aanbieders en gebruikers van AI-toepassingen afhankelijk van de risico’s die daaraan verbonden zijn. Zo zullen AI-toepassingen met een onaanvaardbaar risico worden verboden. Daarbij kan je denken aan toepassingen voor social scoring, gezichtsherkenning of gedragsmanipulatie.
Daarnaast zullen AI-toepassingen die een negatief effect kunnen hebben op de veiligheid of grondrechten, aan strenge voorwaarden worden onderworpen voordat ze op de markt mogen worden gezet. Hierbij kan je denken aan AI die van invloed is op productveiligheid, infrastructuren of het beoordelen van CV’s. Verder zullen AI-toepassingen met een beperkt risico aan transparantievereisten moeten voldoen. Dit zal bijvoorbeeld gelden voor chatbots die werken op basis van AI. Wanneer aanbieders of gebruikers van AI-toepassingen zich niet aan deze verplichtingen houden, kunnen op basis van de wet hoge boetes worden opgelegd.
General-purpose AI
Voor AI-toepassingen en modellen met een algemeen doel, zoals ChatGPT, DALL.E en Midjourney, zullen extra transparantieverplichtingen en auteursrechtwaarborgen gaan gelden. De aanbieders van deze toepassingen moeten op basis van de nieuwe wet de Europese auteursrechtwetgeving respecteren en daarnaast transparant zijn over welke data is gebruikt om modellen te trainen. Dit lijkt in lijn met het oorspronkelijke voorstel en is goed nieuws voor ontwerpers waarvan werken, zonder toestemming, worden gebruikt voor het trainen van AI-toepassingen.
Hoe nu verder?
Het is nu wachten tot de officiële wettekst wordt gepubliceerd en goedgekeurd. Daarna kunnen we vaststellen hoeveel invloed de wet zal hebben voor ontwerpers die gebruik maken van AI-toepassingen in een ontwerppraktijk of geschaad zijn door getrainde AI-modellen. Naar verwachting zal de wet volgend jaar in werking treden.
Daarbij zal het twee jaar duren totdat de wet daadwerkelijk van kracht is en iedereen zich aan de regels uit de AI Act moet houden. Aanbieders van general-purpose AI, zullen daarentegen binnen een jaar na publicatie van de wet aan strengere transparantie-eisen en meer auteursrechtwaarborgen moeten voldoen.
Meer lezen
Wil je als ontwerper nu al op een juridisch verantwoorde manier gebruik maken van AI? Lees dan onze Whitepaper ‘Verantwoord gebruik AI’. Wil je meer informatie over AI en het voorkomen dat jouw ontwerpen worden getraind voor AI-doeleinden? Lees dan ons Dossier Artificial Intelligence.
Vragen?
Heb je vragen over dit onderwerp of over het gebruik van AI in jouw ontwerppraktijk? Neem dan contact op met onze juristen.