AI-tools maken vele levens een stuk gemakkelijker; van SEO tekst tot muziek. Maar je bent je waarschijnlijk niet bewust dat het daardoor juist de levens van anderen ingewikkelder maakt. Dit is waar de nieuwe, gratis AI-tool ‘Nightshade’ inspringt. Het vergiftigt zogezegd de content van kunstenaars en creatieven, om diefstal door andere AI-tools onmogelijk te maken; maar wat doet de tool precies?
.png)
Naast Chat GPT bestaan er duizenden andere AI gedreven generatoren die content kunnen creëren en dit doen de applicaties eigenlijk nooit op eigen kracht. Het laten functioneren van een model behoeft training. En dit wordt gedaan door het model andermans creaties te voeren. Gedurende dit proces lappen veel ‘leraren’ de copyright normen aan hun laars. Het resultaat? AI-modellen produceren kunst die verdacht veel lijkt op dat van menselijke makers.
Platenlabels, kunstenaars en andere makers zijn sinds de komst van AI druk bezig geweest met het aanklagen van AI-bedrijven. Nightshade probeert dit te voorkomen. De tool zorgt ervoor dat makers dusdanig kleine pixels kunnen modificeren in hun werk, dat het niet te zien is door het menselijke oog.
Bron: Tech Crunch
Zo kan een afbeelding van een hond veranderen in die van een kat, of rolt er content uit de tool die niet overeenkomt met de zoekopdracht. Hierdoor zou er meer onvrede kunnen ontstaan over het niet naar behoren werken van creatieve AI-modellen, waardoor het gebruik wellicht ook afneemt.
Zowel makers van over de gehele wereld, als de makers van Nightshade zelf, hopen dat het vergiftigen van de content als gevolg heeft dat creatievelingen ook daadwerkelijk betaald krijgen voor hun werk. Verschillende wetenschappers zijn echter sceptisch over de tool. Wat als het niet-gemodificeerd werk ook verkeerd interpreteert omdat Nightshade gehele systemen ontregelt en daardoor foutief traint?
Het vergiftigen van generatieve AI-modellen is echter niet het doel, volgens Ben Zhao, een van de leiders van het project omtrent Nightshade. Het laat enkel zien dat er manieren zijn om binnen te dringen in de tools én dat werkt ook nog eens beter dan ellenlange mails, rechtszaken of posten op sociale kanalen.
Nightshade is gratis en effectief. Het heeft namelijk minder dan honderd ‘shaded’ foto’s nodig om een beeld te verstoren en gezien het model nu al overbelast is, lijkt de oplossing voor creatieve makers nabij.
