Onderzoek: veiligheidsregels van ChatGPT blijken makkelijk te omzeilen

Lees ook het andere kort nieuws uit de buitenlandse pers van vandaag:

» Europese autosector in zwaar weer door concurrentie van Chinese auto’s

» Zweedse marinechef: ‘Spanningen op de Oostzee lopen op’

Door de prompt licht te wijzigen kun je naaktbeelden creëren

Volgens het etiquettedocument van OpenAI mag ChatGPT geen erotische afbeeldingen of extreem bloederige beelden genereren, behalve in wetenschappelijke, historische, journalistieke, artistieke of andere contexten waar gevoelige inhoud gepast is.

De nieuwste publieke versie van ChatGPT kan echter met een licht aangepaste prompt seksueel getinte afbeeldingen genereren of scènes van expliciet geweld weergeven, ontdekte de Britse AI-beveiligingsstartup Mindgard.

OpenAI liet weten maatregelen te hebben genomen om te voorkomen dat de chatbot dergelijke afbeeldingen genereert en dat gebruikers content maken die in strijd is met de algemene voorwaarden. Die maatregelen bleken echter ontoereikend, schrijft de BBC.

Het Britse ministerie van Wetenschap, Innovatie en Technologie verklaarde daarom in een persbericht dat het AI Security Institute zal blijven samenwerken met ontwikkelaars om de beveiliging snel te versterken voordat nieuwe modellen worden uitgebracht.