• El Mundo
  • Amerika’s
  • Chili erkent neurorechten om burgers te beschermen tegen kunstmatige intelligentie

Chili erkent neurorechten om burgers te beschermen tegen kunstmatige intelligentie

© Wikimedia Commons
El Mundo | Madrid | José María Robles | 15 september 2021

Chili is het eerste land ter wereld dat in zijn grondwet opneemt dat iemands mentale identiteit niet mag worden gemanipuleerd. De drijvende kracht achter dit initiatief is neurowetenschapper Rafael Yuste: ‘We moeten voorkomen dat zich herhaalt wat met sociale media is gebeurd.’

Eind augustus stelde Elon Musk ons de biggen Joyce, Dorothy en Gertrude voor. In het bijzin van een klein groepje toeschouwers tijdens een evenement in San Francisco, kwamen de eerste twee snel naar hem toegerend toen hij ze riep. Maar de laatste kwam iets later uit het hok dan verwacht en de Zuid-Afrikaanse goeroe moest zijn toevlucht nemen tot het afgezaagde ‘dat heb je met een live-uitzending’.

De presentatie werd wereldwijd uitgezonden alsof het om een raketlancering ging. Toen de varkentjes eindelijk voor de camera stonden, kon Musk opgelucht ademhalen en uitleggen waarom ze daar waren. Ze waren er niet als hoofdpersonen van een kindersprookje, eerder als die uit een sciencefictionverhaal. Het evenement werd georganiseerd door NeuraLink, het neurotechnologiebedrijf dat de baas van SpaceX en Tesla heeft opgericht. En Gertrude, de bijzonderste van de drie, was het testvarkentje.

Een paar maanden daarvoor was bij haar een chip geïmplanteerd die een deel van de hersensignalen registreerde die van en naar haar snuit gaan. Toen ze overal begon te snuffelen, begon halverwege de uitzending een apparaat te piepen. Musk noemde deze gadget een ‘brein-fitbit’. Hiermee maakte hij duidelijk dat hij op weg was een van zijn toekomstdromen waar te maken: het menselijke brein met een computer verbinden zonder dat er bedrading voor nodig is. In techjargon heet dat een ‘brain-computer interface’.

‘Op dat moment beseften we dat de situatie urgent werd,’ verklaart de Chileense senator Guido Girardi. Hij kwam meteen in actie.

Met neurotechnologie kunnen nu al emoties, gevoelens en zelfs het onderbewustzijn worden uitgelezen

En daardoor staat zijn land nu op het punt om als eerste ter wereld neurorechten te gaan erkennen en te reguleren. We hebben het hier over een baanbrekend wettelijk kader waarin wordt bepaald dat mentale integriteit niet manipuleerbaar is en waarin die wordt beschermd tegen de opmars van kunstmatige intelligentie en andere nieuwe technologieën. Dit wetsvoorstel wordt ook gevolgd door de Verenigde Naties en de techreuzen in Silicon Valley. Binnenkort wordt het geratificeerd door het Lagerhuis van het Zuid-Amerikaanse land nadat het in het Chileense Hogerhuis al unaniem was aangenomen.

De bescherming van deze ‘nieuwe mensenrechten’, zoals Girardi ze noemt, heeft de steun van het complete Chileense parlement en wordt vastgelegd in de hervorming van de grondwet en een speciale wet met vijf grondbeginselen: het recht op geestelijke privacy, persoonlijke identiteit, vrije wil, gelijke toegang tot technieken voor ‘mentale verbetering’ en bescherming tegen vooringenomenheid en discriminatie door algoritmen. Bovendien worden in deze wet de neurale gegevens van ieder mens gelijkgesteld aan een orgaan: zonder dat er een leven mee kan worden gered en zonder uitdrukkelijke toestemming, mogen ze niet worden verhandeld. Wie er munt uit wil slaan, riskeert zware strafrechtelijke sancties.

Menselijke maat

Girardi is arts van beroep en zegt dat hij zich op dit vlak heeft laten inspireren door de Spaanse orgaantransplantatiewet. Hij waarschuwt met klem dat het nodig is om in actie te komen voordat sensoren zoals die van Neuralink op industriële schaal worden gefabriceerd en voor gebruikers net zo gemakkelijk verkrijgbaar zijn als de nieuwste generatie smartphones. Sinds een paar maanden brengt het bedrijf Hyperfine bijvoorbeeld een draagbare MRI-scanner op de markt waarmee hersenbeschadiging bij kinderen kan worden gediagnosticeerd. Dat kan zijn nut bewijzen bij zorginstellingen met weinig apparatuur.

De Chileense senator Guido Girardi. – © Wikimedia Commons

‘Democratische instituties en regelgeving lopen altijd achter wat betreft de bescherming van de menselijke maat, vooral in deze wereld die steeds verder versnelt. Bij dit soort processen is consensus nodig en dus verlopen ze altijd traag,’ aldus de woordvoerder van de sociaaldemocratische oppositiepartij PPD. ‘Maar technologische processen verlopen juist in een razend tempo en daarom moeten we dit er nu doorheen krijgen, later heeft het geen zin meer.’

En hij waarschuwt: ‘Met neurotechnologie kun je nu al emoties, gevoelens en zelfs het onderbewustzijn uitlezen. En op basis daarvan kunnen gedachten en levensverhalen worden bedacht en weer worden teruggestopt in de hersenen. En dan weet je niet of die echt van jou zijn of dat die met een ander belang zijn gecreëerd. Dat brengt een enorm groot risico voor je beslissingsbevoegdheid met zich mee.’

Tegen wie moeten we ons eigenlijk beschermen: de internetgiganten, de regering, hackers? Onszelf?

De afgelopen jaren hebben behalve Musk, ook tycoons als Mark Zuckerberg (Facebook/CTRL-Labs) en Bryan Johnson (Braintree/Kernel) plannen aangekondigd om de connectiviteit van het menselijk brein te verbeteren en zelfs te herstellen met behulp van neurotechnologie. En ook bij Microsoft, IBM en Google zitten ze niet stil. Het zijn projecten die van een afstandje bekeken iets weg hebben van het Wilde Westen. ‘Er is wel gezegd dat we in een tijd zitten die te vergelijken is met de goudkoorts, alleen is dit vele malen complexer. Hier zijn ideologische actoren aan het werk die alle macht willen vergaren,’ waarschuwt Girardi.

Zitten we misschien al middenin een Black Mirror-aflevering? Is de voortgang van de neurotechnologie dan echt zo eng als in de jaren vijftig de ontwikkeling van de kernenergie leek? En tegen wie moeten we ons eigenlijk beschermen: de internetgiganten, de regering, hackers? Of misschien wel tegen onszelf?

Een dystopische connotatie dringt zich op (letterlijk en figuurlijk): in China zijn in 2019 op scholen in de provincie Zhejiang hoofdbanden ingevoerd die de aandachtsspanne van leerlingen meten. De leraar krijgt een seintje in de kleuren van een stoplicht. De paradox is dat deze hoofdband — of eentje die erop lijkt — iemand met amputaties of die verlamd is levensreddende ondersteuning kan bieden. Wetenschappers van de Amerikaanse universiteiten Stanford, Brown en Harvard hebben dat onlangs aangetoond.

‘We moeten naar de toekomst kijken om mogelijk schadelijk gebruik vóór te zijn’

‘Neurotechnologie kan de mensheid op drie terreinen helpen: de wetenschap omdat die ons kan helpen begrijpen hoe de hersenen werken en ontdekken wat een menselijk wezen eigenlijk is, de gezondheidszorg om patiënten met neurologische en geestesziekten te ondersteunen, en de economie,’ aldus Rafael Yuste, neurowetenschapper en hoogleraar aan de universiteit van Columbia (VS). ‘Voor elke negatieve toepassing zijn er negen positieve. Wat we moeten doen is naar de toekomst kijken om mogelijk schadelijk gebruik vóór te zijn. We moeten voorkomen wat er met sociale media is gebeurd, waarbij de technologiewereld zomaar in het diepe is gesprongen. Tien jaar later moeten we met veel spijt toegeven dat de spelregels zijn veranderd.’

De Spaanse neurowetenschapper Rafael Yuste. – © Wikimedia Commons

Yuste is de Spaanse onderzoeker die president Obama er in 2013 van overtuigde dat het een goed idee was om 6 miljard dollar te spenderen aan het in kaart brengen van de hersenen. Hij is ook een van de belangrijkste adviseurs van het Chileense project. Een paar jaar geleden heeft Girardi hem uitgenodigd voor Congreso Futuro, het forum dat in tien jaar tijd is uitgegroeid tot het belangrijkste wetenschappelijke en intellectuele evenement van Latijns-Amerika. Daar zijn ze samen ‘s nachts onder de sterrenhemel in de Atacama-woestijn tot de conclusie gekomen dat er wettelijke en ethische grenzen moesten worden gesteld aan het gebruik van apparatuur waarmee het brein kan worden uitgelezen en beschreven.

Zo begon Yuste, de geestelijk vader van het NeuroRights Initiative, die al een team van 25 deskundigen in neurowetenschappen, recht en ethiek (Morningside Group) om zich heen had verzameld, samen met Congreso Futuro met het leggen van de wetenschappelijke basis voor het wijzigen van de Chileense grondwet. Onlangs heeft Morningside hetzelfde voorstel voorgelegd aan de entourage van President Biden. ‘Hoewel we verontrustend waren door de acties van Trump, hebben we gemerkt dat de Amerikaanse regering hier belangstelling voor heeft,’ vertelt Yuste.

Zijn doel is enerzijds dat neurorechten worden opgenomen in de Universele Verklaring van de Rechten van de Mens, en anderzijds dat neurotechnologen bereid zijn een eed af te leggen in de trant van Hippocrates. De Spaanse regering overweegt dit op te nemen in de Estrategia Nacional de Inteligencia Artificial (nationale strategie voor kunstmatige intelligentie) die ze momenteel aan het voorbereiden zijn.

Vreemde gedragingen

De Canadese filosoof Frederic Gilbert is bio-ethicus, geeft les aan de universiteit van Tasmanië (Australië) en bestudeert het beleid bij klinische en experimentele proeven op mensen, waaronder bij invasieve hersenchirurgie. Hij geeft toe ‘een beetje sceptisch’ te zijn over het inpassen van neurorechten in het VN-kader en vestigt liever de aandacht op de ‘schijn van controle’ die ze pretenderen. ‘Jij hebt natuurlijk een smartphone. Kun je één dag zonder? Merk je dat je hem steeds nodig denkt te hebben, ook als hij niet binnen handbereik is? En dan hebben we het hier niet over iets wat in je hoofd zit, maar je in je hand hebt.’

Bij bijna alle patiënten bij wie een apparaatje was geïmplanteerd, bleek diepe hersenstimulatie heilzaam. Maar af en toe waren er meldingen van vreemde gedragingen als hypomanie of hyperseksualiteit. The New Yorker meldde enkele weken geleden bovendien dat bij 65 procent van deze mensen hun huwelijk of relatie was stukgelopen en dat ongeveer evenveel mensen met hun opleiding wilden stoppen. Kunnen dit soort ontwikkelingen in de toekomst ook plaatsvinden bij gebruik van technologie die nu wordt ontwikkeld? ‘Dat is een reële mogelijkheid,’ zegt Gilbert. ‘Zelfs al werkt het duurste en meest geavanceerde apparaat van Elon Musk nog zo goed, dat betekent nog niet dat de patiënt er ook baat bij heeft.’

Het is bijna een kwart eeuw geleden dat de Amerikaanse Food and Drug Administration (FDA) het gebruik van een apparaatje goedkeurde voor diepe hersenstimulatie tegen essentiële tremor en de ziekte van Parkinson in een vergevorderd stadium. Nu zijn er wereldwijd naar schatting minimaal 200.000 mensen met een of ander hersenimplantaat, bijvoorbeeld een Cochlear-implantaat voor mensen met hoorproblemen. Maar op de drempel van een nieuw tijdperk van bovenmenselijke kwaliteiten, moet je je afvragen wat de gevolgen zijn van het gebruik van neurotechnologie zonder doktersrecept.

‘Zoals tijdens corona een commissie besliste wie het eerst moest worden ingeënt, zou je kunnen beslissen wie het eerst aan de beurt is voor verbeterde cognitie’

Yuste pleit ervoor de toegang tot neurotechnologie niet alleen een persoonlijke keuze te laten zijn, maar ook voor te leggen aan een ethisch panel bestaande uit artsen en vertegenwoordigers uit het maatschappelijk middenveld. Of dat er in ieder geval een of ander filter wordt ingesteld. ‘Zou ik bereid zijn vrijwillig een implantaat te nemen zonder dat er sprake is van een geestesziekte?’ vraagt hij zich af. ‘In dat geval zou ik de aanbevelingen van zo’n panel voetstoots aannemen. Zoals tijdens de coronapandemie een commissie besliste wie het eerst moest worden ingeënt, zou je met dit systeem kunnen beslissen wie het eerst aan de beurt is voor verbeterde cognitie.’

Maar aan de andere kant van de Atlantische Oceaan toont Girardi zich bezorgder. ‘Zo zou een heuse kaste van ‘augmented’ menselijke wezens kunnen worden gegeneerd. Als je IQ 10 punten hoger is dan het gemiddelde, leef je langer, ben je gelukkiger, heb je minder last van ziektes, heb je meer geld, en ga zo maar door. Dat is wetenschappelijk aangetoond. Bij iemand met een IQ van 200 punten meer, wordt die kloof maatschappelijk gezien onoverbrugbaar,’ aldus Girardi. Als lid van het Hogerhuis is hij in zijn land ook de drijvende kracht achter de levensmiddelenwet en -etikettering waarop wordt gewaarschuwd voor een te hoog zout-, suiker- en verzadigd vetgehalte (te vergelijken met de Europese Nutri-Score).

‘Weet u of er multinationals zijn die uw project willen stilleggen of laten ontsporen? Hoe verdedigt u het wetgevingskader als het onder druk komt te staan?’ vroegen we hem.

’De voedingswaarde-etikettering erdoor krijgen bij frisdrankconsortia en andere grote bedrijven, was veel ingewikkelder. Ferrero zei dat ze ons bij de WTO zouden aanklagen en Nestlé bedreigt ons nu nog steeds. Maar we begrijpen dat ook dit niet gemakkelijk zal zijn’, luidde zijn antwoord.

Wat zijn de vijf neurorechten?

De groep wetenschappers onder leiding van Rafael Yuste dringt aan op het opnemen van vijf nieuwe rechten in de Universele Verklaring van de Rechten van de Mens die in 1948 door de Verenigde Naties is opgesteld:

1. Het recht op geestelijke privacy. Hierin wordt bepaald dat informatie die wordt verzameld met neurotechnologische hulpmiddelen die interactie hebben met de hersenen (neurogegevens), even vertrouwelijk moet worden behandeld als informatie verkregen uit orgaantransplantaties.

2. Het recht op persoonlijke identiteit. Dit beoogt het besef van het ik — de essentie van elk individu — te beschermen tegen elk gebruik van chips, sensoren en andere neurotechnologische apparatuur die hersenactiviteiten kunnen wijzigen.

3. Het recht op vrije wil. Dit is nauw verwant aan het vorige punt en wil het vermogen van een mens om beslissingen te nemen — ‘agency’ genoemd in de psychologie — beschermen tegen hersenstimulatietechnieken met een massaal bereik.

4. Het recht op gelijke toegang tot technieken voor ‘mentale verbetering’. ‘We leven in een wereld waarin mobiele apparatuur onze cognitieve vermogens al heeft verbeterd. Je komt bijvoorbeeld in een stad waar je nog nooit bent geweest, zet je smartphone aan en met GPS weet je dan misschien zelfs nog beter de weg dan een stadsbewoner,’ licht Yuste toe. ‘Door de overstap van dit soort technologie van je hand naar je brein, zou een mensheid van twee snelheden kunnen ontstaan. Met dit recht kunnen we voorkomen dat ongelijkheid tussen personen die zich de toegang tot dit soort instrumenten al dan niet kunnen veroorloven, ontaart in een sociale kloof. Een ethisch panel van artsen en vertegenwoordigers uit het maatschappelijk middenveld zou kunnen beslissen wie zich wel en niet cognitief mag verbeteren.’

5. Het recht op bescherming tegen vooringenomenheid en discriminatie door algoritmen. Deze regel moet ervoor zorgen dat het gebruik van algoritmen in het menselijk brein niet leidt tot vooringenomenheid, zoals we bij het gebruik van sociale netwerken hebben gezien.

Dit artikel van José María Robles verscheen eerder in El Mundo. Bekijk hier het origineel. »
Recent verschenen
Een remedie tegen navelstaren?
Schrijf je in voor onze nieuwsbrief.
Onze nieuwsbrief wordt wekelijks verzonden.
inschrijven

360 is jarig en trakteert!

Schrijf je in voor de nieuwsbrief en krijg 3 maanden gratis toegang tot 360 online.