Chili erkent neurorechten om burgers te beschermen tegen kunstmatige intelligentie

Chili is het eerste land ter wereld dat in zijn grondwet opneemt dat iemands mentale identiteit niet mag worden gemanipuleerd. De drijvende kracht achter dit initiatief is neurowetenschapper Rafael Yuste: ‘We moeten voorkomen dat zich herhaalt wat met sociale media is gebeurd.’

Eind augustus stelde Elon Musk ons de biggen Joyce, Dorothy en Gertrude voor. In het bijzin van een klein groepje toeschouwers tijdens een evenement in San Francisco, kwamen de eerste twee snel naar hem toegerend toen hij ze riep. Maar de laatste kwam iets later uit het hok dan verwacht en de Zuid-Afrikaanse goeroe moest zijn toevlucht nemen tot het afgezaagde ‘dat heb je met een live-uitzending’.

De presentatie werd wereldwijd uitgezonden alsof het om een raketlancering ging. Toen de varkentjes eindelijk voor de camera stonden, kon Musk opgelucht ademhalen en uitleggen waarom ze daar waren. Ze waren er niet als hoofdpersonen van een kindersprookje, eerder als die uit een sciencefictionverhaal. Het evenement werd georganiseerd door NeuraLink, het neurotechnologiebedrijf dat de baas van SpaceX en Tesla heeft opgericht. En Gertrude, de bijzonderste van de drie, was het testvarkentje.

Een paar maanden daarvoor was bij haar een chip geïmplanteerd die een deel van de hersensignalen registreerde die van en naar haar snuit gaan. Toen ze overal begon te snuffelen, begon halverwege de uitzending een apparaat te piepen. Musk noemde deze gadget een ‘brein-fitbit’. Hiermee maakte hij duidelijk dat hij op weg was een van zijn toekomstdromen waar te maken: het menselijke brein met een computer verbinden zonder dat er bedrading voor nodig is. In techjargon heet dat een ‘brain-computer interface’.

‘Op dat moment beseften we dat de situatie urgent werd,’ verklaart de Chileense senator Guido Girardi. Hij kwam meteen in actie.

Met neurotechnologie kunnen nu al emoties, gevoelens en zelfs het onderbewustzijn worden uitgelezen

En daardoor staat zijn land nu op het punt om als eerste ter wereld neurorechten te gaan erkennen en te reguleren. We hebben het hier over een baanbrekend wettelijk kader waarin wordt bepaald dat mentale integriteit niet manipuleerbaar is en waarin die wordt beschermd tegen de opmars van kunstmatige intelligentie en andere nieuwe technologieën. Dit wetsvoorstel wordt ook gevolgd door de Verenigde Naties en de techreuzen in Silicon Valley. Binnenkort wordt het geratificeerd door het Lagerhuis van het Zuid-Amerikaanse land nadat het in het Chileense Hogerhuis al unaniem was aangenomen.

De bescherming van deze ‘nieuwe mensenrechten’, zoals Girardi ze noemt, heeft de steun van het complete Chileense parlement en wordt vastgelegd in de hervorming van de grondwet en een speciale wet met vijf grondbeginselen: het recht op geestelijke privacy, persoonlijke identiteit, vrije wil, gelijke toegang tot technieken voor ‘mentale verbetering’ en bescherming tegen vooringenomenheid en discriminatie door algoritmen. Bovendien worden in deze wet de neurale gegevens van ieder mens gelijkgesteld aan een orgaan: zonder dat er een leven mee kan worden gered en zonder uitdrukkelijke toestemming, mogen ze niet worden verhandeld. Wie er munt uit wil slaan, riskeert zware strafrechtelijke sancties.

Menselijke maat

Girardi is arts van beroep en zegt dat hij zich op dit vlak heeft laten inspireren door de Spaanse orgaantransplantatiewet. Hij waarschuwt met klem dat het nodig is om in actie te komen voordat sensoren zoals die van Neuralink op industriële schaal worden gefabriceerd en voor gebruikers net zo gemakkelijk verkrijgbaar zijn als de nieuwste generatie smartphones. Sinds een paar maanden brengt het bedrijf Hyperfine bijvoorbeeld een draagbare MRI-scanner op de markt waarmee hersenbeschadiging bij kinderen kan worden gediagnosticeerd. Dat kan zijn nut bewijzen bij zorginstellingen met weinig apparatuur.

‘Democratische instituties en regelgeving lopen altijd achter wat betreft de bescherming van de menselijke maat, vooral in deze wereld die steeds verder versnelt. Bij dit soort processen is consensus nodig en dus verlopen ze altijd traag,’ aldus de woordvoerder van de sociaaldemocratische oppositiepartij PPD. ‘Maar technologische processen verlopen juist in een razend tempo en daarom moeten we dit er nu doorheen krijgen, later heeft het geen zin meer.’

En hij waarschuwt: ‘Met neurotechnologie kun je nu al emoties, gevoelens en zelfs het onderbewustzijn uitlezen. En op basis daarvan kunnen gedachten en levensverhalen worden bedacht en weer worden teruggestopt in de hersenen. En dan weet je niet of die echt van jou zijn of dat die met een ander belang zijn gecreëerd. Dat brengt een enorm groot risico voor je beslissingsbevoegdheid met zich mee.’

Tegen wie moeten we ons eigenlijk beschermen: de internetgiganten, de regering, hackers? Onszelf?

De afgelopen jaren hebben behalve Musk, ook tycoons als Mark Zuckerberg (Facebook/CTRL-Labs) en Bryan Johnson (Braintree/Kernel) plannen aangekondigd om de connectiviteit van het menselijk brein te verbeteren en zelfs te herstellen met behulp van neurotechnologie. En ook bij Microsoft, IBM en Google zitten ze niet stil. Het zijn projecten die van een afstandje bekeken iets weg hebben van het Wilde Westen. ‘Er is wel gezegd dat we in een tijd zitten die te vergelijken is met de goudkoorts, alleen is dit vele malen complexer. Hier zijn ideologische actoren aan het werk die alle macht willen vergaren,’ waarschuwt Girardi.

Zitten we misschien al middenin een Black Mirror-aflevering? Is de voortgang van de neurotechnologie dan echt zo eng als in de jaren vijftig de ontwikkeling van de kernenergie leek? En tegen wie moeten we ons eigenlijk beschermen: de internetgiganten, de regering, hackers? Of misschien wel tegen onszelf?

Een dystopische connotatie dringt zich op (letterlijk en figuurlijk): in China zijn in 2019 op scholen in de provincie Zhejiang hoofdbanden ingevoerd die de aandachtsspanne van leerlingen meten. De leraar krijgt een seintje in de kleuren van een stoplicht. De paradox is dat deze hoofdband — of eentje die erop lijkt — iemand met amputaties of die verlamd is levensreddende ondersteuning kan bieden. Wetenschappers van de Amerikaanse universiteiten Stanford, Brown en Harvard hebben dat onlangs aangetoond.

‘We moeten naar de toekomst kijken om mogelijk schadelijk gebruik vóór te zijn’

‘Neurotechnologie kan de mensheid op drie terreinen helpen: de wetenschap omdat die ons kan helpen begrijpen hoe de hersenen werken en ontdekken wat een menselijk wezen eigenlijk is, de gezondheidszorg om patiënten met neurologische en geestesziekten te ondersteunen, en de economie,’ aldus Rafael Yuste, neurowetenschapper en hoogleraar aan de universiteit van Columbia (VS). ‘Voor elke negatieve toepassing zijn er negen positieve. Wat we moeten doen is naar de toekomst kijken om mogelijk schadelijk gebruik vóór te zijn. We moeten voorkomen wat er met sociale media is gebeurd, waarbij de technologiewereld zomaar in het diepe is gesprongen. Tien jaar later moeten we met veel spijt toegeven dat de spelregels zijn veranderd.’

Yuste is de Spaanse onderzoeker die president Obama er in 2013 van overtuigde dat het een goed idee was om 6 miljard dollar te spenderen aan het in kaart brengen van de hersenen. Hij is ook een van de belangrijkste adviseurs van het Chileense project. Een paar jaar geleden heeft Girardi hem uitgenodigd voor Congreso Futuro, het forum dat in tien jaar tijd is uitgegroeid tot het belangrijkste wetenschappelijke en intellectuele evenement van Latijns-Amerika. Daar zijn ze samen ‘s nachts onder de sterrenhemel in de Atacama-woestijn tot de conclusie gekomen dat er wettelijke en ethische grenzen moesten worden gesteld aan het gebruik van apparatuur waarmee het brein kan worden uitgelezen en beschreven.

Zo begon Yuste, de geestelijk vader van het NeuroRights Initiative, die al een team van 25 deskundigen in neurowetenschappen, recht en ethiek (Morningside Group) om zich heen had verzameld, samen met Congreso Futuro met het leggen van de wetenschappelijke basis voor het wijzigen van de Chileense grondwet. Onlangs heeft Morningside hetzelfde voorstel voorgelegd aan de entourage van President Biden. ‘Hoewel we verontrustend waren door de acties van Trump, hebben we gemerkt dat de Amerikaanse regering hier belangstelling voor heeft,’ vertelt Yuste.

Zijn doel is enerzijds dat neurorechten worden opgenomen in de Universele Verklaring van de Rechten van de Mens, en anderzijds dat neurotechnologen bereid zijn een eed af te leggen in de trant van Hippocrates. De Spaanse regering overweegt dit op te nemen in de Estrategia Nacional de Inteligencia Artificial (nationale strategie voor kunstmatige intelligentie) die ze momenteel aan het voorbereiden zijn.

Vreemde gedragingen

De Canadese filosoof Frederic Gilbert is bio-ethicus, geeft les aan de universiteit van Tasmanië (Australië) en bestudeert het beleid bij klinische en experimentele proeven op mensen, waaronder bij invasieve hersenchirurgie. Hij geeft toe ‘een beetje sceptisch’ te zijn over het inpassen van neurorechten in het VN-kader en vestigt liever de aandacht op de ‘schijn van controle’ die ze pretenderen. ‘Jij hebt natuurlijk een smartphone. Kun je één dag zonder? Merk je dat je hem steeds nodig denkt te hebben, ook als hij niet binnen handbereik is? En dan hebben we het hier niet over iets wat in je hoofd zit, maar je in je hand hebt.’

Bij bijna alle patiënten bij wie een apparaatje was geïmplanteerd, bleek diepe hersenstimulatie heilzaam. Maar af en toe waren er meldingen van vreemde gedragingen als hypomanie of hyperseksualiteit. The New Yorker meldde enkele weken geleden bovendien dat bij 65 procent van deze mensen hun huwelijk of relatie was stukgelopen en dat ongeveer evenveel mensen met hun opleiding wilden stoppen. Kunnen dit soort ontwikkelingen in de toekomst ook plaatsvinden bij gebruik van technologie die nu wordt ontwikkeld? ‘Dat is een reële mogelijkheid,’ zegt Gilbert. ‘Zelfs al werkt het duurste en meest geavanceerde apparaat van Elon Musk nog zo goed, dat betekent nog niet dat de patiënt er ook baat bij heeft.’

Het is bijna een kwart eeuw geleden dat de Amerikaanse Food and Drug Administration (FDA) het gebruik van een apparaatje goedkeurde voor diepe hersenstimulatie tegen essentiële tremor en de ziekte van Parkinson in een vergevorderd stadium. Nu zijn er wereldwijd naar schatting minimaal 200.000 mensen met een of ander hersenimplantaat, bijvoorbeeld een Cochlear-implantaat voor mensen met hoorproblemen. Maar op de drempel van een nieuw tijdperk van bovenmenselijke kwaliteiten, moet je je afvragen wat de gevolgen zijn van het gebruik van neurotechnologie zonder doktersrecept.

‘Zoals tijdens corona een commissie besliste wie het eerst moest worden ingeënt, zou je kunnen beslissen wie het eerst aan de beurt is voor verbeterde cognitie’

Yuste pleit ervoor de toegang tot neurotechnologie niet alleen een persoonlijke keuze te laten zijn, maar ook voor te leggen aan een ethisch panel bestaande uit artsen en vertegenwoordigers uit het maatschappelijk middenveld. Of dat er in ieder geval een of ander filter wordt ingesteld. ‘Zou ik bereid zijn vrijwillig een implantaat te nemen zonder dat er sprake is van een geestesziekte?’ vraagt hij zich af. ‘In dat geval zou ik de aanbevelingen van zo’n panel voetstoots aannemen. Zoals tijdens de coronapandemie een commissie besliste wie het eerst moest worden ingeënt, zou je met dit systeem kunnen beslissen wie het eerst aan de beurt is voor verbeterde cognitie.’

Maar aan de andere kant van de Atlantische Oceaan toont Girardi zich bezorgder. ‘Zo zou een heuse kaste van ‘augmented’ menselijke wezens kunnen worden gegeneerd. Als je IQ 10 punten hoger is dan het gemiddelde, leef je langer, ben je gelukkiger, heb je minder last van ziektes, heb je meer geld, en ga zo maar door. Dat is wetenschappelijk aangetoond. Bij iemand met een IQ van 200 punten meer, wordt die kloof maatschappelijk gezien onoverbrugbaar,’ aldus Girardi. Als lid van het Hogerhuis is hij in zijn land ook de drijvende kracht achter de levensmiddelenwet en -etikettering waarop wordt gewaarschuwd voor een te hoog zout-, suiker- en verzadigd vetgehalte (te vergelijken met de Europese Nutri-Score).

‘Weet u of er multinationals zijn die uw project willen stilleggen of laten ontsporen? Hoe verdedigt u het wetgevingskader als het onder druk komt te staan?’ vroegen we hem.

’De voedingswaarde-etikettering erdoor krijgen bij frisdrankconsortia en andere grote bedrijven, was veel ingewikkelder. Ferrero zei dat ze ons bij de WTO zouden aanklagen en Nestlé bedreigt ons nu nog steeds. Maar we begrijpen dat ook dit niet gemakkelijk zal zijn’, luidde zijn antwoord.