AI en recht
Hersenimplantaten van Neuralink: de toekomst of een stap te ver?
Techbedrijf Neuralink, opgericht door Elon Musk en een team van wetenschappers en engineers, is sinds dit jaar weer een stapje dichter bij zijn transhumanistische doel om menselijke vermogens aanzienlijk te verbeteren met hersenimplantaten. Deze week implanteerde Neuralink succesvol een hersenchip bij een mens, nadat het in mei vorig jaar groen licht had gekregen van de Amerikaanse voedsel- en warenautoriteit FDA om klinisch onderzoek bij menselijke proefpersonen uit te voeren. De chip is in eerste instantie bedoeld om bij te dragen aan de behandeling van aandoeningen zoals verlamming, maar zou uiteindelijk de menselijke conditie moeten verbeteren. Dit roept niet alleen praktische vragen op, maar ook – en wellicht voornamelijk – ethische en juridische vragen over bijvoorbeeld de mentale privacy van gebruikers. In dit blog belicht ik een aantal zorgen en onderbouw ik de noodzaak om deze eerst aan te pakken alvorens over te gaan tot consumentengebruik.
Het hersenimplantaat van Neuralink
Het doel van Neuralink is dat zijn hersenimplantaten in de toekomst kunnen bijdragen aan de behandeling van ernstige aandoeningen zoals verlamming, blindheid en depressie. Maar daar stopt de ambitie van het bedrijf niet. Het uiteindelijke streven is om een apparaat te maken dat de geest van een gebruiker rechtstreeks kan verbinden met supercomputers, zodat mensen op gelijke tred blijven met kunstmatige intelligentie. Ook zou het apparaat uiteindelijk gedachten moeten kunnen extraheren en opslaan, als een soort back-upschijf voor de “digitale ziel”.
Neuralink
Deze visie heeft Neuralink nu vertaald naar een tastbaar apparaat. Het prototype van hun hersenimplantaat bevat meerdere chips en een draadloze batterij, samengevoegd in een apparaatje ter grootte van een munt. Aan dit apparaatje zitten flinterdunne draadjes met daarop elektroden die hersenactiviteit kunnen meten. Dit apparaatje kan in de hersenen worden geïmplanteerd door een speciaal daarvoor ontwikkelde robot. In de hersenen vangt het implantaat signalen op, die via Bluetooth worden verzonden en “gedecodeerd” (in acties omgezet) door een Brain Computer Interface (BCI). Zo kan een verlamd persoon – tenminste, in theorie – bijvoorbeeld een computer bedienen of een robotledemaat bewegen, enkel op basis van denkkracht. Neuralink publiceerde in 2021 een video waarin een aap door middel van hun implantaat een computerspelletje bediende met zijn hersenen. Hoewel het menselijke proefpersoon nog niet zo ver is, lijken de eerste resultaten wel aan te tonen dat het implantaat neurale activiteit in het menselijk brein kan detecteren.
Zo’n hersenimplantaat klinkt heel baanbrekend, maar zal waarschijnlijk niet snel in de medische schappen liggen: experts voorspellen dat het nog wel een decennium kan duren voordat Neuralink zijn hersenimplantaat commercieel beschikbaar kan maken. [LR3] [N4] Daarnaast is Neuralink is niet het eerste bedrijf dat op deze manier mens en computer wil verbinden. Zo heeft Blackrock Neurotech bijvoorbeeld al succesvol een BCI-apparaat in menselijke proefpersonen met verlamming geïmplanteerd en kwam recent een BCI van onderzoekers uit de Verenigde Staten in het nieuws die verlamde mensen kon laten “praten”.
Zorgen vanuit Amerikaanse instanties
Hoewel het hersenimplantaat van Neuralink in de toekomst veel kan betekenen voor verlamde mensen, zijn er ook grote zorgen. Zo kwam de FDA in Neuralink’s eerste aanvraag veel bezwaren tegen, waarvan de belangrijkste gingen over de medische veiligheid van de implantaten. Zo constateerde de FPA problemen met (gevaarlijke) lithiumbatterij van het apparaat, de mogelijkheid dat de draden van het implantaat in de hersenen zouden migreren en de uitdaging om het apparaat veilig te verwijderen zonder hersenweefsel te beschadigen. De FDA wees Neuralink’s eerste aanvraag af en stelde dat het bedrijf eerst bovengenoemd problemen moest aanpakken voordat er testen op mensen konden worden uitgevoerd. Experts waren dan ook verrast toen de FDA in 2023 bij de tweede aanvraag toch toestemming gaf om de implantaten bij mensen te gaan testen. Er bestaat de mogelijkheid dat de bovengenoemde problemen zijn verholpen (het is onduidelijk hoe – zowel Neuralink als de FDA weigeren hier openheid over te geven).
Desalniettemin waren er naast de bezwaren van de FDA ook andere redenen om vraagtekens te zetten bij het uitvoeren van klinisch onderzoek met Neuralinks hersenimplantaten op mensen. Zo voert de Amerikaanse federale overheid op dit moment onderzoek uit naar de onderzoekspraktijk van Neuralink, en in het bijzonder naar het welzijn van de proefdieren en de medische veiligheid.
Volgens (ex-)werknemers verliepen de proeven op dieren te traag, waardoor niet op de beoogde tijd klinisch onderzoek met mensen kon aanvangen. Musk zou eigenlijk al in 2020 hiermee willen beginnen. Daarom bouwde Neuralink interne faciliteiten voor dierproeven en werden experimenten overhaast uitgevoerd, aldus de werknemers. De druk om vooruitgang te boeken heeft volgens werknemers bijgedragen aan onnodig lijden en sterfgevallen bij proefdieren (meer dan 1500 proefdieren zijn overleden sinds 2018) en andere fouten, zoals het mogelijk illegaal verpakken en vervoeren van gevaarlijke ziekteverwekkers op implantaten uit apenhersenen die ernstige medische problemen kunnen veroorzaken bij geïnfecteerde mensen, zoals bloedbaaninfecties, longontsteking en hersenletsel.
Juridisch en ethisch perspectief
Het is goed dat de FDA en Amerikaanse federale overheid bestuderen of het onderzoek correct wordt uitgevoerd en of de hersenimplantaten van Neuralink veilig zijn. Toch lijkt het alsof er een belangrijk perspectief over het hoofd wordt gezien, namelijk het ethische en mensenrechtelijke perspectief. In de woorden van neuro-ethicus Laura Cabrera: “Is he going to see a brain implant device as something that requires not just extra regulation, but also ethical consideration? Or will he just treat this like another gadget?”
Ik deel Cabrera’s mening dat de hersenimplantaten van Neuralink niet vanzelfsprekend behandeld kunnen worden als elk ander elektronisch apparaat. Juist omdat zulke implantaten in de hersenen werken, zijn er een aantal ethische en juridische implicaties die in de beoordeling van de veiligheid van deze implantaten niet vergeten mogen worden. Relevante interesses zijn bijvoorbeeld de fysieke en mentale integriteit, autonomie en identiteit van gebruikers, maar in het bijzonder kan de mentale privacy van proefpersonen en latere consumenten van de hersenimplantaten in het geding zijn.
Mentale privacy
Privacy behelst een recht om “alleen gelaten te worden” en zonder inmenging van de overheid je leven te leiden. Het bevat naast negatieve verplichtingen ook positieve verplichtingen voor de staat om ervoor te zorgen dat het recht op privacy ook tussen individuen (zoals tussen verkoper en consument) wordt geëerbiedigd, bijvoorbeeld door wetten aan te nemen die privacy beschermen en door het doen van grondig, snel en onpartijdig onderzoek in geval van vermeende privacyschendingen. Daarom zal het recht privacy ook in de verhoudingen tussen Neuralink en huidige proefpersonen en toekomstige consumenten een rol spelen.
Het recht op privacy omvat bescherming van persoonlijke gegevens. Dit is informatie die betrekking heeft op een specifiek persoon aan de hand waarvan de persoon kan worden geïdentificeerd, zoals stemopnames, DNA materiaal, en bepaalde bankdocumenten. Persoonlijk gegevens mogen niet zomaar verkregen, opgeslagen, gebruikt of gedeeld worden. Of zulke handelingen het recht op privacy raken, is afhankelijk van verschillende factoren, zoals de context waarin de informatie is vastgelegd, de manier waarop de gegevens worden gebruikt, en de aard van de gegevens.
In het bijzonder zullen persoonsgegevens die sensitieve informatie bevatten eerder een inbreuk op privacy betreffen. Informatie is sensitief als deze van gevoelige aard is en gaat over bijvoorbeeld iemands gezondheid, raciale afkomst, seksleven, politieke opvattingen, of religieuze overtuigingen. Persoonlijke en sensitieve gegevens mogen in de regel alleen verkregen worden wanneer iemand daarvoor geldige, vrijwillige en geïnformeerde instemming heeft gegeven. Dit houdt in dat een individu niet gedwongen wordt om in te stemmen, alle nodige informatie wordt verstrekt op een zo begrijpelijke en volledig mogelijke wijze, en de mogelijkheid wordt verschaft deze instemming op elk moment weer in te trekken.
Hersenimplantaten en mentale privacy
Hersenimplantaten verzamelen hersendata: gegevens over de activiteit en het functioneren van iemands hersenen. Deze gegevens zijn ten eerste persoonlijk, dat wil zeggen: het is mogelijk om een individu te identificeren op basis van hersendata. Hersendata zijn, net zoals bijvoorbeeld vingerafdrukken of DNA-bewijs, uniek voor elke persoon en kwalificeren dus als persoonlijke gegevens die beschermd worden door het recht op privacy.
De gegevens die hersenimplantaten in beeld kunnen brengen zijn daarnaast sensitief. Hersendata zijn van gevoelige aardomdat ze, net als veel andere vormen van medische gegevens, veel informatie geven over de fysiologie en fysieke gezondheid van een persoon. Het bijzondere aan hersendata is echter dat ze niet alleen de fysieke staat van het brein in beeld kunnen brengen, maar ook de mentale toestanden die hieraan relateren, en daarom inbreuk kunnen maken op mentale privacy. Met behulp van hersendata kunnen inferenties worden gemaakt over iemands mentale gezondheid, emotionele staten en gedragskenmerken. Zo blijkt uit onderzoek dat neurotechnieken emotionele reacties kunnen meten, voorkeuren en aversies kunnen identificeren en zelfs kunnen bijdragen aan de diagnose van aandoeningen zoals depressie. Op bredere schaal kunnen hersendata zelfs een aanvulling vormen op bestaande algoritmes die bijvoorbeeld bij het kiezen van advertenties persoonlijke gegevens gebruiken. In de toekomst zouden hersendata zelfs nog meer mentale informatie kunnen onthullen, gezien de snelle ontwikkelingen op het gebied van (neuro)technologie. Gegevens uit hersenimplantaten kunnen dus hele persoonlijke, intieme informatie bevatten, waardoor het buitengewoon belangrijk is dat de (mentale) privacy van die gegevens gewaarborgd wordt.
Conclusie
Het is nog onbekend wat de hersenimplantaten van Neuralink precies kunnen meten in het menselijk brein en wat Neuralink precies van plan is daarmee te doen – hoewel wel bekend is dat Neuralink gegevens uit hun patiëntenregister kan gebruiken voor diverse, maar weinig gespecificeerde doeleinden zoals zakelijke activiteiten, onderzoek en productontwikkeling. Gezien de potentiële risico’s van hersenchips voor mentale privacy is verder onderzoek nodig naar wettelijke waarborgen waarmee staten aan hun positieve verplichtingen kunnen voldoen. In dat onderzoek moeten tenminste aan de orde komen onder welke voorwaarden en omstandigheden commerciële bedrijven zoals Neuralink hersendata mogen verzamelen. Welke hersengegevens mogen gemeten worden – alle data, alleen de data die nodig zijn voor het doel van de neurochip, of alleen de data waarmee de cliënt heeft ingestemd? Hoe betrouwbaar zijn data – kan een hersenchip fouten maken, of kan hersenactiviteit verkeerd worden gekoppeld aan bepaalde mentale staten? Daarnaast is het belangrijk te onderzoeken op welke wijze de hersendata mogen worden beheerd, gedeeld en gebruikt. Wie mag de gegevens inzien? Welke maatregelen moeten worden genomen om de beveiliging van de informatie te garanderen? Deze vragen zijn essentieel om te voorkomen dat de technologie het recht in de toekomst inhaalt.