Het Pentagon wil AI gebruiken voor massasurveillance en wapens

De Amerikaanse startup Anthropic heeft donderdag het verzoek van het Pentagon om het contract aan te passen afgewezen. Volgens CNN stelt het bedrijf dat de voorgestelde wijzigingen geen antwoord bieden op de zorgen over het potentiële gebruik van AI voor massasurveillance of volledig autonome wapens.

Het Amerikaanse ministerie van Defensie en Anthropic verschillen van mening over de beperkingen die het bedrijf oplegt aan het gebruik van Claude, het eerste AI-systeem dat is ingezet binnen het geheime militaire netwerk.

Aanbiedingen 360 artikel — 360 aanbieding: 3 maanden digitaal voor maar 15 euro.

Dinsdag waarschuwde minister van Defensie Pete Hegseth CEO Dario Amodei van Anthropic dat het Pentagon het contract van 200 miljoen dollar zou beëindigen als het bedrijf het gebruik van zijn AI-model niet zou goedkeuren ‘voor alle wettige doeleinden’. Anthropic zou ook op een zwarte lijst komen te staan die ‘doorgaans is gereserveerd voor bedrijven die banden hebben met buitenlandse tegenstanders’, aldus CNN.

Anthropic gaf echter niet toe. ‘Deze dreigingen veranderen niets aan ons standpunt: we kunnen in alle eerlijkheid niet aan hun verzoek voldoen’, zei Amodei donderdag. ‘Het gebruik van deze systemen voor binnenlandse massasurveillance is onverenigbaar met democratische waarden’, benadrukte hij.

Dit artikel van Marc van Rijswijk verscheen eerder in CNN.