Naar thema freed from certainty van Veer Stichting 2014.

Een digitaal advies ontneemt ons geen keuzevrijheid, zo lijkt het. De goede raad van een glinsterend en soms pratend apparaatje voelt niet restrictief, maar luxueus. Helemaal twee punt nul. Maar wie geen programmacode kan lezen wordt soms vlakuit gemanipuleerd.

De wet van Moore stelt dat de computerkracht van onze apparatuur ongeveer iedere twee jaar zal verdubbelen. Naarmate we meer transistoren kwijt kunnen op een chip wordt deze sneller. Sinds Gordon Moore in 1965 deze boude uitspraak deed, zeggen critici al dat de grenzen van de natuurkunde getart worden door de computers die we maken. Moore heeft echter steeds gelijk gekregen, tot het punt waarop we nu allemaal evenveel rekenkracht in onze broekzak dragen als nodig was om in zijn tijd mensen op de maan te zetten.

Naarmate we meer transistoren kwijt kunnen op een chip wordt deze sneller.

Tel daarbij op hoeveel goedkoper harde schijven zijn geworden sinds de tijd van kamersgrote buizencomputers en je begrijpt waarom we vandaag de dag snel geneigd zijn naar onze smartphones te grijpen als we over iets twijfelen. Bijna alle informatie staat immers opgeslagen en je hebt het juiste zo gevonden. Van het verschil tussen een kameel en een dromedaris tot de verjaardagen van onze familieleden.

Hilton, CC By-SA Xander Bouwman

Die mobiele encyclopedie is natuurlijk fantastisch. Om de smartphone kun je in 2014 haast niet meer heen. We zoeken op een dag van alles op, en wat niet op wikipedia staat daarover laten we ons automatisch adviseren door een slim computerprogramma. En in deze volgende stap schuilt een gevaar. Niet het gevaar dat onze technologie ons dom maakt, maar dat we vergeten dat zelfs slimme software door mensen is geschreven.

Google zet groot in op je vertellen wat je misschien wel wil weten

Neem de Google Now app. Hiermee geeft het bedrijf ons gevraagde en ongevraagde adviezen via de smartphone en webbrowser. De laatste versie van het Android besturingssysteem is zelfs volledig om deze functionaliteit heen gebouwd: Google zet groot in op je vertellen wat je misschien wel wil weten. Hoi Xander, deze blogpost kun je vast waarderen. Maar je moet zo wel vertrekken als je de trein nog wil halen. En als dat niet lukt: Er zijn hier ook aardige restaurants in de buurt…

Waarop deze adviezen gebaseerd zijn, blijft voor ons een mysterie. Het systeem is gesloten en zonder toelichting: een black box. Dat is prima wanneer de adviezen kloppen en bovendien over betrekkelijk onbelangrijke zaken gaan. Maar wat als onze huisarts straks tijdens een consult zijn tablet erbij pakt om te bepalen of hij je het beste een placebo of echte medicatie mee kan geven? Wat als de uitkeringsgerechtigdheid van je moeder het resultaat is van een wiskundige formule in plaats van een menselijke overweging? Bedrijven staan te springen om deze toepassingen te maken en verkopen.

Het kan dus het moet, lijkt het. Dit hou je niet tegen, zegt men dan.

Op de wenselijkheidsvraag wordt echter vaak slechts één tegenargument gegeven. Ja maar, innovatie! Dat is het magische woord. Het kan dus het moet, lijkt het. Dit hou je niet tegen, zegt men dan. En dat klopt. Een ontwikkeling als globalisering of technologisering is niet te stoppen. Maar wel te sturen.

En het is belangrijk dat we onze handen aan het stuur houden, want technologie is niet neutraal. Code is law, schreef Lawrence Lessig. Oftewel: onderliggend aan onze apparaten liggen de waarden van degene die het heeft ontworpen en geprogrammeerd. Pas degene die de computercode kan doorgronden, begrijpt met welk doel deze is geschreven.

Waar wij onze technologie – van smartphone tot slimme meter – in willen zetten om ons leven gemakkelijker te maken of om onszelf te ontplooien, is het doel van het bedrijf dat het apparaatje fabriceerde vaak heel anders. In Silicon Valley is de investeerder koning, en heersen waarden als winstmaximalisatie en optimale efficiëntie. Vergeet niet dat Google Now ontworpen is om onze persoonlijke gegevens zo efficiënt mogelijk te gelde te maken.

De manier om hieraan te ontkomen klinkt simpel maar is best pittig. Dat is namelijk om je steeds af te vragen: is dit hoe ik mijn apparaat wil gebruiken, of word ik gestuurd door hoe het werkt? Een computer is maar zo intelligent als degene die hem ontwerpt – en degene die hem gebruikt.