Uit het voorgaande blog blijkt dat er van alles gebeurt waar de meeste mensen het mee oneens zullen zijn, of waar zij zich ongemakkelijk over zullen voelen. Publieke waarden die wij belangrijk vinden komen in het gedrang:
- Voortdurende monitoring bedreigt privacy.
- Bij gedragssturing dreigt manipulatie.
- Bij profilering dreigt discriminatie.
- Black-box systemen zijn niet toegankelijk voor democratische controle.
- Complexiteit sluit mensen buiten.
- Uitsluiting leidt tot ongelijkheid.
- Onoverzichtelijkheid beperkt keuzevrijheid en zelfbeschikking
Welke waarden vinden we dan wel belangrijk? Om dit te onderzoeken gingen we in het Digitale Identiteitslab de straat op, organiseerden we meet-ups over ontwerpprincipes en waarden, expertsessies en organiseerden we design sprints. Voor dit blog lichten we er drie aspecten uit: macht en autonomie, zelfbestuur en vertrouwen.
Macht en autonomie
Waarom wordt in elk lijstje van waarden naast privacy, ook controle genoemd? Mensen willen autonoom handelen: zelf kunnen beslissen over hun leven en handelen, zelf te beslissen om hulp te bieden, of om hulp te vragen. En autonomie vereist macht. In de online wereld ervaren mensen dagelijks dat ze misschien wel rechten hebben, iets zouden moeten kunnen doen of mogen – maar dat het niet lukt. Of dat er wordt gedaan alsof je een keuze hebt. Waar is bij de popup op deze website de knop “niet akkoord”?
Digitale identiteit regelt de toegang tot diensten waarmee we ons recht kunnen halen en aan onze plichten kunnen voldoen. Als dat systeem niet goed functioneert heeft dat grote gevolgen: als je een verzekering aansprakelijk wil stellen, belastingaangifte wil doen, in bezwaar gaat, studiefinanciering wil of hulp voor je moeder of zoon wilt aanvragen. Nu deze diensten steeds meer en soms uitsluitend online beschikbaar zijn, wordt digitale identiteit een steeds belangrijker poortwachter.
Dat in gesprekken en waardenladders controle, eigen regie, autonomie, vrijheid en soevereiniteit zo vaak terugkomen laat zien dat mensen zich op deze onderdelen bedreigd voelen door de oprukkende technologie en digitale diensten.
Zelfbestuur
Zonder macht is er geen autonomie. Iets bezitten terwijl je machteloos bent is betekenisloos. Daarom staan er bijvoorbeeld in elk Nederlands paspoort de volgende drie zinnen:
Dit paspoort is eigendom van de staat der Nederlanden. De houder is verplicht het paspoort zorgvuldig te bewaren. Het mag slechts ter beschikking gesteld worden gesteld indien daartoe een wettelijke verplichting bestaat.
Hiermee beschermt de overheid haar burgers door iets niet te geven, maar uit te lenen. Een bedrijf kan niet in zijn voorwaarden opnemen dat je een paspoort moet afgeven en daarmee iemand verplichten zijn identiteit af te geven. De overheid beschermt de burger ten opzichte van partijen die een machtspositie hebben. Zo mogen we bijvoorbeeld ook niet onze eigen nieren verkopen, want in artikel 11 van de grondwet is de integriteit van het lichaam vastgelegd.
Daarom geldt “data beschikbaar is data kwetsbaar”. Als burgers meer controle en regie over hun data krijgen, zonder dat hun autonomie daarbij evenredig versterkt wordt is het onvermijdelijk dat deze data in handen komt van allerlei derde partijen en zo vooral de positie van de grote, commerciële ICT spelers zal versterken.
Om autonomie (“zelfbestuur”) te realiseren zijn er twee dingen nodig: individuele capaciteit en een ondersteunende omgeving:
- Individuele capaciteit:
- je moet iets weten
- je moet een beslissing kunnen nemen
- je moet iets kunnen doen
- Ondersteunende omgeving:
- die je hiertoe in staat stelt
- en enige beperking/beheersing oplegt
Omdat individuele (en steeds vaker ook collectieve) autonomie als gevolg van nieuwe technologie onder druk staat, stelt het Rathenau instituut vier acties voor. Twee om het collectief handelingsperspectief te vergroten, aangevuld door twee nieuwe mensenrechten:
- Vergroot publieke en politieke bewustwording.
- Ontwikkel technologisch burgerschap: burgers zijn weerbaar en geïnformeerd en zij kunnen deelnemen aan de besluitvorming rondom technologie.
- Het recht om niet gemeten, geanalyseerd of gecoached te worden.
- Het recht op betekenisvol menselijk contact en menselijke controle.
Vertrouwen: relaties of transacties?
Je bent vader, zoon, vriend en collega. In elke context laat je iets anders zien van jezelf. Bovendien verandert je identiteit door tijd en plaats: op vakantie ben je een ‘ander mens’, je bent niet meer een kind van 8. We schakelen tussen deze fluïde identiteiten op basis van context, relatie en gevoel. Soms gaat het mis, tijdens de karaoke aan het eind van de kerstborrel bijvoorbeeld. De schade is dan te overzien (veel collega’s waren al naar huis). En zolang het niet op video staat, kan het materiaal ook niet hergebruikt worden door derden.
Vertrouwen baseren we in de gewone wereld vooral op tijdsduur en nabijheid / tegenwoordigheid. Mensen en organisaties die je lang kent, waar je meer ervaring en interactie mee hebt vertrouw je ook meer. Kortom: vertrouwen is gekoppeld aan relaties. Daarnaast gaat vertrouwen per definitie gepaard met kwetsbaarheid en geheimhouding. Bij mensen die je goed kent laat je meer van jezelf zien. En andersom. Een toename van vertrouwen gaat dus hand in hand met een toename van kwetsbaarheid.
In de technische architectuur van identiteitssystemen zijn deze verbanden precies zo aanwezig, zoals blijkt uit deze mooie technische definitie van vertrouwen:
“”When an actor trusts another actor, he or she is willing to assume an open and vulnerable position. He or she expects the other to refrain from opportunistic behaviour even if there is the possibility to show this behaviour.” In more technical terms, entity A trusts entity B if B can break the security or privacy policy of A without A’s cooperation or knowledge.”
Maar online zijn we onze veiligheidskleppen kwijt. Contexten lopen makkelijk en ongemerkt door elkaar, ‘op je gevoel’ werken heeft geen betekenis en relaties ook niet. In de digitale wereld is de bandbreedte voor communicatie veel smaller en tijd is er nauwelijks. Noodgedwongen reduceren machines onze identiteit tot een set transacties. We kunnen niet langer ‘spelen’ met onze identiteit. Als we online eenmaal écht vertrouwen hebben, heeft dat even makkelijk exponentiële consequenties:
“Familiarity on WhatsApp breeds trust, which most of the time is a pretty great social good. But in fast-moving situations with high stakes — natural disasters, wars, terrorist attacks or elections — trust on WhatsApp is turned on its head, becoming a key force behind viral falsity” (Farhad Manjoo, NY Times).
Echt, persoonlijk en nabij vertrouwen dat in de tijd is opgebouwd kan op een digitaal platform in 1 stap en 1 milliseconde verworden tot een verontrustend gerucht. Dat ik jou echt en blindelings vertrouw, wil niet zeggen dat wat jij zegt en ik vervolgens doorstuur ook waar is. Waar we offline bij het doorvertellen van anekdotes nuances toevoegen (of nieuwe feiten verzinnen), is online elk filter verdwenen.
In het volgende blog komen de applicaties die we in het digitale identiteitslab onderzochten aan bod.