Esej pro předmět Informační společnost jsem chtěl jako student oboru Design informačních služeb vztáhnout právě k němu. Vždy mě zajímala schopnost designu ovlivňovat lidské chování. Pokud je charakter informační společnosti netriviálně propojený s technologiemi a službami, pak je nutně utvářený také jejich designem.
Bawden a Robinson ve své knize Úvod do informační vědy[2] zmiňují, že informační společnost je strukturována soustavou rámců, které definují způsoby, jakými se v ní pohybujeme a jednáme. Tyto rámcové struktury zahrnují politiku formující veřejný prostor, zákony určující hranice přípustného jednání, etiku poskytující morální vodítka a hodnoty, které určují směřování společenského vývoje. Každý z těchto rámců má potenciál formovat lidské chování a společenské procesy, přičemž jejich vzájemná interakce ovlivňuje charakter informační společnosti. Design je s těmito strukturami neoddělitelně spjat — čerpá z nich a zároveň je posiluje.
Herbert Simon definoval[3] design jako činnost zaměřenou na vytváření “preferovaných stavů” — tedy situací, které designér považuje za žádoucí oproti současnému stavu. Za účelem dosažení takového stavu činí designér konkrétní volby, například vytváří limity či naopak usnadňuje specifické interakce. Jinými slovy, strukturuje (informuje) produkty či služby.
Klíčové je uvědomit si, že tyto “preferované stavy” nejsou pouze technickými výstupy, ale mají širší důsledky. Joshua Seiden ve své knize Outcomes over Outputs[4] rozlišuje tři úrovně cílů: výstup je to, co designér vytvoří — funkcionalita, wireframe, prototyp, řetězec interakcí. Výsledek je změna chování uživatelů, kterou výstup přináší. Dopad je vliv na podnikání, organizaci či společnost, nejčastěji vyjádřený v penězích. Jinými slovy, výstupy mají ovlivňovat chování tak, aby to působilo žádoucím dopadem. Ač jsou výsledky (změny chování) klíčovým mostem mezi výstupy a dopady, z mé zkušenosti je většina úsilí zaměřena na první rovinu cílů — tedy tvorbu výstupů.
Důležitým příspěvkem o vztahu výstupu a výsledku je pak kniha “Code and Other Laws of Cyberspace”[5], kterou v roce 1999 napsal americký právník Lawrence Lessig. Jeho teze “Code is Law” poukazuje na to, že v digitálním prostředí získává programový kód regulační moc srovnatelnou s tradičními zákony. Jinými slovy, právě kód určuje, co je technicky možné a co není, a tím de facto vytváří pravidla, která nelze porušit.
Tato esej argumentuje pro rozšíření Lessigovy perspektivy o dimenzi designérské praxe. Podobně jako programový kód i designérská rozhodnutí disponují mocí formovat lidské chování.
Design is Governance
Amber Case vysvětluje, že: “all design is governance”[6]. Tedy že každý design představuje formu správy, způsob strukturování možností lidského jednání. Konkrétně se to děje tak, že design určuje, jak bude služba či produkt využitý a jiné volby naopak činí nemožné. Svou tezi ilustruje nejprve na příkladu kavárny — konkrétně na volbách, které návštěvníci mohou učinit a které nikoli, protože jsou dány už existující strukturou — např. pokud nejde hýbat se stoly či u stolů nejsou zásuvky, tak je kavárna méně využitelná pro práci. Tato struktura může být vědomá i nevědomá volba majitele. Case potom přechází k digitálnímu prostředí, kde lze podle ní celou situaci často popsat pojmem implicitní feudalismus — “Even though designers are not making people do specific things, they’re deciding what kind of things can be done, and making many other actions impossible to perform. Users might want (and sometimes need) to do things the platform doesn’t allow.”
Praktický příklad této governance lze vidět v oblasti digitální přístupnosti. Pokud designér zanedbá implementaci WCAG standardů[7] (Web Content Accessibility Guidelines), celá část populace — uživatelé s hendikepy — dost možná nebude moci službu či produkt používat vůbec. V tomto smyslu se accessibility standardy stávají nástrojem vědomé governance, kde designéři explicitně strukturují digitální prostor tak, aby byl inkluzivní.
Virtualizace, definiční autority a performativní pravidla
Výše zmíněné strukturování designérské praxe lze pak přímo vztáhnout ke konceptům, které v rámci své metodologické reflexe práva[8] informačních a komunikačních technologií popsal Radim Polčák.
Prvním z nich je virtualizace[9], tedy “proces, kdy zůstává zachována podstata některého fenoménu, přičemž však dochází ke změně jeho formálních znaků. Virtualizovaný fenomén pak díky změně formy vykazuje i přes zachování své podstaty jiné vlastnosti, což se projevuje v jeho praktickém fungování.
Například podstatou smlouvy je shodná vůle stran. To, zda je zachycena na papíře či v digitálním prostředí, její podstatu nemění. Z pohledu designéra jsou však klíčové právě ony formální znaky, které se virtualizací proměňují. Designér rozhoduje o tom, jak bude virtualizovaná smlouva vypadat a fungovat v praxi.
Příkladem z digitálního prostředí může být nákup na eshopu, který ze své podstaty vede k uzavření smlouvy. Standardní proces průchodu nákupním košíkem vlastně podporuje to, aby bylo co nejvíce pravděpodobné, že obě strany budou se smlouvou spokojené — uživatel vidí, co kupuje, za kolik, a může své rozhodnutí změnit. Designér však může použít také tzv. dark patterns. Pokud například do košíku nakupujícího přidá dodatečnou službu bez jasného souhlasu, porušuje tím podstatu smlouvy jako shodné vůle stran. Uživatel má pocit, že souhlasí s jedním, ale ve skutečnosti se zavazuje i k něčemu jinému.
Druhým konceptem jsou tzv. definiční autority [9]. Polčák upozorňuje na to, že v digitálním prostředí nemůže člověk jednat přímo, vždy využívá nějakých technologií či služeb. Oboje je výsledkem aktivit jejich zprostředkovatelů, kteří jsou právě označováni jako definiční autority. Jejich vůle se pak projevuje v nastavení konkrétních parametrů — definičních norem prostředí.
Na základě doposud uvedeného sem řadím také designová rozhodnutí. Polčák dále argumentuje, že tyto normy mají charakter “přírodních zákonů” digitálního prostředí. V právní úpravě najdeme řadu ustanovení, které přímo cílí na definiční autority. Dobrým příkladem je evropské Nařízení o digitálních službách[11] (Digital Services Act, „DSA”). To ve svém článku 25, který cílí na vybrané poskytovatele digitálních služeb, přímo zakazuje klamavé designové praktiky, de facto dark patterns.
Article 25 — Online interface design and organisation
Providers of online platforms shall not design, organise or operate their online interfaces in a way that deceives or manipulates the recipients of their service or in a way that otherwise materially distorts or impairs the ability of the recipients of their service to make free and informed decisions.
Jde tedy o projev vůle zákonodárce, který si přímo uvědomuje, že určitá designová praxe definičních autorit je nežádoucí.
Posledním konceptem, který bych v této části eseje rád představil, jsou performativní pravidla[9]. Ta jsou využívána v situacích, kdy stát nemá kompetenci či znalosti, aby jasně právní normou definoval, jak má definiční autorita nastavit určitá řešení. Místo toho tedy řekne, co se má stát, nikoli jak toho má být dosaženo.
Příkladem je článek 25 GDPR[13] o “Data protection by design and by default”, který stanoví: “the controller shall, both at the time of the determination of the means for processing and at the time of the processing itself, implement appropriate technical and organisational measures.” GDPR deleguje na controllers rozhodnutí o “prostředcích” implementace ochrany osobních údajů. Stát definuje cíl, konkrétní řešení ponechává na definičních autoritách.
Podobně článek 10 Cyber Resilience Act[14] stanoví: “Products with digital elements shall be designed, developed and produced to ensure an appropriate level of cybersecurity”, přičemž Annex I konkretizuje: “Products with digital elements shall be designed, developed and produced to ensure cybersecurity by design and by default.” Opět performativní pravidlo — stát požaduje kybernetickou bezpečnost “by design”, implementaci deleguje na výrobce.
Samozřejmě, že performativní pravidla nejsou určena pouze designérům. Mnohem častěji adresují technologickou stránku řešení. Nicméně ve chvíli, kdy se týkají přímo chování uživatelů, jsou podle mého názoru součástí také designová rozhodnutí. To potvrzuje také metodika Secure by Design[15], jejímž hlavním autorem je americká CISA, ale zapojil se do ní například i náš Národní úřad pro kybernetickou a informační bezpečnost. Metodika explicitně zmiňuje designové (UX) aspekty: “Similar to how user research informs software development requirements, software manufacturers should also conduct security-focused user research to understand where the security user experience (UX) falls short.”
Performativní pravidla tak mohou činit z designérů de facto regulátory — ti rozhodují o konkrétních způsobech dosažení právně stanovených cílů prostřednictvím designérských rozhodnutí ovlivňujících lidské chování.
Designéři a regulační moc
To, co jsme u předchozích konceptů dovozovali, jiní autoři dále rozpracovávají. Například Roger Brownsword ve své knize “Law 3.0”[16] představuje koncept “technological governance”, která by se měla stát součástí regulatorního aparátu státu. Jeho argumentace je v tomto v zásadě opakováním už výše zmíněného. Základní rozdíl oproti tradičním regulatorním nástrojům spočívá v praktickém dopadu designových voleb. Jako příklad uvádí nákupní vozík, který se automaticky zablokuje mimo při odvozu z místa, kde má být využívaný. Takové technologické opatření působí preventivně a má větší dopad než stejné pravidlo uvedené v předpisu.
Laurence Diver poukazuje[17] na to, že technologické řešení (kód) je “více i méně než právo”. Více, protože jeho instrumentální síla je mnohem větší díky tomu, že konstituuje realitu. Méně, protože na rozdíl od práva postrádá normativní mechanismy kontroly. Diver navrhuje jako řešení “compliance by design” — přístup, kde právníci a designéři spolupracují pomocí společného jazyka affordancí. Cílem není, aby se právo podřídilo technologii, ale aby technické architektury byly věrné právním normám.
Konečně Lachlan Urquhart ve svých pracích[18] systematicky rozvíjí myšlenku, že IT designéři jsou de facto regulátory, ačkoli jejich role v této oblasti není jasně definována. Urquhart argumentuje, že koncept “regulace” se rozšířil za hranice tradičních státně-centrických definic a zahrnuje také nestátní aktéry jako jsou korporace, aktivisté a subjekty stanovující technické standardy. Také on upozorňuje na to, že designéři definují povahu uživatelských interakcí s technologií a tím regulují, co uživatelé mohou či nemohou dělat prostřednictvím svých designových rozhodnutí. Urquhart navrhuje koncept User Centric Regulation (UCR) jako mechanismus pro koncepční zasazení a podporu této měnící se role. Klíčové tvrzení UCR spočívá v tom, že designéři mohou ustanovit svou legitimitu jako regulátoři prostřednictvím svého uživatelsky-centrického zaměření. Na rozdíl od státních aktérů, jejichž legitimita vychází z demokratických procesů, designéři svou legitimitu získávají blízkostí ke koncovým uživatelům a schopností pochopit jejich potřeby v kontextu. Urquhart současně zdůrazňuje, že tato regulační role přesahuje pouhé dodržování právních předpisů. Design považuje za inherentně morální aktivitu, kde designová rozhodnutí představují morální úsudky “vepsané” do technologie. Designéři tak nesou morální odpovědnost za zprostředkující dopady technologie na lidské chování a autonomii.
Nezamýšlené dopady: limity kontroly nad designérskou mocí
Všechny dosud zmíněné přístupy sdílejí poněkud optimistický předpoklad, že popsanou designérskou moc lze zcela kontrolovat. Nicméně byla by chyba počítat s kauzální logikou designových intervencí. Komplexní systémy[19] (např. organizace, technologie, společnost) jsou složeny z mnoha částí, které se vzájemně složitě ovlivňují. Vztahy mezi částmi jsou navíc často obousměrné, ovládané zpětnou vazbou. Platí, že čím více jsou jednotlivé části navzájem závislé, tím méně je možné pochopit fungování celého systému na základě pochopení jednotlivých prvků.
I při nejlepší vůli designéra tak nejde předvídat všechny problémy. Ty se mohou rychle násobit, protože v některých situacích se i jednoduché designové řešení škáluje k velkému počtu uživatelů. Pohledem systémového myšlení tak může docházet k efektům na úrovni druhých a třetích řádů. Každá inovace, technologie i designové rozhodnutí v sobě nese zárodek svého vlastního selhání nebo zneužití.
Podobně se vyjadřuje i Edward Tenner, když nabízí[20] koncept “revenge effects”. Poukazuje na to, že řada řešení vede i navzdory dobrým úmyslům k novým, často ironickým nebo kontraproduktivním problémům, které mohou podkopat původní záměr technologie. Příkladem z oblasti designu může být využívání tzv. zeleného zámečku, kterým webové stránky signalizovaly, že spojení s nimi je šifrováno. Uživatelé jej však častěji interpretovali tak, že to značí důvěryhodnost a bezpečnost stránky. V důsledku toho začali kyberkriminálníci opatřovat své podvodné weby zelenými zámečky.
Situace je však složitější v tom, že důsledky nemusí být vždy patrné a v určitém smyslu popsatelné jako neúspěch. Specifický pohled na tyto subtilnější praktiky nabízí Evil Media Studies[21] od Fullera a Goffeyho, kteří poukazují na nevědomé formy manipulace plynoucí z nastavení technologií či procesů. Například tím, že se v digitálním prostředí nevyhneme strukturování dat, nevyhnutelně vytváříme podmínky pro jejich jednodušší zpracování a zároveň jejich zneužití. Podobně problematická může být snaha činit designové volby pro udržení pozornosti uživatelů. Digitální prostředí to vyžaduje, ale výsledné chování vlastně vůbec nemusí, a obvykle není žádoucí. Dobrým příkladem je nekonečný feed informací, který vznikl jako designérské řešení pro udržení engagement, ale vytváří závislostní vzorce chování.
Zmíněnými přístupy jsem chtěl nastínit, že využívání designu k ovlivňování chování dost možná přináší i další efekty, které mohou být problematické, ale nemusí být zřejmé. Praxe designérů tak není nikdy neutrální.
Závěr
V této práci mi šlo o vyzdvihnutí skutečnosti, že design technologií i služeb by měl být vnímán také jako tvorba pravidel chování, která ovlivňuje charakter informační společnosti.
Tuto skutečnost jsem ilustroval představením řady konceptů, které význam designové praxe buď přímo zdůrazňují, nebo s ní jsou kompatibilní. Od Lessigovy teze “Code is Law” přes Polčákovy definiční autority až po subtilní Evil Media Studies — všechny tyto přístupy ukazují designéry jako aktéry s regulační mocí. Zároveň jsem chtěl nastínit také limity, které sebou designové volby přinášejí.
V této práci jsem naopak záměrně vyhnul snaze formulovat konkrétní doporučení pro designovou praxi. Téma praktických implikací je však s problematikou této eseje nutně spojeno a zároveň velmi rozsáhlé — designéři při své praxi čelí řadě tlaků, které vychází z kontextu jejich pozice a cílů organizací, ve kterých pracují. Základní přemýšlení o etických aspektech designu nabízejí například Mike Monteiro[22] či Cennydd Bowles[23], zatímco Alexandra Schmidt[24] rozebírá, jak za pomoci designu a politik odstraňovat negativní dopady technologií.
Designéři v informační společnosti nejsou pouhými tvůrci produktů či služeb — jsou tvůrci pravidel chování. Uvědomění si vlastní regulační moci a s ní spojené odpovědnosti za etické a společenské dopady je nezbytné pro budování skutečně inkluzivní, prosperující a odolné informační společnosti. Designéři technologií a služeb proto musí překročit pouhé vytváření výstupů a zaměřit se na hlubší pochopení a řízení výsledků a dopadů svých rozhodnutí.
Reference
[1] V práci se primárně zaměřuji na designovou praxi, která se týká technologií a služeb.
[2] BAWDEN, ROBINSON, Úvod do informační vědy. Praha: Flow, 2017, s. 308 a násl.
[3] SIMON, Herbert A. The Sciences of the Artificial. Cambridge, Mass.: MIT Press, 1996.
[4] SEIDEN, Joshua. Outcomes over Outputs: Why customer behavior is the key metric for business success. Independently Published, 2019.
[5] LESSIG, Lawrence. Code and Other Laws of Cyberspace. New York: Basic Books, 1999.
[6] CASE, Amber. How Design Is Governance. Medium, 28. března 2023.
[7] Web Content Accessibility Guidelines (WCAG) 2.1. W3C, 2018.
[8] POLČÁK, Radim. Internet a proměny práva. Praha: Auditorium, 2012.
[9] POLČÁK, Radim; KASL, František; LOUTOCKÝ, Pavel a kol. Právo informačních technologií. Praha: Wolters Kluwer, 2018, s. 2 a násl.
[11] Digital Services Act (DSA). Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022.
[13] General Data Protection Regulation (GDPR). Nařízení (EU) 2016/679 ze dne 27. dubna 2016.
[14] Cyber Resilience Act (CRA). Nařízení Evropského parlamentu a Rady (EU) 2024/2847 ze dne 23. října 2024.
[15] Secure by Design. Washington: CISA (Cybersecurity and Infrastructure Security Agency), 2023.
[16] BROWNSWORD, Roger. Law 3.0: Rules, Regulation, and Technology. London: Routledge, 2020. ISBN 978–0367488635.
[17] DIVER, Laurence. Law as a User: Design, Affordance, and the Technological Mediation of Norms. SCRIPTed, 2018.
[18] URQUHART, Lachlan 2016, 2017.
[19] PELÁNEK, Radek. Modelování a simulace komplexních systémů: jak lépe porozumět světu. Vyd. 1. Brno: Masarykova univerzita, 2011.
[20] TENNER, Edward. Why Things Bite Back: Technology and the Revenge of Unintended Consequences. 1st Vintage pbk. ed. New York: Vintage Books, 1997.
[21] FULLER, Matthew a GOFFEY, Andrew. Evil Media. Cambridge, Mass.: MIT Press, 2012.
[22] MONTEIRO, Mike. Ruined by Design: How Designers Destroyed the World, and What We Can Do to Fix It. New York: A Book Apart, 2019.
[23] BOWLES, Cennydd. Etika budoucnosti: jak designovat dobré technologie. Praha: Academia, 2021. ISBN 978–80–200–3232–2.
[24] SCHMIDT, Alexandra. Deliberate Intervention: Using Policy and Design to Blunt the Harms of New Technology. San Rafael, CA: The New Press, 2022. ISBN 978–1933820–15–6.
Zdroje
Knihy a monografie
1. BAWDEN, David a ROBINSON, Lyn. Úvod do informační vědy. Praha: Flow, 2017. ISBN 978-80-88123-10-1.
2. BOWLES, Cennydd. Etika budoucnosti: jak designovat dobré technologie. Praha: Academia, 2021. ISBN 978-80-200-3232-2.
3. BROWNSWORD, Roger. Law 3.0: Rules, Regulation, and Technology. London: Routledge, 2020. ISBN 978-0367488635.
4. FULLER, Matthew a GOFFEY, Andrew. Evil Media. Cambridge, Mass.: MIT Press, 2012. ISBN 978-0-262-01785-5.
5. LESSIG, Lawrence. Code and Other Laws of Cyberspace. New York: Basic Books, 1999. ISBN 0-465-03912-X.
6. MONTEIRO, Mike. Ruined by Design: How Designers Destroyed the World, and What We Can Do to Fix It. New York: A Book Apart, 2019. ISBN 978-1-937557-92-9.
7. PELÁNEK, Radek. Modelování a simulace komplexních systémů: jak lépe porozumět světu. Vyd. 1. Brno: Masarykova univerzita, 2011. ISBN 978-80-210-5318-2.
8. POLČÁK, Radim. Internet a proměny práva. Praha: Auditorium, 2012. ISBN 978‑80‑87284‑22‑3.
9. POLČÁK, Radim; KASL, František; LOUTOCKÝ, Pavel a kol. Právo informačních technologií. Praha: Wolters Kluwer, 2018. ISBN 978‑80‑7598‑045‑8.
10. REDHEAD, Steve. Paul Virilio: Theorist for an Accelerated Culture. Toronto: University of Toronto Press, 2004.
11. SCHMIDT, Alexandra. Deliberate Intervention: Using Policy and Design to Blunt the Harms of New Technology. San Rafael, CA: The New Press, 2022. ISBN 978-1933820-15-6.
12. SEIDEN, Joshua. Outcomes over Outputs: Why customer behavior is the key metric for business success. Independently Published, 2019. ISBN 9781091173262.
13. SIMON, Herbert A. The Sciences of the Artificial. Cambridge, Mass.: MIT Press, 1996. ISBN 9780262691910.
14. TENNER, Edward. Why Things Bite Back: Technology and the Revenge of Unintended Consequences. 1st Vintage pbk. ed. New York: Vintage Books, 1997. ISBN 978-0-679-74756-7.
Články a eseje
1. CASE, Amber. How Design Is Governance. Medium, 28. března 2023. Dostupné z: https://uxdesign.cc/how-design-is-governance-7c8dd466d753.
2. DIVER, Laurence. Law as a User: Design, Affordance, and the Technological Mediation of Norms. SCRIPTed, 2018, roč. 15, č. 1, s. 4–41. DOI: 10.2966/scrip.150118.4.
3. URQUHART, Lachlan. Ethical Dimensions of User Centric Regulation. ACM Computers & Society, 2017, roč. 47, č. 4, s. 81–95.
4. URQUHART, Lachlan. Towards User Centric Regulation: Exploring the Interface Between IT Law and HCI. University of Nottingham, 2016. Disertační práce. Dostupné z: https://eprints.nottingham.ac.uk/41787/.
5. URQUHART, Lachlan a RODDEN, Tom. New directions in information technology law: learning from human–computer interaction. International Review of Law, Computers & Technology, 2017, roč. 31, č. 2, s. 150–169. DOI: 10.1080/13600869.2017.1298501.
Právní předpisy
1. Digital Services Act (DSA). Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022. Úřední věstník Evropské unie, L 277, 27.10.2022, s. 1–102.
2. Cyber Resilience Act (CRA). Nařízení Evropského parlamentu a Rady (EU) 2024/2847 ze dne 23. října 2024. Úřední věstník Evropské unie, L, 2024/2847, 20.11.2024.
3. General Data Protection Regulation (GDPR). Nařízení (EU) 2016/679 ze dne 27. dubna 2016. Úřední věstník Evropské unie, L 119, 4. května 2016.
Metodiky a standardy
1. Secure by Design. Washington: CISA (Cybersecurity and Infrastructure Security Agency), 2023. Dostupné z: https://www.cisa.gov/secure-by-design.
2. Web Content Accessibility Guidelines (WCAG) 2.1. W3C, 2018. Dostupné z: https://www.w3.org/WAI/WCAG21/.