Michal Bláha

Internet měl být prostorem svobodné výměny myšlenek mezi lidmi. Místo toho se stal arénou, kde se lidé nevědomky přou s algoritmy. Skutečná svoboda znamená mít volbu druhé strany.

Otevřete jakoukoli sociální síť a během několika minut narazíte na komentář, který vás rozčílí. Možná je agresivní, možná hloupý, možná záměrně provokativní. S vysokou pravděpodobností ale není napsán člověkem. Je produktem algoritmu, výstupem z robotické farmy někde v Petrohradě, Šanghaji nebo kancelářské budově na předměstí některé z východoevropských metropolí. A vy jste právě strávili deset minut svého života hádkou s řádkem kódu.

Sociální sítě se během posledních let proměnily v něco, co jejich zakladatelé původně nezamýšleli – nebo možná zamýšleli až příliš dobře. Staly se bojištěm, kde se o vaši pozornost, vaše emoce a v konečném důsledku o vaše názory přetahují armády neexistujících lidí. Falešné profily, koordinované sítě botů a účelově vytvořené identity dnes tvoří nezanedbatelnou část veškeré komunikace na těchto platformách. Některé odhady hovoří o desítkách procent veškerého obsahu, jiné jsou ještě pesimističtější.

Byznys model postavený na lži

Proč to platformy tolerují? Odpověď je prostá a cynická zároveň: protože jim to vyhovuje. Každá interakce, každý komentář, každá hádka znamená čas strávený na platformě. Čas znamená zobrazené reklamy. Reklamy znamenají peníze. Z pohledu provozovatele sociální sítě je úplně jedno, jestli pod příspěvkem diskutují dva lidé, nebo jeden člověk s deseti boty. Důležité je, že diskutují. Že se rozčilují. Že se vracejí, aby zjistili, co jim ten druhý odpověděl.

Boti a falešné profily jsou pro angažovanost požehnáním. Jsou neúnavní, pracují ve dne v noci, nevyhoří a hlavně – umějí trefit přesně ty emocionální tlačítka, která lidi donutí reagovat. Algoritmy sociálních sítí tyto účty milují, protože generují přesně ten typ obsahu, který uživatele drží přilepené k obrazovkám. Kontroverzní, emocionální, polarizující.

Moderace obsahu ze strany platforem je v tomto kontextu především divadlo pro regulátory a veřejnost. Ano, občas se některá síť pochlubí, že smazala miliony falešných účtů. Jenže za každý smazaný účet vzniknou tři nové. Technologie generování falešných identit se zdokonalují rychleji než nástroje na jejich detekci. S nástupem pokročilých jazykových modelů už ani obsah nepůsobí roboticky – boti píší plynulou češtinou, reagují kontextově, budují si historii příspěvků, která vypadá věrohodně.

Hra, kterou nelze vyhrát starými pravidly

Dosavadní přístupy k řešení tohoto problému selhávají. Spoléhat na to, že platformy budou samy sebe regulovat, je naivní – jde proti jejich ekonomickým zájmům. Státní regulace naráží na nedostatek politické odvahy, nezájem o problematiku informační manipulace a na fakt, že tyto firmy operují globálně, zatímco zákony platí lokálně. Vzdělávání uživatelů je sice potřebné, ale nedostatečné – i ten nejpoučenější člověk nedokáže spolehlivě rozlišit sofistikovaného bota od skutečného uživatele.

Potřebujeme jiný přístup, založený na volbě a dobrovolnosti. Ne omezující svobodu slova, ale rozšiřující svobodu volby.

Právo na lidský kontakt

Řešení, které může skutečně fungovat, je překvapivě jednoduché ve své podstatě: umožnit uživatelům, aby komunikovali pouze s reálnými lidmi. S lidmi, kteří svou identitu ověřili prostřednictvím státních, bankovních nebo jiných důvěryhodných autorit – tedy stejným způsobem, jakým dnes ověřujeme identitu při zakládání bankovního účtu, při přihlášení do datové schránky nebo při využívání služeb eGovernmentu.

Klíčové je slovo „dobrovolně”. Nejde o to nutit kohokoli, aby se identifikoval. Nejde o zrušení anonymity na internetu, která má své legitimní důvody a zaslouží si ochranu. Jde o vytvoření možnosti – volby, kterou dnes uživatelé nemají. Možnosti říct: chci diskutovat jen s lidmi, o kterých vím, že jsou skuteční.

Jak by to fungovalo v praxi? Každý uživatel sociální sítě by měl možnost aktivovat si režim, ve kterém vidí a komunikuje pouze s ověřenými účty. V jeho feedu by se zobrazoval pouze obsah od lidí, kteří prošli ověřením identity. V komentářích pod jeho příspěvky by mohli reagovat jen ověření uživatelé. A samozřejmě – tuto možnost by mohl využít jen ten, kdo je sám ověřen. Nelze požadovat transparentnost od druhých a sám zůstat v anonymitě.

Technicky proveditelné, právně realizovatelné

Tento systém nevyžaduje žádnou revoluční technologii. Ověřování identity prostřednictvím třetích stran je běžnou praxí ve finančním sektoru, ve státní správě, v mnoha komerčních službách. Principy jako eIDAS v Evropské unii již vytvořily právní a technický rámec pro přeshraniční ověřování identity. Bankovní identita funguje v řadě zemí včetně České republiky. Propojení těchto systémů se sociálními sítěmi je otázkou implementace, nikoli vynálezu.

Z právního hlediska by šlo o rozšíření povinností platforem – nikoli o povinnost ověřovat všechny uživatele, ale o povinnost nabídnout uživatelům možnost filtrovat svou komunikaci na základě ověření. Je to analogické k jiným regulačním požadavkům, které tyto firmy již musejí plnit – jen s tím rozdílem, že tentokrát by regulace skutečně sloužila zájmům uživatelů.

Co by se změnilo

Představte si diskusi pod zpravodajským článkem, kde víte, že každý komentující je skutečný člověk. Někdo z Prahy, někdo z Brna, někdo možná z jiné země – ale člověk. Se svou historií, svou odpovědností, svým jménem někde v pozadí. Ne že byste jeho jméno viděli – ověření neznamená nutně konec pseudonymů – ale věděli byste, že za tou přezdívkou stojí konkrétní osoba, která za svá slova nese odpovědnost.

Změnilo by se i chování. Když víte, že mluvíte s člověkem a ne s algoritmem navrženým k vyvolávání emocí, chováte se jinak. Méně agrese, více ochoty vyslechnout argument. Méně performativního rozhořčení, více skutečné diskuse. Protože hádka s botem je vždycky prohra – ale rozhovor s člověkem, byť s člověkem odlišných názorů, může být obohacením.

Námitky a odpovědi

Kritici jistě namítnou, že ověření identity omezuje anonymitu. Ale tady nejde o zrušení anonymity – jde o vytvoření paralelního prostoru pro ty, kdo anonymitu nepotřebují a preferují důvěryhodnost. Anonymní prostor zůstane existovat pro všechny, kdo ho chtějí využívat.

Jiní namítnou, že i ověření lidé mohou šířit dezinformace. Samozřejmě že mohou. Ale je zásadní rozdíl mezi dezinformací šířenou koordinovanou sítí tisíců botů a názorem jednotlivce, byť mylným. S jednotlivcem lze diskutovat. Proti armádě botů je diskuse zbytečná.

Zazní i argument, že platformy takový systém nikdy dobrovolně nezavedou. Proto je potřeba regulace. Evropská unie už ukázala, že dokáže technologickým gigantům stanovit pravidla hry – GDPR, DSA, DMA jsou toho důkazem. Právo na komunikaci s ověřenými lidmi by mohlo být dalším krokem.

Závěr: Svoboda volby, ne svoboda manipulace

Internet měl být prostorem svobodné výměny myšlenek mezi lidmi. Místo toho se stal arénou, kde se lidé nevědomky přou s algoritmy a kde je veřejné mínění formováno entitami, které neexistují. To není svoboda – to je manipulace maskovaná za svobodu.

Skutečná svoboda znamená mít volbu. Volbu komunikovat v prostředí, kde víte, s kým mluvíte. Kde vaše emoce a váš čas nejsou kořistí pro robotické farmy. Kde diskuse může být nesouhlasná, ale je lidská.

Tuto volbu dnes nemáme. Je čas si ji vynutit.