AI Meta brýle mají zjednodušit život, zatím ale dělají opak
Zdroj: Pinterest/se svolením @hidden.depot
Tereza Štěpánková
6. srpna 202610:00
Jsou podávané jako nejnovější technická vymoženost na běžné nošení, která v některých úkolech zvládne zastoupit i telefon - umí fotit, natáčet, streamovat nebo přijímat hovory a pouštět hudbu. V mnoha ohledech ti usnadní rutinní činnosti, ale co se děje ve chvíli, kdy dochází k jejich zneužívání?
„AI glasses for effortless connection,“ zní popis nových generací , kam patří Meta Ray-Ban, Oakley Meta nebo Meta Glasses by Kylie – vůbec první a jediné AI brýle, jejichž asistenta sama Kylie. Chytré brýle plní podobný účel jako smart telefony, hodinky, náramky a další wearables, ale navíc jsou i stoprocentně hands-free a spojují technologii s něčím, co většina z nás stejně na hlavě nosí a na rozdíl od hodinek a náramků mají mnohem víc funkcí.
Není tak divu, že je po nich a chce je teď mnoho lidí, nejenom content creators. Smart brýle jako takové nebo spíš jejich koncept ale nejsou žádná velká novinka, první generace od Mety Ray-Ban Stories vyšla v roce 2021 a měli jsme tu taky ty Google Glass brýle z roku 2012. Revoluční? Yes. Funkční? Not really.
Právě Google Glass se zabudovanou obrazovkou a kamerou odstartovaly určité šílenství po chytrých brýlích, ale taky obavy z toho, co dokážou.
V čem jsou problematické?
Nejnovější verze kombinuje klasické sunnies s vestavěnými kamerami, mikrofony a AI asistentem, který jde aktivovat bez použití rukou. Brýle dokážou pořizovat fotky a videa, rozpoznávat objekty (AI asistenta se můžeš zeptat klidně na to, co právě stojí před tebou) a reagovat na pokyny v reálném čase a ty ani nemusíš sáhnout na telefon. Stačí jenom říct.
Zní to hodně jako sci-fi, ale není to jenom fikce, co vyvolává obavy. Většina lidí nechce být na veřejnosti pozorována, alespoň ne takhle skrytě. Když tě někdo fotí nebo natáčí telefonem, můžeš si toho všimnout, má totiž v ruce fyzický objekt. U smart brýlí to ale moc dobře vidět nejde, alespoň na dálku ne. Mají sice diodu, která se rozsvítí, když je kamera zapnutá, ale podle kritiků a kritiček na denním světle .
Na internetu se taky začal rozšiřovat obsah tzv. , jak je nazvalo CNN, kteří chodí za ženami, povídají si s nimi, někdy i flirtují a chtějí pak jejich číslo. U toho je ale bez jejich vědomí natáčí a videa pak končí na sociálních sítích. Brýle za tohle chování nemůžou, protože se (vzpomeňme si na Gisèle Pelicot), jsou k tomu ale perfektní nástroj.
Nikdy nevíš, kdo na obsah kouká
Brýle ale mají ještě jednu poměrně alarmující funkci - technologie Meta AI umožňuje odesílat nahrávky společnosti, která je někdy nechává kontrolovat externími pracovníky v zahraničí. V únoru dva pracovníci z Keni švédské noviny Svenska Dagbladet s informací, že při koukání na videa pořízená skrz brýle od Mety, což jejich společnost Sama dělá, aby vytvořila data pro trénování umělé inteligence, údajně jako nahotu, sexuální styk nebo využívání toalety.
Na základě toho byly podány dvě žaloby, ve kterých uživatelé brýlí uvedli, že , že jejich brýle v těch chvílích vůbec něco natáčely a ani nevěděli, že byla videa sdílená s nějakou externí firmou. Meta od té doby s firmou Sama spolupracovat.
– Meta brýle umí data nakrmit do umělé inteligence, která pak zvládne přepisovat konverzace, rozpoznávat objekty a v některých případech i propojovat záběry s informacemi nalezenými na internetu. Funkce údajně příští rok plánuje rozšířit taky o . Hranice mezi technologickou vychytávkou a sledovacím zařízením se tak rychle maže.
Meta už přitom jednou facial recognition do světa vypustila, a to v roce 2010. Jejím cílem bylo zjednodušit a automatizovat taggování lidí na fotkách, ale právě kvůli obavám o soukromí společnost funkci před pěti lety data více než miliardy uživatelů. Jestli se ale feature spustí znovu, zatím není jisté.
Big Brother is watching, Makima is listening
Zákony ohledně natáčení a focení jiných lidí na veřejnosti se liší podle toho, kde na světě jsi a podle toho, o jaký druh natáčení nebo focení se jedná. Ve Spojených státech je to obecně legální, v České republice můžeš lidi v případě, že pak ze záznamu jde poznat jejich totožnost, fotit a natáčet jenom s jejich svolením (). Jak přesně to svolení má vypadat ale zákoník neupravuje a samozřejmě existuje i spousta výjimek.
Je tu ale ještě jeden hráč - nejde totiž jenom o to, co se stane, když technologie jako Ray-Ban Meta (a ne jenom ta) padne do rukou jednotlivce, ale i o její systematické využití korporacemi nebo vládami. Ve Spojených státech jsou hojně využívané Flock kamery společnosti . Jsou to automatizované čtečky SPZ (tzv. ALPRs), které používají umělou inteligenci k záznamu detailů o vozidlech a dat, které pak sdílejí s policií a dalšími úřady a institucemi.
V Česku ALPR kamery máme taky a v posledních měsících se rozšiřují taky , které mají umět rozpoznat například tříštění skla, křik nebo střelné rány, na místo pak namířit kamery a případně vyslat záchranné složky.
Podle firmy mají Flock kamery zařídit veřejnou bezpečnost a soukromí je u nich "na prvním místě", jenže... Pod záminkou bezpečnosti se zneužití schovává nejlíp. Podle Institute of Justice američtí policisté , aby mohli kontrolovat svoje momentální nebo bývalé partnery, ale i lidi, kteří se jim jenom zalíbili na ulici a vůbec je neznají. Identifikovali minimálně takového zneužití, většina se jich stala po roce 2024.
Technologie jako Flock nebo rozpoznávání obličejů často vedou taky k cíleným , nebo nesprávných lidí. Jak je to vůbec možný? Jednoduše - Flock Safety databáze funguje trochu jako ChatGPT a dá se v ní pomocí klíčových slov.
The machine masturbated and we had to take it or die.
Germany says tschüss
Případů zneužití Meta brýlí jako takových nebo podobných zařízení a technologií přibývá a dost pravděpodobně i přibývat bude. Německo by tak kvůli obavám o soukromí občanů nebo únikům dat z databází Ray-Ban Meta, to komisař pro Hamburg Data Protection Thomas Fuchs, podle kterého tajné nahrávání na veřejnosti porušuje zákon: „Spolková agentura pro sítě by měla dobrý důvod zde vydat zákaz.“
Podobné hlasy se ozývají taky z a zákaz už platí třeba na , kde je secret nahrávání problém už delší dobu. Instagram se zase na manfluencery a pick-up artisty.
Co na to Meta?
Mluvčí Mety Tracy Clayton , že by lidi měli brýle a další technologie používat s rozumem. „Máme týmy, které se zaměřují na omezování a potírání zneužívání, avšak stejně jako u jakékoliv jiné technologie leží konečná odpovědnost na jednotlivcích, aby ji aktivně nezneužívali.“
Nevím no, možná bychom neměli vytvářet technologie, které to vůbec umožňují in the first place.
Otázka zůstává: Proč?
To je spíš moje osobní šťouravá otázka. Proč by je někdo chtěl a proč se vůbec vyrábí? Yes, jsou v tom peníze a firmy musí neustále přicházet s něčím novým, aby zůstaly relevantní, ale mohlo by to být cokoliv jinýho, ne? Brýle mají být taková prodloužená ruka tvého telefonu, ale zatím to spíš vypadá, že budou prodloužená ruka perverzních lidí a už tak se rozšiřujícího systému mass surveillance.
Chci věřit tomu, že někdy možná někomu pomůžou, i kdyby to byl jeden člověk, ale spíš se zdá, že velice reálné negativní dopady převažují ty potenciální a teoretické výhody.