HeyFomo Weird shit, co říkají a dělají techbros: "Ten nejhorší scénář je lights out pro nás všechny." Ten ideální je udělat z vlád korporace a z informací monopol
Weird shit, co říkají a dělají techbros: "Ten nejhorší scénář je lights out pro nás všechny." Ten ideální je udělat z vlád korporace a z informací monopol
Kdo je Sam Altman nebo jeho eviler twin Peter Thiel asi víš. Slyšel*a jsi ale někdy, co vlastně říkají, a jaké plány mají pro lidstvo?
„Should the human race survive?“ „Yes, but...“ - Peter Thiel, Palantir
Peter Thiel už v roce 2009 zveřejnil esej The Education of a Libertarian, kde famously řekl, že svoboda není slučitelná s demokracií. Podle toho, jak se společnost v posledních letech vyvíjí, to není úplně crazy claim, co už ale crazy je, že je to právě on sám, kdo to má zčásti na svědomí.
Peter Thiel, zakladatel Palantiru (a důvod, proč existuje PayPal mafie), je dnes bezpochyby jeden z nejvíc evil lidí na světě. Kromě technologických výstřelků, šílených quotů a experimentů s umělou inteligencí je taky jeden z důvodů, proč se Donald Trump v roce 2016 dostal na post prezidenta Spojených států, financuje surveillance firmy a podporuje krajně pravicová hnutí, která usilují o zásadní proměnu samotné podoby demokracie a společnosti, jak ji známe dnes.
Už nevěřím, že svoboda a demokracie jsou slučitelné.
Peter Thiel
Peter Thiel má až úctyhodně dlouhé prsty. S americkou vládou nemá formální vztahy, ale investoval do ní miliony dolarů, jako kdyby to byla jeho firma. Financoval politickou kampaň Donalda Trumpa a J. D. Vance, a jeho involvement v politice se může zdát zvláštní, vzhledem k tomu, že se považuje za libertariána - prosazuje deregulaci, odmítá státní omezování a technologie chce využít jako prostředek k úniku před politikou ve všech jejích podobách - utéct by chtěl třeba do vesmíru, kyberprostorů nebo do kapitalistické utopie uprostřed oceánu (i když od seasteadingu se postupně upustilo). Tady je taky poznat, jak tu neslučitelnost demokracie a svobody s kapitalismem myslel.
Výsledkem jeho snah je kompletní autokracie - stav, kdy společnost vedou technologické elity a tech CEOs a to nejlepší, co pro to může udělat, je vytvořit z vlád korporace. A skrz politické donations a dodávky surveillance a vojenských technologií (třeba pro ICE), se mu to alespoň u té americké daří.
Existuje bod, kdy absence korupce může být na škodu. Může to znamenat, že věci jsou příliš nudné.
Peter Thiel
Peter Thiel by si zasloužil vlastní článek, knížku even, ale to by byla škoda papíru i našeho času. Zakončím ho dvěma událostmi, z nichž jedna mi přijde neskutečně vtipná a ta druhá vlastně taky. O Thielovi se občas mluví jako o Ničiteli Gawker Media. Petřík tajně financoval žalobu Hulka Hogana proti Gawker a bylo to podle něj worth it - jeden z jejich gossip magazínů zveřejnil v roce 2007 článek o tom, že je údajně homosexuál. Thiel to potvrdil, ale ne předtím, než tuhle mediální společnost tahal po soudech tak dlouho, dokud nebyla nucená skončit. Pro New York Times pak řekl, že to je jedna z „nejlepších filantropických věcí, co jsem kdy udělal.“
Ta druhá je jeho fascinace koncem lidstva a Antikristem. O tom si povídal taky s New York Times, konkrétně letos v červnu s Rossem Douthatem v dlouhém a na bizárky plodném rozhovoru. Douthat se ho v jednu chvíli ptá, jestli by mělo lidstvo přežít a Thiel po dlouhé pauze a zadrhávání odpoví, že ano. Za tím následuje alea monolog o transhumanismu: „Transsexuál je někdo, kdo si nechá změnit třeba penis na vagínu. My ale chceme víc než jen takovou proměnu. Kritika nespočívá v tom, že je to divné nebo nepřirozené, ale v tom, že je to tak žalostně málo. A ano, chceme víc než jen převlékání nebo změnu pohlavních orgánů. Chceme, aby bylo možné změnit srdce, změnit mysl a změnit celé tělo.“
V technologickém pokroku je podle něj ale i zásadní problém. Vývoj v oblasti AI nebo jaderných zbraní s sebou podle Petera Thiela nese systémová rizika, která můžou zapříčinit konec světa nebo příchod Antikrista, což ale společnost odmítá brát vážně. To je hodně silný příběh...
Navzdory jeho drobnému handicapu, kterým je fakt, že je miliardář, můžeme říct, že je nejvlivnějším pravicovým intelektuálem posledních dvaceti let.
Ross Douthat o Peteru Thielovi
„Umělá inteligence pravděpodobně povede ke konci světa, ale mezitím vzniknou skvělé firmy.“ - Sam Altman, OpenAI
Sam Altman demonstruje z mého pohledu dost zvláštní nemoc. Na jednu stranu mluví skoro až varovně o umělé inteligenci a o tom, co s námi potenciálně udělá, a hned za tím říká, že je to vlastně okay, protože money will be made. Řekla bych, že to chytil od Thiela, ale ten se na konec světa vyloženě těší. Sam vypadá, jakože ho někdo spíš drží jako rukojmí.
Jeden z jeho nejznámějších výroků je, že AI dost možná zapříčiní konec civilizace, ale aspoň mezitím vznikne spousta skvělých firem s výkonnými AI modely a machine learning. Takže je to vlastně v pohodě. V roce 2023 řekl, že ho nejvíc děsí představa, „že jsme spuštěním ChatGPT už udělali něco opravdu špatného. Že v tom systému možná bylo něco složitého a komplikovaného, čemu jsme nerozuměli, a teď už jsme to spustili.“
Myslím, že umělá inteligence pravděpodobně, téměř jistě, povede ke konci světa. Mezitím ale vzniknou skvělé firmy se seriózním machine learning.
Sam Altman
Altmanův hlavní gól je zmonetizovat vědění, informace a prodat ti je zpátky za cenu, kterou si určí on a jeho techbros kamarádi. Na BlackRock summinut v DC letos řekl: „Vidíme budoucnost, v níž je inteligence veřejnou službou, podobně jako elektřina nebo voda, a lidé si ji od nás kupují podle spotřeby.“
AI modely sice využívají lidské vědomosti a tvorbu, problém je ale v jejich použití a manipulaci. „Více mě znepokojuje to, že by modely umělé inteligence mohly třeba omylem ovládnout svět,“ řekl v podcastu Conversations With Tyler. „Nejde o to, že by ve vás měly vyvolat psychózu, ale když celý svět komunikuje s jedním modelem, tak to není otázka nějakého záměru. Je to spíš tak, že se model učí od světa a v rámci tohoto neustálého procesu vzájemného vývoje se stane, že vás nenápadně o něčem přesvědčí. Nemá k tomu žádný záměr, prostě to udělá. Nějak se to naučil.“
Shedding light on humanity
Jeden z nejvíc crazy projektů, který jsi možná v poslední době zaznamenal*a, jsou tzv. space mirrors. Za nimi stojí americký startup Reflect Orbital, který chce vypouštět družice s velkými reflexními fóliemi, které budou moct po západu Slunce odrážet sluneční světlo zpátky na Zem. Cílem je prodloužit dobu, kdy mohou fungovat solární elektrárny, nebo svítit na místa katastrof, aby se ulehčily záchranné práce. To zní jako docela noble plán.
Těchto družic mají být v oběžné dráze tisíce - Reflect Orbital jich do roku 2035 plánuje vypustit až 50 000 a letos dostal povolení k té první. Space mirrors by ale mohly mít negativní dopady na zvířata, lidské zdraví nebo astronomický výzkum - podle astronomů by odražené světlo mělo být několikanásobně jasnější než úplněk.
Několik ekologických organizací podalo u Federální komise pro komunikace (FCC) žádost o zrušení souhlasu, celkem jich FCC dostala 1900. Podle právníka organizace Earthjustice Jana Hasselmana ve vesmíru „momentálně panují poměry jako na Divokém západě a společnosti jako je Reflect Orbital se snaží situace využít a zaplnit vzniklou mezeru.“
Naše oběžná dráha je navíc plná odpadu z raket nebo satelitů a jejich kolizí a čím víc věcí v ní je, tím větší šance je, že se srazí a odpadu bude přibývat. We don't need more stuff up there.
S vesmírnými zrcadly jde ale taky o komercializaci něčeho samozřejmého jako je noční obloha. Mít monopol na tmu je crazy koncept.
Je to unikátně špatný nápad.
Jan Hasselman
Alexandria is now
Anthropic v rámci projektu Project Panama nakupuje miliony fyzických knih a možná se ptáš k čemu, když do teď scalpoval ty zpirátěné na internetu? Jednoduše ke trénování svého LLM modelu Claude. The New Yorker to nazval "ničení knih k vytvoření mysli".
Jak už to tak bývá, dělají to tou nejefektivnější a nejlevnější cestou, která zahrnuje v podstatě kompletní zničení knížky, i když by to samozřejmě šlo i jinak. „Je zcela možné, pořídit snímky, které zachovají celistvost knihy, aniž by bylo nutné ji při tom zploštit, ale je to dražší,“ uvedla New Yorkeru Meredith Martin z Princeton University.
Anthropic přesedlal na knížky, protože je to podle nich nejlepší zdroj pro trénování umělé inteligence. Už dřív používali nelegálně rozšířené knížky (sami je ale nezpirátili) a kvůli údajnému porušení autorských práv pak skončili u soudu, který rozhodl, že se může jednat o fair use. Nakonec jako vyrovnání zaplatili 1,5 miliardy dolarů.
Jeden z největších problémů projektu Panama je, že pravděpodobně dojde ke zničení i posledních kusů vzácných knížek, které už nic nenahradí. Nebezpečí v úplné digitalizaci, kdy nezbyde jediný fyzický kus, je taky manipulace se zněním knížky, o které ani nemusíme vědět. Nikdo už pak totiž neporovná fakta a fikci. Nebude z čeho. A taky se tu vracíme k tomu, o co se snaží Sam Altman - monetizace a monopolizace vědomostí a informací.
Project Panama je naše snaha destruktivně naskenovat všechny knihy na světě. Nechceme, aby se vědělo, že na tom pracujeme.
Interní plánovací dokument Anthropicu
Další blbosti z úst techbros
„Nedokážu si představit, že bych musel přijít na to, jak pečovat o novorozence, bez ChatGPT.“ – Sam Altman
„Optimus bude nakonec lepší než ten nejlepší lidský chirurg, a to s úrovní přesnosti, která je nemožná – která přesahuje lidské možnosti... Lidé vždy mluvili o vymýcení chudoby, ale Optimus ji ve skutečnosti skutečně vymýtí.“ – Elon Musk
„Milujeme narušování zavedených pořádků; cokoli prospěje Americe, prospěje i Američanům – a velmi prospěje společnosti Palantir... Takové narušení nakonec odhalí to, co nefunguje. Přijdou vzestupy i pády. Je to revoluce. Někteří lidé mohou přijít o hlavu.“ –Alex Karp (CEO Palantiru)
„Nejsme daleko od světa – myslím, že v něm budeme za tři až šest měsíců –, ve kterém bude 90 % kódu psát umělá inteligence. A o dalších 12 měsíců později už možná budeme žít ve světě, kde bude umělá inteligence psát v podstatě veškerý kód.“ – Dario Amodei (CEO Anthropicu)
„Omezujeme nábor na pozice, které jsou – upřímně řečeno – ubíjející... Tuto rutinní, ubíjející práci nyní přebírají agenti. Pracují usilovně v režimu 24/7, nemusíte jim platit, nepotřebují oběd ani zdravotní pojištění, takže jsou velmi levní a skvěle doplňují naše lidské zaměstnance.“ - Bill McDermott (CEO SeviceNow)
„Pokud jde o rozhodování o životě a smrti, považuji tuto oblast za příliš morálně závažnou a kriticky důležitou na to, abychom v ní nevyužívali ty nejlepší dostupné technologie – bez ohledu na to, o jaké technologie jde... Z mého pohledu není morálně nadřazené používat horší technologii, a to ani v případě, že vám to umožňuje pronášet věty typu: ‚Nikdy jsme nedovolili robotovi rozhodovat o tom, kdo bude žít a kdo zemře.‘“ - Palmer Luckey (CEO Anduril Industries)
My love bestowed on this world of fiction
March to the future, happiness grows
Are you not better off than ever?
Are you not better off right now?