CopGPT: Sedni si mi na obličej, CEO!
O běhu vstříc vítězi, válkách za pomazánkové máslo a reklamě, kterou natočí vaše babička
OpenAI, zmítané kádrovou turbulencí a strukturálními změnami, nervózně uvedlo na trh měsíce odkládaný Pokročilý hlasový režim, který ChatGPT propůjčuje schopnost vcelku věrohodně imitovat mluvenou jazykovou interakci. V Evropské unii, Norsku, Švýcarsku a dalších místech starého kontinentu nebude režim dostupný. Není totiž v souladu s novou zastřešující AI legislativou, které ve zkratce odporují produkty, jež analyzují a zaznamenávají lidské emoce.
Širší aplikaci si lze totiž snadno domyslet: zatímco se prosťáčci jako vy a já budou bavit vyprávěním kameňáků natvrdlým chatbotům, ty budou invazivně shromažďovat a analyzovat náš hlas, mimiku i fyziologické reakce, provádět neustálý biometrický monitoring a emoční profilování, jež se v případě LLMs vždy ubírá tím nejvíce podjatým směrem k diskriminaci, zkreslování a panujícím stereotypům.
Zaměstnavatel si pak možná bude moci vyhodnotit, nakolik jste se v práci snažili a o vašem počínajícím splínu si s vámi HR bot důrazně promluví. Ve zdravotnictví či školství může sebemenší chyba halucinujících LLMs natropit slušnou paseku. Před neustálým behaviorálním targetingem inzerce již nebude úniku a přístup silových složek k vašim každodenním emočním projevům dobíhá a místy předhání čínský model sociálního kreditu a dotváří komplex uceleného dozoru nad životem.
Je vcelku nabíledni, proč tomuto směřování v deregulované podobě a jeho ostrému testování na lidech zákonodárci v části světa, která již vykročila z dickensovského kapitalismu, nechtějí dát ani čuchnout.
Sit on my face, CEO
Z hladiny českého rybníčku se naopak vzedmula řada divoce gestikulujících rukou (včetně těch patřících dosud poměrně příčetným rekreantům), jež lkají nad tím, kterak EU brzdí pokrok, a volají po úplné deregulaci v gardu Singapuru a dalších autoritářských offshore rájů. Ty si AI start-upy namlouvají, nabízejí jim legislativní volné pole a benevolentní experimentování na lidech výměnou za daňové sídlo, investice do datacenter a různé softvérové korálky pro státní správu.
Tento postoj u nás v podstatě není věrohodně oponován, drobná úřednická rutina má zanedbatelný mediální výtlak a většina publicistů a veřejných činitelů se nezdržuje a rovnou diskutuje budoucnost dominovanou neregulovanými chatboty jako fait accompli.
Silně to připomíná všechny předchozí inkarnace této debaty v našem provinčním závětří, kde se v celostátních publikacích bědovalo už nad pomazánkovým máslem a tuzemákem s loďkou, protikuřáckým zákonem, GDPR, Green Dealem nebo Istanbulskou úmluvou - vždy proti smyslu legislace, která má ve vínku jednoznačně spotřebitelský a společenský zájem, a na ruku průmyslovým kartelům a tech korporacím. Vděčný běh vstříc vítězi, kterým končí všechny sny o trhu bez přívlastků a reziduum devadesátkového myšlení.
Je přitom symptomatické, že státy, vůči nimž máme domněle setrvávat kompetitivní za každou cenu, přijaly typicky mnohem silnější právní rámec již dnes. Podobně jako u ekologie a globálního oteplování je potom otázkou, zda se velmocenské zápolení s Čínskou lidovou republikou či Iránem má odehrávat zrovna na poli přezíravosti vůči vlastním občanům, a to vše kvůli… čemu vlastně? Balíčkům korporátních nástrojů Mety a Microsoftu s velmi nejasnou návratností, které mají zlevňovat customer services na nejnižší přijatelnou mez? To je trošku jako manifestovat za to, aby Monsanto znovu smělo práškovat pole DDT.
Reklama s tváří vaší babičky
Diskutovaný regulatorní balíček přitom jen v posledních týdnech ochránil evropské uživatele před opakovaným pustošením osobních dat ze strany tech korporací, které si v kouřové cloně dohasínajícího FOMO a v duchu sloganu move fast and break things berou čím dál menší servítky.
Sítě LinkedIn a Udemy začaly minulý týden suverénně trénovat AI modely na uživatelských datech, aniž by se vůbec obtěžovaly předem změnit licenční podmínky, které by je k tomu opravňovaly. Meta a Snapchat mezitím ohlásily uvedení AI avatarů, které v budoucnu zprostředkují inzerci s vaší tváří - tu si natrénovaly na osobních fotkách, čemuž mimo EU opět nešlo účinně předejít.
Když jsem se před dvěma lety na ČT zakoktal o tom, že konečnou flirtu Big Tech s AI generátory opravdu není syntetický boomer art, který padesátníkům supluje nedělní malování, ale nezadržitelná personalizovaná spotřeba - tklivá písnička o vašem nedávném rozchodu, poslepovaná z vašich zpráv, nebo reklama na povinné ručení s tváří vaší shánčlivé babičky - řada lidí se tomu smála jako gilliamovskému humoru přitaženému za vlasy. Je to ale ten druh vtipu, u něhož se zasmějete, až když je pozdě. Spíš než dobrou anekdotu tak AI reklama zatím připomíná deodorant Axe: pár lidí se nevěřícně otočí, a zbytek se modlí, ať už je ten smrad pryč.