„A bylo jí dáno, aby vložila
ducha do obrazu té šelmy, takže obraz šelmy promluvil a způsobil, aby byli
zabiti všichni, kteří se nepokloní obrazu šelmy.“
—
Zjevení 13:15 (Český studijní překlad)
Po dlouhé době se na seznamu
objevil dobrý článek, na kterém se dalo chvíli strávit počtením a přemýšlením o
jazykových modelech. Jak převratný je to vynález, co se týče možnosti převzít
prim v hlavní lidské doméně – komunikaci, jsem psala v předchozím článku.
Od té doby mi algoritmy samozřejmě intenzivně předhazují české i zahraniční
články o významu AI v komunikaci, takže začínám mít subjektivní dojem, že
se snad na internetu neřeší nic jiného.
Jasně,
že vím, že řeší, nicméně výše zmiňovaný článek prolítl i širší veřejností nejen
proto, že je na hlavní stránce Novinek, ale taky proto, že je strukturovaný,
kvalitně napsaný, dlouhý a s odkazy na to, o čem mluví (to vše dohromady
je na Novinkách dost nezvyklé, takže autor bude určitě vedoucím náležitě
potrestán).
Nejprve
jsem své přemýšlení tříbila nemilosrdným úderem ve facebookové diskuzi na stránce, kam si chodím s nerdy povídat o AI. Nicméně jelikož druhá reakce na mé propracované argumenty byla "Diskuze z mé strany skončila" ✌, nezbývá mi, než si o samotě povídat se sebou na blogu.
1) Neustálé předhazování pár
promile lidí, které cokoliv zabilo, je dost nefér, pokud do rovnice nevrazím i
ty procenta lidí, kterým to naopak od smrti pomohlo.
- Moje argumenty byly označeny
za, cituju „perfidní, cynický kalkul“ – to je skvělé, protože jsem si jednak
obohatila slovník o úderný a zvukomalebný výraz „perfidní“, druhak na „perfidním
a cynickém kalkulu“ nevidím nic špatného v případě, že na konci procesu stojí
lidi, kterým smrt už nikdo neodpáře. Neustále se opakující řeči o tom, co by se
mělo/mohlo/nemělo dělat a jestli mne trápí moje vlastní etičnost/neetičnost
jsou danému počtu mrtvých vážně jedno.
Jsme u klasického „tramvajového dilematu“ v psychologických testech,
https://cs.wikipedia.org/wiki/Tramvajov%C3%A9_dilema,
které mám v sobě jednoznačně
vyřešené: jakékoliv jiné řešení než rychle si spočítat, kolik lidí zachráním/zabiju
svou činností/nečinností a podle toho konat je jen výhra preference vlastního
ega před následky na dalších osobách. To samé se děje při posuzování
užitečnosti vlastně jakékoliv technické vymoženosti v životě člověka, od
očkování až po samořiditelná auta.
To všechno shrnuto do jedné věty:
Pokud mi něco zachrání 50 lidí od smrti a 5 zabije, je to dobrá věc.
Aby to nebyla příběhologie, pominu teď záměrně příběhy své i svých blízkých o absolutní nekompetenci psychologů. Vlastně, když jsem si následující odstavce po sobě přečetla, musela jsem toho pominout docela dost, abych mohla vůbec bojovat s validním argumentem.
- Moje oblíbená (mnou
nevymyšlená) úvaha: Každé povolání je rozprostřeno na Gaussově křivce. Takže
slovně řečeno, existují mizerní i výborní psychologové a většina se nachází
někde mezi tím, přičemž nejvíc jich je průměrných. Pominu otázku, nakolik je „průměrný“
psycholog schopný přebojovat tak silné věci, jako touhu po smrti.
V psychologické ordinaci
jde o interní vztah terapeut – klient. Víceméně nikdo jiný neví, co se za
zavřenými dveřmi děje. Pominu ještě to, do jaké míry se dá vlastně sebevražda
přičíst nějaké sérii konverzací.
Psychologové by měli chodit
na supervize (znova pominu to, jestli to všichni dělají a – opět - co na těch
supervizích reálně proběhne). Na supervizích ale jde vlastně o to, aby oni sami
zpracovali svoje subjektivní prožívání tohoto terapeutického vztahu. Nejde o
objektivní zhodnocení jejich práce – jejíž následkem může být nezabránění smrti
klienta. Absolutně chybí komplexní zpětná vazba. Na individuální úrovni - psycholog
ji má vlastně jen, když se někdo prokazatelně vyléčí nebo mu napíše děkovný
dopis. Opačný výsledek se většinou projeví jen tím, že člověk přestane chodit
na schůzky (jestli se na to vykašlal, vyléčil se, nebo se zabil, se psycholog
většinou nedozví). Ale hlavně chybí na té systémové úrovni – tj. hromada dat,
kolika lidem jaký přístup do jaké míry pomohl a co s tím vlastně budeme
jako společnost dělat.
Takže společnost se smířila s tím, že celá psychologie
je vlastně barvitý chaos bez jakékoliv zpětné vazby a tudíž bez jakéhokoliv řízení.
Očividně ke štěstí stačí, že hromadně věříme, že to funguje.
Paradoxem je, že pár případů úmrtí poté, co si někdo udělal
z AI terapeuta háže rajčata na AI právě proto, že její otevřenost v podobě
zaznamenaných dat umožňuje vidět, co se vlastně stalo. Tudíž z její hlavní
výhody – možnosti zpětné vazby – dělá v očích společnosti naopak achillovu
patu, do které se tepe a tepe, místo toho, aby byla naopak posilována.
Řečeno jednou ironickou větou:
„Problém přece existuje jen tam, kde
ho vidím, že?“
Tohle všechno je strašně krásné povídání a může být
nekonečné, souboj spousty eg nad tím, kdo je nejchytřejší.
Mezitím, lidé, kteří se
nedostali k pomoci, umírají.
Lidé, kteří mysleli, že se k ní
dostali, taky umírají, protože jim pomoženo nebylo.
A pak umírá pár lidí, kteří si povídali s AI – ale ti jsou vidět.
A všem těmto lidem už je
jedno, kdo ten souboj vyhrál.
