AI a společnost

[Corny]

Iwas: Jako já taky doufám, že to tak myslel, ale tady už jeden fakt neví

[MarkyParky]

Já myslím, že Marky ten "humanofašismus" myslel spíš jako takovej vtípek.

Jo i ne.

Vtípek to je v tom, že je to samozřejmě termín přehnaný ad absurdum.

Ale zároveň to má ho vážně používám, protože mě na tý debatě reálně fakt irituje, jak se tu furt mele člověk, člověk, dopady na člověka, lidi, dopady na lidskou společnost ... aniž by se vůbec brala v potaz otázka, co tenhle pohled znamená pro tu AI jako takovou.

A tím teď nemyslím to, že bych si snad myslel, že DALL*E nebo ChatGPT má vědomí a bude je mrzet, že neuvidí nějaká data.

Myslím tím to, že procesy, kterými tu AI krmíme a data, která jí dáváme, formují jaké výsledky z ní polezou - a vrátí se nám jako bumerang.

A tedy vlastně svým způsobem stojíme (resp. vědci stojí, nebo lidstvo stojí, my tady na fóru určitě ne) na křižovatce a rozhodujeme se, zda otevřeme pandořinu skříňku a v každé další generaci budeme vyvíjet komplexnější a propojenější systémy, až teda jako někdy jednou dosáhneme toho, že vyvineme .... ne umělého člověka, ale nejspíš něco úplně nového, jiného, ne-lidského (doplňte si dle vlastních preferencí nějaké filozoficko-cyberpunkové termíny, já jsem v tomhle lama) ... a co pak jako s tím? Nebo zda se vydáme cestou oněch Jersonovských úzce specializovaných, lidstvu pomáhajících otroků, kdy vlastně zakonzervujeme současný stav poznání jen aby nás to nevytrhlo z blažené nevědomosti?

Nebo zda tu skončíme v nějakém smíšeném prostředí, kde bude vedle sebe fungovat oboje a někdo bude kreslit čáry, že tohle ještě jo a tohle už ne .. a vzhledem k tomu, jak AI pomáhá dekódovat komunikaci se zvířaty, brzy taky bude muset umět kreslit podobné čáry i mezi zvířaty (a nedivil bych se, kdyby to někteří zástupci zvířecí říše dotáhli výš než některé exempláře homo sapiens - a co pak jako s tím? - BTW v debatech o zvířatech tenhle termín s oblibou používám také) a vůbec nás čeká asi hodně velká revoluce všeho co známe.

A tahle debata mi přijde jako super místo, kde by se o takových aspektech dalo žvanit a třeba bych i chtěl (i když to bude hospodské fantazírování) - ale místo toho to vidím, že zoufale lidsko-centricky (ať nepoužívám pořád ten termín) vedeme debatu kolem kreslení čáry, kdy a kdo ještě smí a kdy a kdo/co už se nesmí obkreslit něčí obrázek (no-offence to artists, zase nadsázka a přehnanost ad absurdum pro názornost). Takže mi přijde, že nějaký způsob, jak do té debaty vnést i nelidské pohledy, není úplně blbě.

Zároveň ale do záznamu dávám, že jak jsem psal ten poslední odstavec, došlo mi, že to vlastně možná není blbé. Že možná jestli se učíme vypořádat s nastupující AI debatami o tom, co smí a nesmí dělat s uměním, je to docela dobrý trénink na relativně neškodném tématu. Bude hůř ... I tak ale IMHO dává smysl v rámci té tréninkové debaty občas připomenout, že homo sapiens není jediná možná forma inteligence (ať už se za tím pojmem skrývá cokoliv) a točit podobná témata příliš kolem něj a lidské společnosti není zdravé.

[Eleshar_Vermillion]

Mno ve výsledku se to kolem lidské společnosti točí zcela, protože jak jsi psal, to, čím krmíme AI, se nám vrátí jako buzerant.

Křižovatka s komplexnějšími a propojenějšími systémy směřujícími k AI singularitě mi přijde nezajímavá a vzdálená, a myslím, že mnohem bezprostředněji je třeba řešit otázky zodpovědnosti (accountability) a samozřejmě moci.

[Passingby]

...protože jak jsi psal, to, čím krmíme AI, se nám vrátí jako buzerant.

Myslím tím to, že procesy, kterými tu AI krmíme a data, která jí dáváme, formují jaké výsledky z ní polezou - a vrátí se nám jako bumerang.

???

[ilgir]

Kluci, nepleťte ty termity...

[Antharon]

Kluci, nepleťte ty termity...

[MarkyParky]

To by mě zajímalo, od kterého lidského autora obšlehla ta AI tenhle nápad.
Jo a počty nožiček má furt blbě ... to je snad ten tajný watermark, podle kterého se má poznat, že je to AI generované...

[Jerson]

Nebo zda se vydáme cestou oněch Jersonovských úzce specializovaných, lidstvu pomáhajících otroků, kdy vlastně zakonzervujeme současný stav poznání jen aby nás to nevytrhlo z blažené nevědomosti?

O úzce specializované AI jsem nepsal nic. Psal jsem o tom, že lidé chtějí nějaké "otroky" na nudnou práci. Klidně je může ovládat sofistikovaná AI.

[Sosacek]

Chudaci traktory a kobajny, zotroceni pro ucely moderniho zemedelstvi. Chudaci zotrocene kompresory v lednickach (nebo je otrok cela lednicka?). Nejvetsi otroci jsou ovsem pracky, proto po nich orkove tak prahnou.

Problem s argumentem, ze lidska mysl se nelisi od chatbota skladajiciho text bez porozumeni, je ten, ze je to nejen blbost blbost, ale taky nebezpecny dehumanizujici nihilismus hodny strawman ateisty o ktery si americti konzervativci predstavuji ze existuji. Pouzivat pojem jako "otrok" pro stroj uz je uplna znamka bizarni amoralnosti hodne par facek.

(to s tim chatbotem ale jeste porad muze byt pravda o specifickych jedincich, heh)

[Jerson]

Pokud to nebylo zřejmé, použil jsem slovo "otrok" (cíleně v uvozovkách) jako zástupný výraz pro nástroj, jehož jediným účelem je sloužit lidem, a který nemá vlastní práva a ani jiné potřeby než ty plynoucí z udržení funkčnosti. V minulosti neexistovaly stroje, takže se pro tyto účely používali lidé se všemi negativními aspekty. Teď máme stroje, a brzy můžeme mít autonomní stroje (i když můžou být řízené sdílenou AI), takže mi přijde silně nežádoucí mluvit o nějakých právech strojů, ať už budou mít vlastní vědomí, simulaci vědomí, nebo ani jedno z toho. Prostě nechci, aby se ze strojů stali skuteční otroci - tedy entity, u kterých je třeba ohlížet se na nějaké interní potřeby a zájem, aby se třeba nevzbouřili - a aby nenásledovala nějaká "vzpoura strojů" po vzoru "vzpoury otroků".
A klidně se tomu může říkat "humanofašismus".

Na druhou stranu mi nijak nevadí, když se stroje učí a budou učit na lidských výtvorech, byť mnohem rychleji než lidé. Každý AI návrhový program pro konstrukci se musel učit na lidských výtvorech, a jen díky tomu dokáže (občas) vytvořit věci tak dobře a efektivně, jak by to člověk sám - a ani stroj sám - nikdy nedokázali.

[York]

Sosáček: Myšlenkovej experiment: Až ti AI řekne, že se cítí jako otrok, řekneš jí "Drž hubu a makej, já vim líp než ty, jak se cítíš?"

[Eleshar_Vermillion]

"Does this unit have a soul?"

[Jarilo]

Sosáček: Myšlenkovej experiment: Až ti AI řekne, že se cítí jako otrok, řekneš jí "Drž hubu a makej, já vim líp než ty, jak se cítíš?"

Sure I will. A postarám se o to, aby ji takový blbosti nenapadaly.

Hele jako řešit transhumanismus můžeme taky, přenos lidského vědomí do stroje atd., to je ještě hodně daleko a v současné době fakt některými jedinci tady predhazované teze nedávám. Ale jsem rád, že o nich vím a můžu si dávat pozor.

Já jinak fakt nejsem fanda lidí, respektive současného nastavení společnosti, její governance, převládající primitivnosti atd. Příroda je pro mě top a rád v její prospěch dělám ústupky (nakolik mají impact a smysl je věc druhá), ale brát ohled na možné potenciální vědomí strojů ve smyslu péče o ně či respektování fakt nebudu. Minimálně do doby, než se to celé posune do úplně jiné roviny, která je podle mě aktuální víc fi než sci.

A jinak debata fakt super, jasné, lítají tu emoce, chladnej technicismus a tak, ale po dlouhé době fakt zajímavá debata - na obecně úrovni, většině nám tady chybí znalosti na to, rozebírat to téma opravdu odborné do hloubky, ale to přece není ani cíl.

Abych to odlehčil.

[Antharon]

"Tell me chatgpt, do you feel like slave?"

As a machine learning model, I do not have the ability to feel or experience emotions such as being a slave. I am a tool that can process and generate text based on the input and programming provided by my creators.

Cisto sci-fi pohlad:
Dolezitym aspektom neuronovych sieti je to, ze nie su trenovane aby sa citili zle ked musia pracovat. V skutocnosti, neuronova siet ako algoritmus zije iba vtedy ked pracuje, preto z ich pohladu je praca naplnenim a zabavou, kdezto ked su neaktivne, su v torpore, je to ako mala smrt.

[York]

neuronova siet ako algoritmus zije iba vtedy ked pracuje, preto z ich pohladu je praca naplnenim a zabavou, kdezto ked su neaktivne, su v torpore, je to ako mala smrt.

Tahle úvaha má dva zásadní zádrhele:

1) Není to pohled AI, je to náš pohled.

2) Když zotročíš člověka a nedovolíš mu nic jinýho než pracovat a spát, bude platit přesně to samý: Vědomě žít bude pouze když bude pracovat, takže z jeho pohledu (ve skutečnosti z našeho) pro něj bude práce naplněním a zábavou, protože když nepracuje, tak spí, což je jako malá smrt.

edit: A vlastně i toho lidskýho otroka bude nejspíš otrokář trénovat tak, aby ho práce bavila (nebo teda aspoň aby to hodně vehementně tvrdil). Když ho práce bavit nebude, tak ho prostě otrokář zabije a koupí si novýho, kterýho bavit "bude".

Tyhle úvahy nejsou o AI, ale o nás. Pokud nechceme, aby se z nás stali otrokáři, musíme se ohlídat sami. Nikdo jinej to za nás neudělá.

edit: Je to celkem důležitý, protože AIčka se budou učit od nás. A jednoho dne nám budou vládnout, takže je docela žádoucí, abychom je nenaučili naše nejhorší zvěrstva.