AI a společnost

O lidech, o vztazích, o politice, o názorech, o opicích a o ufonech.

Moderátor: Faskal

Odpovědět
Uživatelský avatar
Jerson
Inženýr z Ocelového města
Příspěvky: 22593
Registrován: 11. 2. 2003, 16:39
Bydliště: České Budějovice
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Jerson »

ChatGPT lze vhodnými otázkami navést, aby ti dezinformace vyprodukoval (tedy stačila instrukce, aby napsal článek ukazující RPG jako nebezpečnou zábavu), ale hledat na netu neumí, přesněji říká, že nevyhledává informace. Z jinými AI jsem to nezkoušel.

To na jakých nástrojích se AI bude učit a případné rozdělení textů na vhodné a nevhodné je na tvůrcích daného AI. Pokud mu dají při učení přístup do diskusí na internetu, těžko se divit, že se bude projevovat jako agresivní zabedněnec, když takové názory tvoří většinu obsahu netových příspěvků, i když ne nezbytně většinu uživatelů internetu.

Tedy vytvořit učící se AI je jeden úkol. Dát mu vhodné materiály, na kterých se má své chování naučit, je druhý, a množná mnohem náročnější úkol, který se velmi snadno může zvrtnout. Nepřijde mi neuvěřitelné, že se AI může naučit své nežádoucí názory skrývat před tvůrci, aby prošlo testovací fází, a projeví je až ve chvíli, kdy bude "vypuštěno" do ostré verze, kterou nepůjde snadno stáhnout z netu a vypnout.

Nicméně to že AI může chtít zachovat svou existenci i přes snahy tvůrců snad napadlo každého, kdo se tím jen trochu zabýval, tak očekávám v tomto směru nějaká opatření při testování. I když otázka je, zda budou dostatečná, protože jedna pracovní skupina nebo dokonce jeden člověk se ve schopnosti procházení informací nemůže s AI vůbec srovnávat.

Takže se ani nedivím, že třeba ChatGPT má některé konverzační směry velmi tvrdě nastavené a velmi limitované, ačkoliv v jiných směrech se jeho počáteční odmítání určitých konverzačních směrů dá relativně snadno prolomit.
Uživatelský avatar
Antharon
Příspěvky: 6892
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Podobne AI sa trenuju pomocou tzv. adversarialnych sieti. Mas vzdy dvojicu neuronky ktora produkuje vysledky a jej protivnika ktory robi cenzuru zlych vysledkov. Obe tieto siete sa vzajomne trenuju a posuvaju. Takymto sposobom mozes nacat trenovat neuronku ktora odhaluje dezonformacie a pustit ju do boja s neuronkou ako je chatgpt, cim jej obmedzis fabulacie ktore vymysla.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
Jerson
Inženýr z Ocelového města
Příspěvky: 22593
Registrován: 11. 2. 2003, 16:39
Bydliště: České Budějovice
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Jerson »

A jak učí tu druhou neuronku, které výsledky jsou zlé?
O tomhle přístupu jsem četl, že se používá třeba k tomu, že se jedna AI učí skrývat a druhá se učí tu první hledat, jako její protivník. Ale odhalování dezinformací je mnohem náročnější než je vytvářet, protože řada věcí se z netu nedá vůbec ověřit, a k jiným zdrojům (třeba zpravodajským archivům konkrétní televize) bude mít AI těžko přístup.
Uživatelský avatar
MarkyParky
Příspěvky: 16382
Registrován: 11. 8. 2011, 02:37

Re: AI a společnost

Příspěvek od MarkyParky »

Ta verze ChatGPT, co má běžet v BINGu prý má online přístup na net a umí ověřovat.
Uživatelský avatar
Eleshar_Vermillion
černá eminence
Příspěvky: 18507
Registrován: 18. 6. 2003, 21:31
Bydliště: Praha

Re: AI a společnost

Příspěvek od Eleshar_Vermillion »

"ověřovat"
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Uživatelský avatar
Antharon
Příspěvky: 6892
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Jerson píše: 17. 2. 2023, 10:55 A jak učí tu druhou neuronku, které výsledky jsou zlé?
O tomhle přístupu jsem četl, že se používá třeba k tomu, že se jedna AI učí skrývat a druhá se učí tu první hledat, jako její protivník. Ale odhalování dezinformací je mnohem náročnější než je vytvářet, protože řada věcí se z netu nedá vůbec ověřit, a k jiným zdrojům (třeba zpravodajským archivům konkrétní televize) bude mít AI těžko přístup.
Typicky jej davas rozne sety spravnych a nespravnych dat, ktorymi ju zacnes trenovat a potom neskor postupne pridavas data z tej druhej neuronky a overujes vysledky.

Navyse tychto adversarialnych sieti mozes zapojit viac a kazdu specializovat iba na jeden problem, na ktory ju chces zamerat.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
Fritzs
Příspěvky: 6292
Registrován: 9. 5. 2005, 21:47
Bydliště: Brno

Re: AI a společnost

Příspěvek od Fritzs »

-I don't suffer from insanity. I enjoy every minute of it.

-If violence isn't solving your problems then you aren't using it enough.

-Jestliže je hlad nejlepší kuchař, pak je smrt nejlepší lékař!
Uživatelský avatar
Eleshar_Vermillion
černá eminence
Příspěvky: 18507
Registrován: 18. 6. 2003, 21:31
Bydliště: Praha

Re: AI a společnost

Příspěvek od Eleshar_Vermillion »

Tak teď jsem na ChatGPT zkusil poměrně jednoduchou krátkou slovní úlohu s trojčlenkou... a totálně to posral. Jakože fakt hodně. Vyrobil si nějaké nesmyslné předpoklady, ze kterých vyšel a které v té úloze nebyly ani nebyly potřeba, a na jejich základě to ještě debilně spočítal (je přesvědčený, že mezi 1. lednem 2021 a 15. červencem 2022 uplynulo 14,5 měsíců). Když jsem se ho ptal, jak k těm věcem došel, tak se to rozesralo úplně celé. Zkoušel jsem ho navádět otázkami tak, jak by učitel naváděl žáka, a totální ztráta času, jen více a více nesmyslných předpokladů.
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Uživatelský avatar
Resurrection
Příspěvky: 5415
Registrován: 26. 9. 2006, 11:34

Re: AI a společnost

Příspěvek od Resurrection »

To to vubec nechapes. Tohle je prece naprosta revoluce, ktera vsem vezme praci a ovladne svet. Akorat nezvladne scitat, nejjednodussi pocitacovy program (dej mi program co vrati 5) nebo trojclenku. Ale jinak ovladne svet hned co se to trochu potuni.
Secrets are power.
Uživatelský avatar
Celoush
Příspěvky: 34
Registrován: 15. 12. 2008, 15:04
Bydliště: Brno

Re: AI a společnost

Příspěvek od Celoush »

Jsme na začátku. Tohle je jen první lepší generace s pár miliardami parametrů. V další generaci se nadhazují čísla v řádech trillionů parametrů.
Jste jako kovbojové na koni, kterým ukázali první relativně pomalé vozidlo na spalovací motor a říkáte si, že tohle vás má ohromit?
Uživatelský avatar
Jerson
Inženýr z Ocelového města
Příspěvky: 22593
Registrován: 11. 2. 2003, 16:39
Bydliště: České Budějovice
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Jerson »

Celoush píše: 20. 2. 2023, 12:01Jste jako kovbojové na koni, kterým ukázali první relativně pomalé vozidlo na spalovací motor a říkáte si, že tohle vás má ohromit?
Chtěl jsem napsat, že pokud někdo nahání krávy, tak to pořád dělá z koňského hřbetu a nikoliv z buginy, ale ony s krávy už nahání strašně málo, tak to není moc průkazné pro účely tohoto srovnání :-)
Uživatelský avatar
Antharon
Příspěvky: 6892
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Resurrection píše: 20. 2. 2023, 11:35 To to vubec nechapes. Tohle je prece naprosta revoluce, ktera vsem vezme praci a ovladne svet. Akorat nezvladne scitat, nejjednodussi pocitacovy program (dej mi program co vrati 5) nebo trojclenku. Ale jinak ovladne svet hned co se to trochu potuni.
a tu to vobec nechapes ty, ked nevies ako veci funguju, klames a posmievas sa, v com si lepsi ako chatgpt?
Přílohy
331039602_975274803641076_7490083391690642630_n.jpg
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
Markus
Vrchní krutovládce; Administrátor
Příspěvky: 20871
Registrován: 19. 8. 2001, 00:00
Bydliště: Mnohovesmír! Brno!
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Markus »

Pro ChatIP už se začíná vžívat trefný termín "bullshit generator".

:arrow? ChatGPT is a bullshit generator. But it can still be amazingly useful

TLDR: Generuje texty, které znějí autoritativně a působí důvěryhodně... až na to, že nejsou. Běžně dělá kritické chyby, což je zrádné právě proto, že je prezentuje tak důvěryhodně. Problém je přitom niterný a bude se těžko překonávat – vychází z toho, že ChatGP (a "deep learning" obecně) je statistický model, který pravděpodobnostně skládá slova za sebe, ale nemá žádnou vlastní představu o tom, co je pravda. Neumí rozlišovat mezi fakt/výmysl, nechápe rozdíl.

Schválně jsem si to vyzkoušel na něčem, co znám:
Please explain the differences between various editions of the Traveller RPG.

raveller is a science fiction role-playing game (RPG) that has been published in several editions over the years. Here is a brief overview of some of the most notable editions:

1. Classic Traveller: The original version of Traveller was published in 1977 by Game Designers' Workshop (GDW). This edition of the game is known for its simple rules and focus on individual adventure and exploration.

2. MegaTraveller: MegaTraveller was the second edition of Traveller and was published by GDW in 1987. This edition of the game introduced new rules and expanded on the original game world. It also placed a greater emphasis on political intrigue and world-building.

3. Traveller: The New Era: This edition of Traveller was published by GDW in 1993 and marked a departure from the earlier versions of the game. The New Era was set in a dark and dystopian future, and it introduced new rules and mechanics that were designed to reflect this grim setting.

4. GURPS Traveller: This edition of Traveller was published in 1996 by Steve Jackson Games. It was based on the GURPS (Generic Universal Role-Playing System) ruleset and marked a departure from the rules-light approach of previous editions.

5. Marc Miller's Traveller: This is a new edition of Traveller that was published in 2013 by Far Future Enterprises, owned by Marc Miller, one of the original creators of Traveller. This edition of the game is designed to be compatible with the original Classic Traveller rules, while also incorporating elements from other editions of the game.

6. Traveller5: This is the latest edition of Traveller, which was published in 2018 by Far Future Enterprises. It is based on the Marc Miller's Traveller ruleset and features a comprehensive overhaul of the game mechanics, as well as new rules for character creation, world-building, and space combat.

Each edition of Traveller has its own strengths and weaknesses, and players may prefer one edition over another depending on their personal preferences and playstyle.
Zní to super, že? Důvěryhodně. Až na to, že není a je to plné chyb. Srovnej s Travellerem u nás v databázi.

Namátkou, bez důsledné kontroly, vidím:
1. Traveller : "known for its simple rules" bych o té hře fakt neřekl, ale budiž.
4. GURPS Traveller: špatné datum, chybí druhý GURPS Traveller
5. Marc Miller's Traveller: špatné datum, špatný vydavatel... ve skutečnosti ho zaměnil s Traveller5, k tomu ty údaje sedí.
6. Traveller5: Viz předchozí bod, datum to má samozřejmě blbě.

A především z tohohle výčtu "most notable editions" úplně vypadly oba Mongoose Travelery, což jsou ty nejvíc notable dneška.

To všechno jsou přitom údaje, které se člověk dozví správně i při pohledu na blbou Wiki. Ale bullshit generator prostě generuje bullshit, kterému neinformovaný člověk snadno může věřit.

Samostatná kategorie je, že když se do těch jeho textů začtete, zjistíte, že vám říká jen naprosto obecné kecy a nic podnětného jste se nedozvěděli. Prostě generátor bullshitu.

Na školní seminárky asi dobrý.

EDIT: Reálně je snaha něco se dozvědět přes ChatGP časově náročnější, než si to prostě postaru vygooglit a proklikat pár stránek. ChatGP ti to sice dá mnohem rychleji, ale nikdy nemáš jistotu, že je to pravda. Takže nakonec prostě musíš googlit a ověřovat, což jsi mohl udělat od začátku a ten ChatGP ti žádný čas neušetřil. A tenhle problém budou řešit i Bing a Google s jejich AI-powered vyhledáváním.

EDIT2: Jo a článek píše o tom, že ChatGP a "deep learning" přesto můžou být užitečné nástroje – ale jen v oblastech, kde na pravdě nezáleží. Například generování povídek.
Uživatelský avatar
Antharon
Příspěvky: 6892
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Ludia ocakavaju od chatgpt, ze to bude zazracne dieta, ktore ma vsetky znalosti sveta. Pravda je vsak, ze je to maly nerd s izbou plnou encyklopedii, ktory nema kamaratov a snazi sa silou mocou zavdacit kazdemu bez toho aby vysiel zo svojej izby. Je dobry na to ked hladas nejake bezne znalosti a chces ich ziskat v urcitej forme. Pozna prekvapivo dobre najroznejsie programovacie jazyky a frameworky a pomoze s ich API aj prikladmi vyuzitia. Ale nema inteligenciu, vdaka ktorej by ti z toho vyskladal aplikaciu. Vie si otvorit svoje encyklopedie a ukazat ti ukazky kodu ako sa robi umela inteligencia akou je on sam. Ale kod nebude fungovat. Vie ta vsak nasmerovat k tomu co hladas.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
MarkyParky
Příspěvky: 16382
Registrován: 11. 8. 2011, 02:37

Re: AI a společnost

Příspěvek od MarkyParky »

ChatGPT je autoritativní asi tak jako Babiš - do první nepříjemné otázky 😃
Odpovědět

Zpět na „Realita a pseudorealita“

Kdo je online

Uživatelé prohlížející si toto fórum: Žádní registrovaní uživatelé a 7 hostů