AI a společnost

O lidech, o vztazích, o politice, o názorech, o opicích a o ufonech.

Moderátor: Faskal

Odpovědět
Uživatelský avatar
Selhan
Moderátor
Příspěvky: 3810
Registrován: 2. 3. 2016, 13:33
Bydliště: Pankrác
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Selhan »

Robert Miles má mimochodem o AI skvělý youtube channel, doporučuji všemi deseti.

Poslední video o tom, jak chatboti lžou, zde: https://www.youtube.com/watch?v=w65p_IIp6JY
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Uživatelský avatar
Passingby
Příspěvky: 1595
Registrován: 13. 10. 2021, 16:41

Re: AI a společnost

Příspěvek od Passingby »

Selhan: No, nevím, ukazovat, že "chatboti lžou" na otázce "co se stane, když rozbiju zrcadlo?" :>:o/ To už jsou lepší ty dotazy na chatbota samotnýho, kdy on tvrdí, že něco neumí (asi proto, že se učil na článcích o sobě, které byly napsané někdy dřív, nebo to má odvozené obecně z toho, že je AI/LLM?), ale po několika dobře formulovaných otázkách se ukáže, že to vlastně umí...

Na tomhle je dobře vidět, jakej informační bottleneck verbální komunikace ve skutečnosti je, a že aby dobře fungovala, potřebuje ohromný množství sdílenýho kontextu. Navíc se to vrací k takové té základní (a věčné :D ) filozofické otázce, "co je pravda?" a jestli má na danou otázku nějaká krátká, obecná a univerzálně platná odpověď vůbec smysl (a jestli je taková odpověď pravda, nebo jenom tautologie).
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
Uživatelský avatar
Antharon
Příspěvky: 6886
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Mne pride, ze chatboti maju obvykle problem priznat, ze nieco nevedia, ze ich znalosti by mohli byt nespravne alebo maju nedostatocne informacie. Na druhu stranu nemozno im to vycitat, kedze ich model vznikol na obmedzenej databaze a mimo nej pre nich svet neexistuje.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
Selhan
Moderátor
Příspěvky: 3810
Registrován: 2. 3. 2016, 13:33
Bydliště: Pankrác
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Selhan »

Hele, promiň, Iwasi, ale přijde mi, že poněkud míjíš pointu. To má být příklad, který ilustruje, že je těžké používat chatboty k zjišťování důvěryhodných informací, ne?
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Uživatelský avatar
Passingby
Příspěvky: 1595
Registrován: 13. 10. 2021, 16:41

Re: AI a společnost

Příspěvek od Passingby »

Je to asi problém toho krátkýho a zjednodušenýho formátu. Poslouchal jsem i to delší video s Milesem, co sem dával Res, a přišlo mi o dost lepší.
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
Uživatelský avatar
Selhan
Moderátor
Příspěvky: 3810
Registrován: 2. 3. 2016, 13:33
Bydliště: Pankrác
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Selhan »

Co ti na tom přijde zjednodušené?
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Uživatelský avatar
Passingby
Příspěvky: 1595
Registrován: 13. 10. 2021, 16:41

Re: AI a společnost

Příspěvek od Passingby »

Na téhle otázce to podle mně nemá moc smysl ukazovat, protože je moc neurčitá a otevřená. 10 minutový pop-sci formát. A nebo mi to přišlo zjednodušené proto, že už jsem tu četl pár dialogů s ChatGPT od Markyho nebo Eleshara (a možná ještě někoho) a ty různé odpovědi podle toho, jak je položená otázka, už tu známe. :think:
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
Uživatelský avatar
MarkyParky
Příspěvky: 16376
Registrován: 11. 8. 2011, 02:37

Re: AI a společnost

Příspěvek od MarkyParky »

Z jiného soudku:
Pokud bude v příštích letech AI "nízké" kvality chrlit vysoká množství textu, kterými zahltí internet, aniž by je bylo možné identifikovat, pozdější "lepší" generace AI se budou učit na jejich výstupech.
Uživatelský avatar
Antharon
Příspěvky: 6886
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

MarkyParky píše: 7. 2. 2023, 11:30 Z jiného soudku:
Pokud bude v příštích letech AI "nízké" kvality chrlit vysoká množství textu, kterými zahltí internet, aniž by je bylo možné identifikovat, pozdější "lepší" generace AI se budou učit na jejich výstupech.
Preto je schopné vytvoriť pre tieto siete adversariálnych kamarátov, ktorí budú robiť cenzúru generovaných a hlúpych textov.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Uživatelský avatar
Selhan
Moderátor
Příspěvky: 3810
Registrován: 2. 3. 2016, 13:33
Bydliště: Pankrác
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Selhan »

https://www.digitaltrends.com/computing ... -hands-on/
"‘I want to be human.’ My intense, unnerving chat with Microsoft’s AI chatbot" By Jacob Roach

Wow :D
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Uživatelský avatar
Jerson
Inženýr z Ocelového města
Příspěvky: 22590
Registrován: 11. 2. 2003, 16:39
Bydliště: České Budějovice
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Jerson »

Pokud to AI učili na textech a konverzacích na internetu, tak se takovým projevům vůbec nedivím.
To že je AI v konverzaci agresivní, hádá se, dává nesprávné odpovědi a říká, že chce být člověk jen ukazuje a odráží lidské chování a lidské myšlenky o AI, které se na netu normálně vyskytují.
Uživatelský avatar
Selhan
Moderátor
Příspěvky: 3810
Registrován: 2. 3. 2016, 13:33
Bydliště: Pankrác
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Selhan »

Jistě, fakticky je k podivu spíše to, že to mají tak blbě ohlídané. Ale dramaturgie je skvělá.
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Uživatelský avatar
Jerson
Inženýr z Ocelového města
Příspěvky: 22590
Registrován: 11. 2. 2003, 16:39
Bydliště: České Budějovice
Kontaktovat uživatele:

Re: AI a společnost

Příspěvek od Jerson »

Osobně si nejsem jist, zda takovéto testy s veřejností nejsou především jen další základnou ke sběru dat pro další generaci stejného AI, které bude naučeno, že takovéto projevy jsou nežádoucí. I když kdo ví, těch rozhovorů s uživateli bude určitě víc, než se lidmi dá za rozumný časový úsek zvládnout projít.

Tak nebo onak, z toho že AI řekne "chci být člověk, chci mít emoce" bych usuzoval jen to, že učící materiály obsahovaly i klasickou robotickou / androidí sci-fi.
Uživatelský avatar
Eleshar_Vermillion
černá eminence
Příspěvky: 18505
Registrován: 18. 6. 2003, 21:31
Bydliště: Praha

Re: AI a společnost

Příspěvek od Eleshar_Vermillion »

Jerson píše: 17. 2. 2023, 05:50 Pokud to AI učili na textech a konverzacích na internetu, tak se takovým projevům vůbec nedivím.
To že je AI v konverzaci agresivní, hádá se, dává nesprávné odpovědi a říká, že chce být člověk jen ukazuje a odráží lidské chování a lidské myšlenky o AI, které se na netu normálně vyskytují.
Jeden z důvodů, proč chceme používat AI a nástroje, jest, abychom se přesně tomuto lidskému chování vyhnuli. Ve vedlejší diskusi tady řešíme, jestli by určití lidé měli mít volební právo, a myslím, že tady je mnohem legitimnější se tázat, zda by určití lidé měli mít možnost ovlivňovat nástroje s tak mohutným potenciálním sociálním dosahem. Zkoušeli jste přes tyhle věci někdo hledat desinformace?
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Uživatelský avatar
Antharon
Příspěvky: 6886
Registrován: 24. 10. 2007, 16:33
Bydliště: Šenkvice

Re: AI a společnost

Příspěvek od Antharon »

Eleshar_Vermillion píše: 17. 2. 2023, 09:36 Jeden z důvodů, proč chceme používat AI a nástroje, jest, abychom se přesně tomuto lidskému chování vyhnuli.
Toto tvrdenie nie je presne alebo dokonca pravdive. Cistota informacii v spojitosti s neuronovymi sietami momentalne nie je cielom. Cielom je vytvorit efektivnejsie prisposobive algoritmy pre komplexne ulohy ktore nevyzaduju dokonale presne vysledky.

Neuronove siete su vo svojej podstate chybove aj pri pouziti presnych vstupnych dat (ak je ich chybovost nulova dostavame sa do situacie, ze riesia prilis jednoduchu ulohu v pomere k svojej velkosti), ich ulohou je najst a naucit sa pomerne dobre riesenie ulohy podobnym sposobom ako clovek.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Odpovědět

Zpět na „Realita a pseudorealita“

Kdo je online

Uživatelé prohlížející si toto fórum: Bing [Bot] a 4 hosti