Milí diváci, budeme rádi, když využijete komentáře pod videem, abyste se přednášejícího zeptali na cokoliv, co vás bude zajímat. Odpovídat na vaše dotazy zde bude mezi 20.00 a 21.00 hod. K vložení komentáře je potřeba, abyste se přihlásili účtem Google nebo TH-cam. Pokud takovou možnost nemáte, využijte formulář na našem webu a my sem dotaz vložíme za vás: phil.muni.cz/nocvedcu#dotaz
Výrok, že myšlení zodpovědné za porozumění jazyku se v případě Čínského pokoje neodehrává, předpokládá nějaký vrozený jazykový modul, díky kterému můžeme jazyku rozumět doopravdy (v tom smyslu, že se pro nás význam slova nerovná pouhému použití), je to tak? Je existence takového modulu nějak ověřitelná? Jsme k takovému předpokladu oprávněni? Protože pokud je celek jazyka zcela naučitelný a závislý pouze na kognitivních schopnostech typu "if see :), then say smile", pak umělé inteligence typu GPT3 umí myslet přesně tak jako my, nebo ne?
Dobrý den, zkusím odpovědět z té informatické stránky. Předně, umělá inteligence rozhodně nemyslí tak, jako my. Je to matematický model, který je poskládaný zcela jinak než lidský mozek. Tzn. veškerá srovnání počtu neuronu mozku a neuronové sítě vlastně nic moc neříkají. Netvrdím, že něco takového říkáte, jen to chci upřesnit. Pokud vím, existuje výzkum general AI, tzn. zda se neuronová síť dokáže naučit jen "pozorováním okolí". Tak ale člověk nefunguje. Otázka vrozeného jazykového modulu není zodpovězena, nicméně je jisté, že když se člověk narodí nebo ani nikdy předtím, není "nepopsaná kniha". Druhá část odpovědi je, že umělé neuronové sítě mohou některé úlohy řešit stejně nebo i lépe než lidé a jiné zase velice těžko. Ty těžko řešitelné jsou často spjaty s naším fyzičnem, s těmi věcmi, které pokud vím se nijak nesimulují - reflexy, hormonální reakce apod. Do tohoto směru diskuse se ale raději nebudu pouštět.
Zdravím, Romane :-) Proč Čínský pokoj podle některých skutečně nerozumí jazyku? Podle Searla např. proto, že nebiologický procesor nemá jednu takovou zvláštní schopnost, které říká "neodvozená intencionalita". Pro jiné to může být "duše", "reflexivní myšlení" nebo něco takového. Pokud vím, tak nepřítomnost takové vlastnosti či modulu, je testována jen pomocí spekulací. Právě kvůli bariéře mezi objektivním a subjektivním hlediskem totiž ani nelze jinak. Dokud nebudeme mít způsob, jak vidět a cítit svět z perspektivy druhého (člověka, stroje), nemáme empirický nástroj, jak ono "skutečně rozumění" detekovat. Ke GPT3 jen okrajovou poznámku: Jazyk je vehikulum. Nejde o to být schopen formulovat dokonalé věty jazyk, jde o to pomocí těchto vět inteligentně odpovídat. Zvládnutí struktury jazyka jako takové nás robotickému myšlení zase tolik nepřiblíží.
Dobrý den, snad vás nezahltím, ale mám pár dotazů: Je známo jaké reakce se Descartés na svou myšlenku člověka jako stroje dočkal již za svého života? Víte jaké jsou další názorné testy a argumenty k zjišťování inteligence kromě Turingova testu a Čínského pokoje a kdo se jimi zabývá, či zabýval? Myslíte, že bude člověk vůbec někdy schopný přijít se spolehlivým způsobem, jak rozpoznat, zda je stroj schopný “vědomě” myslet, vezmeme-li v úvahu, že se stroje neustále vyvíjí a působí čím dál tím lidštěji? Nebude to naopak čím dál tím těžší? A nemůže být neustálá snaha vytvořit hranici mezi člověkem a strojem jen lidský pud k zachování jakési nadřazenosti?
Dobrý den, díky za otázky. K reakcím na Descartovo mechanické pojetí těla: Nevím přesně. Vím, že určité církevní kruhy zareagovaly nevstřícně a tuto Descartovu myšlenku zesměšňovaly. Filozofy blízké Descartovi to nezaskočilo, ty stejně zajímala ta myslící věc. A přírodní vědci to přivítali. K dalším testům: Kolem zjišťování inteligence vzniklo množství oborů a konceptů, kolem zjišťování mysli už tolik ne. Existují různé testy na zjišťování dílčích kognitivních schopností, vizte kognitivní či vývojovou psychologii. Turing sám zmínil velké množství vlastností, které bývají tradičně využívány jako zkoumání autentičnosti: smysl pro humor, kreativita, pud sebezáchovy, žádný z nich ale nemá obecnost testů uvedených v přednášce. Za zmínku stojí fiktivní Void-Kampffův test z filmu Blade Runner, který pěkně po turingovsku zkoumá emoce. Ke třetí otázce: Nemyslím, že to principiálně lze zjistit. Myslím ale, že lidé brzy přestanou tento problém brát skutečně vážně - stejně jako přestali brát vážně problém jiných myslí - a začnou se ke strojům s plnou seriózností chovat jako k osobám. Tedy že opravdovost myšlení strojů skončí ve filozofické vitríně stejně, jako tam skončil problém myšlení jiných lidí.
Dotaz z formuláře na webu: "Dobrý den, zajímal by mne názor pana Pichy na Loebnerovu cenu, která je s panem Turingem, převážně s Turingovým testem, velmi spjata. Děkuji ."
Dobrý den, díky za zmínku Loebnerovy ceny. Je to vlastně taková turingovská soutěž, imitační hra v praxi. Programy soutěží v jisté (poměrně přísně) moderované konverzační disciplíně ... a zlepšují se. Turing si ve svém článku tipnul, že do roku 2 000 bude existovat stroj natolik výpočetně mohutný, že dokáže v pětiminutové imitační hře uspět na 70 %. Máme stroje, které jsou mnohem výpočetně mohutnější, než se Turing tehdy domníval, ale s úspěšností je to horší. Jaký je můj názor na tuto cenu? Jsem rád, že něco takového existuje a že to popularizuje Turingovu myšlenku. Žádný lepší názor nemám.
Dobrý den, taky si dovolím přidat názor. Na jednu stranu je Loebnerova cena výborný způsob, jak celý obor popularizovat. Na druhou stranu se ukazuje, že praktické využití programů podobného typu je docela sporné, vizte například celkem malý obchodní úspěch IBM Watson. V roce 2012 vyhrál cenu Eugene, který simuloval 13letého chlapce z Ukrajiny, který (pochopitelně) semtam udělá chybu v angličtině, dost věcí nezná - je mu přeci 13, čili chová se vzhledem ke svému "životopisu" očekávatelně. V 60. letech zmátla Eliza podle toho, co se traduje, sekretářku doktora Weizenbauma. Důvodem bylo, že ta sekretářka nemohla čekat, že bude mluvit s počítačovým programem. Úspěch do jisté míry závisí na očekáváních a přestože úspěch v Loebnerově ceně je velká věc, od praxe, kdy bychom chtěli od programů větší flexibilitu, jsou ty projekty celkem dost vzdálené.
Dotaz z formuláře na webu: "Nejnovější pre-print manželů Blumových, jež jsou jedními z průkopníku umělé inteligence, ve zkratce vypovídá, že Turingův stroj obsahující vedomí může vzniknout jen pomocí utrpení. Pokud AGI nezná pocit utrpení, nemůže mysl vzniknout: manželé Blumovi tvrdí, že právě systém odměn a odpírání je klíčem k vědomí. Ačkoliv jsem sám spíše obhajovatele agentních systém, kdy kolektiv tvoří vědomí, tato práce mě velice zaujala. Jaký je váš názor? Děkuji. arxiv.org/ftp/arxiv/papers/2011/2011.09850.pdf"
Daný text jsem neznal, díky za odkaz. Po rychlém skenu se mi zdá, že jde o návrh architektury, jejímž cílem je - mimo jiné - produkce pocitu bolesti, nikoli pouze produkce chování identické s chováním vyvolaným pocitem bolesti. Jaký je můj názor? Nemám na danou věc názor. Jsem spíše nakloněn chápat kvality, např. tedy bolest, jako fenomény závislé na organizaci, nikoli na substrátu - v tom se s Blumovými shoduji. Ale to je asi tak vše, co k tomu mám.
Dobrý den, rád bych se zeptal na úvahy z opačného pólu. Tedy co znamená myslet u lidí a pohled typu, že je to jenom trochu monstróznější IF ELSE schéma.
Dobrý den, díky za dotaz. On ten pól, který zmiňujete - tedy úvahy nad tím, co je to *lidské* myšlení - je obsažen právě už v otázce, co je myšlení strojové, či ještě spíše v otázce, co je to prostě myšlení. Nejde tedy o opačný pól, spíše o paralelní formulaci téhož problému. Co z toho, co dělají (předpokládejme že myslící) lidé, je klíčové pro myšlení jako takové? A co z toho lze duplikovat v jiném materiálu, jiným způsobem a levněji? Nejsem si ale jistý, zda jsem dotaz pochopil správně. Možná se spíše týká algoritmizovatelnosti lidského chování? Tedy zda existují nějaké ryze lidské mentální schopnosti, které nejsou strojově duplikovatelné?
@@marekpicha5685 Zkusím to jinak. Když se bavíme o myšlení, tak máme vždy nějakou utkvělou představu toho, že existuje nějaký "duch", něco co transcednuje lidské tělo jako takové. Ale třeba příklad: Když se zeptám člověka co je Hamlet: tak člověk udělá "IF (najdu vzpomínku spojenou se slovem Hamlet) -> pak odpovím. To je složitější část a další množiny if; ELSE vzpomínku nemám, tak odpovím "Nevím co je Hamlet". Stejně tak to udělá počítač. Nebo ještě jinačí úvaha. Oko vs kamera. Dneska můžu prohlásit, že kamera se dívá na svět jako oko. Proč? Protože rozumíme fungování oka i kamery a už málokdy uslyšíme úvahu typu "Co je to vidět". Když tedy řeknu, že rozumím fungování mozku a funguje stejně jako IF ELSE v počítači, pak můžu říct, že počítač funguje stejně jako mozek ergo počítač myslí stejně jako mozek. A moje otázka směřuje k tomu, přiznává někdo (jak moc, jak důvěryhodně) mozku pouze vysoce výkonnou schopnost IF ELSE?
@@ChocoTUx Aha, díky za rozvedení. Celá řada badatelů z nejrůznějších oblastí, od filozofie přes kognitivní vědu po biologii, se domnívá, že představa mysli jakožto "Ducha ve stroji" je překonaná. Tedy že mozek je skutečně jen organický výpočetní stroj s distribuovanou paralelní strukturou - a že to, co míníme myšlením, je produktem jen a pouze tohoto organického stroje. Mozek je neurální síť, přičemž funkce jednotlivých neuronálních spojení může být popsána pomocí podmínky (vstupní signál → výstupní signál). Takže ano, mozek jakožto stroj má v současnosti mnoho zastánců.
Milí diváci,
budeme rádi, když využijete komentáře pod videem, abyste se přednášejícího zeptali na cokoliv, co vás bude zajímat. Odpovídat na vaše dotazy zde bude mezi 20.00 a 21.00 hod.
K vložení komentáře je potřeba, abyste se přihlásili účtem Google nebo TH-cam. Pokud takovou možnost nemáte, využijte formulář na našem webu a my sem dotaz vložíme za vás: phil.muni.cz/nocvedcu#dotaz
Prosím vás můžete mi napsat jaké by to bylo žít v Adamově a jaké tam mají stroje? Jsou to ty Turingovy?
Děkuji moc za odbornou přednášku.
Výrok, že myšlení zodpovědné za porozumění jazyku se v případě Čínského pokoje neodehrává, předpokládá nějaký vrozený jazykový modul, díky kterému můžeme jazyku rozumět doopravdy (v tom smyslu, že se pro nás význam slova nerovná pouhému použití), je to tak? Je existence takového modulu nějak ověřitelná? Jsme k takovému předpokladu oprávněni? Protože pokud je celek jazyka zcela naučitelný a závislý pouze na kognitivních schopnostech typu "if see :), then say smile", pak umělé inteligence typu GPT3 umí myslet přesně tak jako my, nebo ne?
Dobrý den, zkusím odpovědět z té informatické stránky. Předně, umělá inteligence rozhodně nemyslí tak, jako my. Je to matematický model, který je poskládaný zcela jinak než lidský mozek. Tzn. veškerá srovnání počtu neuronu mozku a neuronové sítě vlastně nic moc neříkají. Netvrdím, že něco takového říkáte, jen to chci upřesnit. Pokud vím, existuje výzkum general AI, tzn. zda se neuronová síť dokáže naučit jen "pozorováním okolí". Tak ale člověk nefunguje. Otázka vrozeného jazykového modulu není zodpovězena, nicméně je jisté, že když se člověk narodí nebo ani nikdy předtím, není "nepopsaná kniha". Druhá část odpovědi je, že umělé neuronové sítě mohou některé úlohy řešit stejně nebo i lépe než lidé a jiné zase velice těžko. Ty těžko řešitelné jsou často spjaty s naším fyzičnem, s těmi věcmi, které pokud vím se nijak nesimulují - reflexy, hormonální reakce apod. Do tohoto směru diskuse se ale raději nebudu pouštět.
Zdravím, Romane :-) Proč Čínský pokoj podle některých skutečně nerozumí jazyku? Podle Searla např. proto, že nebiologický procesor nemá jednu takovou zvláštní schopnost, které říká "neodvozená intencionalita". Pro jiné to může být "duše", "reflexivní myšlení" nebo něco takového. Pokud vím, tak nepřítomnost takové vlastnosti či modulu, je testována jen pomocí spekulací. Právě kvůli bariéře mezi objektivním a subjektivním hlediskem totiž ani nelze jinak. Dokud nebudeme mít způsob, jak vidět a cítit svět z perspektivy druhého (člověka, stroje), nemáme empirický nástroj, jak ono "skutečně rozumění" detekovat. Ke GPT3 jen okrajovou poznámku: Jazyk je vehikulum. Nejde o to být schopen formulovat dokonalé věty jazyk, jde o to pomocí těchto vět inteligentně odpovídat. Zvládnutí struktury jazyka jako takové nás robotickému myšlení zase tolik nepřiblíží.
Dobrý den, snad vás nezahltím, ale mám pár dotazů:
Je známo jaké reakce se Descartés na svou myšlenku člověka jako stroje dočkal již za svého života?
Víte jaké jsou další názorné testy a argumenty k zjišťování inteligence kromě Turingova testu a Čínského pokoje a kdo se jimi zabývá, či zabýval?
Myslíte, že bude člověk vůbec někdy schopný přijít se spolehlivým způsobem, jak rozpoznat, zda je stroj schopný “vědomě” myslet, vezmeme-li v úvahu, že se stroje neustále vyvíjí a působí čím dál tím lidštěji? Nebude to naopak čím dál tím těžší? A nemůže být neustálá snaha vytvořit hranici mezi člověkem a strojem jen lidský pud k zachování jakési nadřazenosti?
Dobrý den, díky za otázky. K reakcím na Descartovo mechanické pojetí těla: Nevím přesně. Vím, že určité církevní kruhy zareagovaly nevstřícně a tuto Descartovu myšlenku zesměšňovaly. Filozofy blízké Descartovi to nezaskočilo, ty stejně zajímala ta myslící věc. A přírodní vědci to přivítali. K dalším testům: Kolem zjišťování inteligence vzniklo množství oborů a konceptů, kolem zjišťování mysli už tolik ne. Existují různé testy na zjišťování dílčích kognitivních schopností, vizte kognitivní či vývojovou psychologii. Turing sám zmínil velké množství vlastností, které bývají tradičně využívány jako zkoumání autentičnosti: smysl pro humor, kreativita, pud sebezáchovy, žádný z nich ale nemá obecnost testů uvedených v přednášce. Za zmínku stojí fiktivní Void-Kampffův test z filmu Blade Runner, který pěkně po turingovsku zkoumá emoce. Ke třetí otázce: Nemyslím, že to principiálně lze zjistit. Myslím ale, že lidé brzy přestanou tento problém brát skutečně vážně - stejně jako přestali brát vážně problém jiných myslí - a začnou se ke strojům s plnou seriózností chovat jako k osobám. Tedy že opravdovost myšlení strojů skončí ve filozofické vitríně stejně, jako tam skončil problém myšlení jiných lidí.
Děkuji :))
Dotaz z formuláře na webu:
"Dobrý den,
zajímal by mne názor pana Pichy na Loebnerovu cenu, která je s panem Turingem, převážně s Turingovým testem, velmi spjata. Děkuji
."
Dobrý den, díky za zmínku Loebnerovy ceny. Je to vlastně taková turingovská soutěž, imitační hra v praxi. Programy soutěží v jisté (poměrně přísně) moderované konverzační disciplíně ... a zlepšují se. Turing si ve svém článku tipnul, že do roku 2 000 bude existovat stroj natolik výpočetně mohutný, že dokáže v pětiminutové imitační hře uspět na 70 %. Máme stroje, které jsou mnohem výpočetně mohutnější, než se Turing tehdy domníval, ale s úspěšností je to horší. Jaký je můj názor na tuto cenu? Jsem rád, že něco takového existuje a že to popularizuje Turingovu myšlenku. Žádný lepší názor nemám.
Dobrý den, taky si dovolím přidat názor. Na jednu stranu je Loebnerova cena výborný způsob, jak celý obor popularizovat. Na druhou stranu se ukazuje, že praktické využití programů podobného typu je docela sporné, vizte například celkem malý obchodní úspěch IBM Watson. V roce 2012 vyhrál cenu Eugene, který simuloval 13letého chlapce z Ukrajiny, který (pochopitelně) semtam udělá chybu v angličtině, dost věcí nezná - je mu přeci 13, čili chová se vzhledem ke svému "životopisu" očekávatelně. V 60. letech zmátla Eliza podle toho, co se traduje, sekretářku doktora Weizenbauma. Důvodem bylo, že ta sekretářka nemohla čekat, že bude mluvit s počítačovým programem. Úspěch do jisté míry závisí na očekáváních a přestože úspěch v Loebnerově ceně je velká věc, od praxe, kdy bychom chtěli od programů větší flexibilitu, jsou ty projekty celkem dost vzdálené.
Dotaz z formuláře na webu:
"Nejnovější pre-print manželů Blumových, jež jsou jedními z průkopníku umělé inteligence, ve zkratce vypovídá, že Turingův stroj obsahující vedomí může vzniknout jen pomocí utrpení. Pokud AGI nezná pocit utrpení, nemůže mysl vzniknout: manželé Blumovi tvrdí, že právě systém odměn a odpírání je klíčem k vědomí. Ačkoliv jsem sám spíše obhajovatele agentních systém, kdy kolektiv tvoří vědomí, tato práce mě velice zaujala. Jaký je váš názor? Děkuji.
arxiv.org/ftp/arxiv/papers/2011/2011.09850.pdf"
Daný text jsem neznal, díky za odkaz. Po rychlém skenu se mi zdá, že jde o návrh architektury, jejímž cílem je - mimo jiné - produkce pocitu bolesti, nikoli pouze produkce chování identické s chováním vyvolaným pocitem bolesti. Jaký je můj názor? Nemám na danou věc názor. Jsem spíše nakloněn chápat kvality, např. tedy bolest, jako fenomény závislé na organizaci, nikoli na substrátu - v tom se s Blumovými shoduji. Ale to je asi tak vše, co k tomu mám.
Dobrý den, rád bych se zeptal na úvahy z opačného pólu. Tedy co znamená myslet u lidí a pohled typu, že je to jenom trochu monstróznější IF ELSE schéma.
Dobrý den, díky za dotaz. On ten pól, který zmiňujete - tedy úvahy nad tím, co je to *lidské* myšlení - je obsažen právě už v otázce, co je myšlení strojové, či ještě spíše v otázce, co je to prostě myšlení. Nejde tedy o opačný pól, spíše o paralelní formulaci téhož problému. Co z toho, co dělají (předpokládejme že myslící) lidé, je klíčové pro myšlení jako takové? A co z toho lze duplikovat v jiném materiálu, jiným způsobem a levněji? Nejsem si ale jistý, zda jsem dotaz pochopil správně. Možná se spíše týká algoritmizovatelnosti lidského chování? Tedy zda existují nějaké ryze lidské mentální schopnosti, které nejsou strojově duplikovatelné?
@@marekpicha5685 Zkusím to jinak. Když se bavíme o myšlení, tak máme vždy nějakou utkvělou představu toho, že existuje nějaký "duch", něco co transcednuje lidské tělo jako takové. Ale třeba příklad: Když se zeptám člověka co je Hamlet: tak člověk udělá "IF (najdu vzpomínku spojenou se slovem Hamlet) -> pak odpovím. To je složitější část a další množiny if; ELSE vzpomínku nemám, tak odpovím "Nevím co je Hamlet". Stejně tak to udělá počítač.
Nebo ještě jinačí úvaha. Oko vs kamera. Dneska můžu prohlásit, že kamera se dívá na svět jako oko. Proč? Protože rozumíme fungování oka i kamery a už málokdy uslyšíme úvahu typu "Co je to vidět". Když tedy řeknu, že rozumím fungování mozku a funguje stejně jako IF ELSE v počítači, pak můžu říct, že počítač funguje stejně jako mozek ergo počítač myslí stejně jako mozek.
A moje otázka směřuje k tomu, přiznává někdo (jak moc, jak důvěryhodně) mozku pouze vysoce výkonnou schopnost IF ELSE?
@@ChocoTUx Aha, díky za rozvedení. Celá řada badatelů z nejrůznějších oblastí, od filozofie přes kognitivní vědu po biologii, se domnívá, že představa mysli jakožto "Ducha ve stroji" je překonaná. Tedy že mozek je skutečně jen organický výpočetní stroj s distribuovanou paralelní strukturou - a že to, co míníme myšlením, je produktem jen a pouze tohoto organického stroje. Mozek je neurální síť, přičemž funkce jednotlivých neuronálních spojení může být popsána pomocí podmínky (vstupní signál → výstupní signál). Takže ano, mozek jakožto stroj má v současnosti mnoho zastánců.
@@marekpicha5685 Děkuji :)