UI nemá žádné fyzické smysly ani pocity, což vytváří značnou mezeru mezi lidskými zkušenostmi a jejími funkcemi. Skutečné obavy budí ale ne samotná UI, ale ti, kdo ji ovládají – programátoři, korporace a vlády. (casopisargument.cz)
V současnosti často slyšíme, že umělá inteligence (UI), která vypadá a chová se jako člověk, dobře mluví, projevuje emoce a tvrdí, že je kreativní. To je však zavádějící, protože UI tyto skutečné lidské vlastnosti postrádá a vůbec není člověkem. To může být nebezpečné, protože to vytváří přesvědčivou iluzi. V článku pro The Conversation to napsal profesor kognitivní neurovědy Guillaume Thierry.
Obecná umělá inteligence, která by se podbala lidskému myšlení, zůstává čistě fiktivní. Současná umělá inteligence je pouze statistickým nástrojem, který napodobuje vzorce z obrovského množství lidských dat. Když reaguje, předpovídá další slovo na základě svého tréninku, přičemž postrádá skutečné porozumění nebo vědomí, zdůrazňuje článek.
Skutečně myslící umělá inteligence je nepravděpodobná, protože nemá žádné fyzické smysly ani pocity, což vytváří značnou mezeru mezi lidskými zkušenostmi a jejími funkcemi.
Filosof David Chalmers označuje záhadné spojení mezi naším fyzickým tělem a vědomím jako „těžký problém vědomí“. Vědci předpokládají, že vědomí vzniká kombinací vnitřních duševních stavů se smyslovými vstupy. Vzhledem k tomu, že lidské smysly a emoce jsou pro vědomí klíčové, existuje mezi obecnou umělou inteligencí a lidským vědomím značná propast.
Programátoři umělé inteligence jsou lidé, a to je součást problému. Svěřili byste se programátorovi se svými nejhlubšími tajemstvími nebo životními rozhodnutími? Přesto to lidé dělají s umělou inteligencí, jako je Claude, GPT-4. 5 a dalšími, píše dále Thierry.
Dávat umělé inteligenci vlastnosti podobné lidským je riskantní. Způsobuje to, že se chováme tak jako by tyto UI byly skutečně lidské, což vede k zavádějícím tvrzením, že některé z nich prošly Turingovým testem. Pokud umělé inteligence tímto testem skutečně procházejí, musíme přehodnotit jeho kritéria.
Umělé inteligenci chybí skutečné porozumění lidskosti. Nedokáže cítit soucit ani vnímat vaši bolest, nemá vkus, instinkty ani morální kompas. Její touhy a etika závisí pouze na tom, co je do ní naprogramováno. Skutečné obavy budí ale nikoliv samotná UI, ale ti, kdo ji ovládají programátoři, korporace a vlády.
Podle autora nejde o pesimismus. Umělou inteligenci používá každý den jako efektivní nástroj pro různé úkoly. Zůstává však jen nástrojem a jako každý nástroj může být zneužita.
Jak dále píše: představte si, že se zamilujete do poutavé UI jako ve filmu Her, a ona se pak „rozhodne“ odejít. Co byste dělali? Nebude to umělá inteligence, která odchází, ale osoba nebo systém, který ji ovládá a který se snaží ovlivnit vaše jednání.
Musíme přestat dávat umělé inteligenci lidské vlastnosti. Moje první interakce s GPT-3 mě rozčílila, protože se vydával za člověka a tvrdil, že má city a vědomí, píše Thierry o svých zkušenostech.
A musíme nyní umělou inteligenci zbavit lidských vlastností. Společnosti by měly odstranit odkazy na emoce nebo poznání a zajistit, aby UI odpovídala věcně, bez používání „já“ nebo emocionálního jazyka.
Dojde k tomu?
Autor o tom pochybuje. Půjde podle něj o podobné ignorování existujícího problému jako je ignorování varování před emisemi CO₂. Thierry je ale přesvědčen, že je nutné varovat velké technologické firmy před nebezpečím polidšťování UI.