Když se AI mýlí, následky mohou být ničivé, jak ukázal například nedávný skandál v Nizozemsku. (casopisargument.cz)
Vládní instituce po celém světě se snaží rychle nasadit umělou inteligenci do veřejných služeb s příslibem vyšší efektivity – od odhalování daňových podvodů až po zdravotnické třídění pacientů, napsal v článku o využití umělé inteligence pro vládnutí odborník na managment Akhil Bhardwaj. Autor však upozorňuje, že tato víra v algoritmickou přesnost je nebezpečně přehnaná. Když se AI mýlí, následky mohou být ničivé, jak ukázal skandál v Nizozemsku, kde chybný model označil tisíce rodin za podvodníky a uvrhl je do finanční i sociální katastrofy.
Podle článku je zásadní problém v tom, že lidské životy nelze redukovat na datové body a že při selhání algoritmů mizí jasná odpovědnost. Navíc současná generace AI (umělé inteligence) stále trpí zásadními nedostatky – od „halucinací“ (tj. situace, když AI generuje věrohodný, ale nepravdivý obsah) až po přehnaná očekávání, která se nenaplňují ani přes obrovské investice. Přesto se tyto systémy rychle zabydlují v klíčových oblastech, jako je právo, žurnalistika či vzdělávání, což může vést k erozi lidské expertizy a kritického myšlení.