Technologie Deepfake se již ukázala jako znepokojivě účinný prostředek k šíření dezinformací, ale nová studie naznačuje, že dopady generativních programů umělé inteligence mohou být komplikovanější, než se původně obávalo. Podle zjištění zveřejněných začátkem tohoto měsíce v PLOS Onemohou deepfake klipy změnit divákovy vzpomínky na minulost i jejich vnímání událostí.
Aby otestovali účinnost padělků, požádali vědci z University College Cork v Irsku téměř 440 lidí, aby sledovali hluboce zfalšované klipy z padělaných remaků filmů, jako je Will Smith v MaticeChris Pratt jako Indiana Jones, Brad Pitt a Angelina Jolie Zářenía Charlize Theron, která nahradila Brie Larson kapitán Marvel. Odtud účastníci sledovali ukázky ze skutečných předělávek filmů jako Karlík a továrna na čokoládu, celkové odvolánía Carrie. Mezitím někteří dobrovolníci dostali také textové popisy neexistujících remaků.
[Related: This fictitious news show is entirely produced by AI and deepfakes.]
Při kontrole téměř 50 procent účastníků tvrdilo, že si pamatují hluboce falešné remaky, které vyšly v kinech. Mnozí z nich věřili, že tyto imaginární filmy skutečně byly lepší než originály. Ale jakkoli mohou být tato čísla znepokojující, použití deepfakes ke zkreslení minulosti se nezdálo být o nic efektivnější než pouhé čtení textových rekapitulací imaginárních filmů.
Mluvit s The Daily Beast v pátek výzkumnice dezinformací a hlavní autorka studie Gillian Murphyová nevěřila, že zjištění jsou „obzvlášť znepokojivá“, protože nenaznačují „jedinečně silnou hrozbu“, kterou představují deepfakes ve srovnání se stávajícími metodami dezinformací. To znamená, že udělili, že deepfakes by mohly být lepší v šíření dezinformací, pokud se jim podaří stát se virovými nebo zůstanou zapamatovatelné po dlouhou dobu.
Klíčovou složkou potenciálních úspěchů těchto nepravdivých deepfakes je to, co je známé jako motivované uvažování – tendence lidí neúmyslně dovolit, aby předpojaté představy a předsudky ovlivnily jejich vnímání reality. Pokud jsou někomu ukázány domnělé důkazy na podporu existujících přesvědčení, je pravděpodobnější, že je člověk vezme za nominální hodnotu bez velkého zkoumání. Jako takový je pravděpodobnější, že uvěříte hluboce falešnému, pokud je ve prospěch vašich sociálně-politických sklonů, zatímco můžete být skeptičtější k takovému, který vypadá, že „vyvrací“ váš argument.
[Related: Deepfakes may use new technology, but they’re based on an old idea.]
Motivované uvažování je samo o sobě dost špatné, ale deepfakes by mohly tento běžný logický omyl snadno zhoršit, pokud si lidé takových problémů nejsou vědomi. Zlepšení mediální gramotnosti veřejnosti a schopnosti kritického uvažování jsou klíčovými faktory pro zajištění toho, aby si lidé pamatovali hru Willa Smithe v hlavní roli. matice jako zajímavé hollywoodské „Co kdyby?“ místo skutečnosti. Pokud jde o to, zda by takový projekt byl nebo nebyl lepší než originál – stejně jako mnoho deepfakes, vše záleží na tom, jak se na to díváte.
