Co to je
Deepfake je zvukový, obrazový nebo video záznam vytvořený či pozměněný umělou inteligencí tak, aby věrohodně ukazoval člověka, který něco řekl nebo udělal, ačkoli se to nestalo. Slovo vzniklo spojením anglického „deep learning“ (hluboké učení, druh strojového učení, při kterém se program učí z velkého množství příkladů) a slova „fake“, tedy padělek.
Technika umí přenést obličej na jiné tělo, napodobit hlas z nahrávky nebo upravit pohyb rtů. Ne každá úprava pomocí AI je podvod: podobné postupy se používají legálně například při dabingu nebo v reklamě se souhlasem zobrazeného člověka.
Proč na tom záleží
Pro firmy jde o riziko i příležitost. Riziko tkví v podvodech: falešný hlas „šéfa“, který žádá urgentní platbu, nebo smyšlené video známé osobnosti, která údajně doporučuje produkt, mohou poškodit důvěru ve značku a způsobit skutečné škody. Příležitostí je legální využití syntetických hlasů a postav, například ve školicích videích, pokud s tím dotčení lidé souhlasí.
Použití podoby, hlasu nebo jména skutečného člověka bez jeho souhlasu je právně i eticky problematické a pravidla pro označování obsahu vytvořeného AI se na platformách i v právu stále vyvíjejí.
Modelový příklad
Účetní menší firmy dostane telefonát od někoho, jehož hlas zní jako hlas ředitele, s žádostí o okamžité poslání peněz na nový účet. Ve firmě ale platí pravidlo, že změnu platebních údajů musí potvrdit druhá osoba jiným kanálem. Účetní proto zavolá řediteli na jeho známé číslo a podvod se odhalí.
Co byste měli vědět
- Zaveďte dvojí ověření u plateb a citlivých pokynů: potvrzení jiným kanálem, než ze kterého žádost přišla.
- Při reklamě s digitální postavou nebo upraveným hlasem mějte písemný souhlas dotčeného člověka a obsah označte jako vytvořený či upravený AI.
- Dřívější vodítka, jako neobvyklé mrkání, rozmazané okraje obličeje nebo plochý hlas, dnes nemusí platit: kvalitní falešné záznamy lze rozeznat jen obtížně, proto se spoléhejte spíš na ověření zdroje než na dojem.
- Objevíte-li falešný záznam se svou značkou, zdokumentujte ho a nahlaste platformě.