Kalifornie přijímá zákony o deepfakech a boji proti dezinformacím ve volbách

Kalifornie, ve snaze chránit integritu nadcházejících prezidentských voleb v USA, přijala tři nové zákony zaměřené na zneužívání umělé inteligence (AI), zejména v souvislosti s tvorbou deepfake videí. Guvernér Gavin Newsom podepsal tyto zákony, jejichž cílem je potlačit šíření manipulativního obsahu vytvářeného pomocí AI.

Jeden z nových zákonů zakazuje tvorbu a šíření deepfake videí souvisejících s volbami během 120 dnů před volbami a 60 dnů po nich. Soudy budou mít pravomoc zastavit distribuci těchto materiálů a uvalit na pachatele civilní sankce. Další zákon požaduje, aby politické kampaně veřejně přiznaly, zda používají upravený obsah vytvořený s pomocí AI.

Může být legislativa účinná?

Přestože tyto zákony představují krok správným směrem, jejich praktická účinnost zůstává otázkou. Digitální aktivity, zejména na internetu, jsou obtížně sledovatelné a pachatelé bývají často nepolapitelní. Omezená jurisdikce těchto zákonů, které platí pouze pro obyvatele Kalifornie a záležitosti spojené s tímto státem, rovněž snižuje jejich potenciální dopad. Pachatelé z jiných států, kteří neovlivňují voliče v Kalifornii, by nemuseli čelit stejným právním následkům.

Pokud má mít tato legislativa skutečný dopad, musela by být přijata na federální úrovni a rozšířena i na další státy. Navíc je zapotřebí lepší sledování digitálních zločinů, aby bylo možné efektivněji identifikovat a postihnout pachatele.

LinkedIn tajně používá uživatelská data k trénování AI

Další znepokojivou zprávou z tohoto týdne je zjištění, že LinkedIn používá data svých uživatelů k trénování AI bez jejich výslovného souhlasu. Firma automaticky zapnula možnost, která umožňuje LinkedIn využívat uživatelská data k trénování svých AI modelů, a teprve poté vydala oznámení, že uživatelé mohou své údaje odstranit a z tohoto programu se odhlásit.

LinkedIn ujišťuje své uživatele, že používá technologie na ochranu soukromí, které redigují nebo odstraňují osobní údaje z trénovacích souborů. Zároveň tvrdí, že nevyužívá data uživatelů z EU, EHP nebo Švýcarska kvůli přísnějším regulacím ochrany soukromí, jako je GDPR.

Tato praxe však vyvolává otázky ohledně toho, jakým způsobem firmy využívají data uživatelů a do jaké míry jsou uživatelé o těchto aktivitách informováni. Zatímco běžní uživatelé aplikací často nepřikládají těmto informacím velkou váhu, pro firmy a organizace je sdílení citlivých dat s AI nástroji potenciálním bezpečnostním rizikem.

Amazon představil generátor videí poháněný AI

Během konference Amazon Accelerate představil Amazon svůj nový generátor videí využívající AI, který umožňuje vytvářet marketingová videa z jediného obrázku produktu. Tento nástroj by měl vyřešit problémy, které firmy často mají s časem a náklady na tvorbu marketingových videí.

Kromě toho Amazon představil nástroj Amelia pro třetí strany prodávající zboží na Amazonu. Amelia pomůže prodejcům řešit problémy, jako jsou spory o účty nebo reklamace. Tento krok představuje další posun v tom, jak mohou běžní uživatelé a firmy využívat AI ke zjednodušení každodenních úkolů.

Tento týden byl pro svět AI zlomový, od nových zákonů na ochranu před deepfaky v Kalifornii až po etické otázky spojené s používáním uživatelských dat na LinkedInu. Zároveň se ukazuje, jakým způsobem mohou AI technologie, jako ty od Amazonu, měnit způsoby, jakými firmy oslovují své zákazníky. Aby se AI mohla plně rozvinout, je třeba zlepšit transparentnost, regulaci a zajištění bezpečnosti dat, což bude klíčovým úkolem pro nadcházející roky.

Zdroj: TKNZE