Deepfake teknolojisindeki hızlı ilerlemeler, generative adversarial networks (GAN'lar) tarafından destekleniyor ve bu durum müşteriler ve işletmeler arasındaki güven boşluğunu ciddi şekilde büyütüyor. Aynı zamanda demokratik seçimlere olan güveni de zedeliyor.

Telesign'in 2024 Güven Endeksi'ne göre, Amerikalıların %87'si dijital gizlilik için işletmeleri sorumlu tutarken, yalnızca %34'ü yapay zekayı dolandırıcılığa karşı etkili bir şekilde kullanacaklarına güveniyor. Bu fark, sosyal medya platformlarında yaygın olarak dağıtılan deepfake'ler nedeniyle daha da derinleşiyor ve gerçek ile sahte içerik arasındaki farkı ayırt etmek giderek zorlaşıyor. Kötü niyetli kişilerin seçimleri etkilemek ve demokrasiyi istikrarsızlaştırmak amacıyla deepfake'ler ve dezenformasyon kampanyaları kullanması artan bir endişe kaynağı.

Bu endişelere rağmen, umut ışıkları da var. Amerikalıların çoğunluğu (%71) siber saldırıları ve dolandırıcılığı önlemek için yapay zeka ve makine öğreniminin kullanımının seçim sonuçlarına olan güveni artıracağına inanıyor. Bu, şirketlerin güven açığını kapatmaları ve yapay zeka destekli güvenlik tedbirlerinin güven vermesini ve dolandırıcılık ile deepfake saldırılarına karşı etkili bir şekilde koruma sağladığını göstermeleri gerektiğinin altını çiziyor.