Роман Сапоньков: Впервые зафиксировали проблему подмены контента нейросетями

Впервые зафиксировали проблему подмены контента нейросетями. Гугл по запросу картинок "птенец павлина" выдает в массе своей генерации нейросети, а не настоящие фото.

Одной из проблем развития нейросети считается опасность подмены контента в интернете, когда нейросети перепишут статьи, сгенерят картинки, а дальше следующие нейросети будут создавать следующий контент на основании нейрофейка. При этом нейросети могут производить контент бесконечно много, без ограничений, которые есть у реальных авторов (сон, отдых, выходные). И на примере павлина мы видим, что нейросети выдумывают вымышленную информацию, вообще не имеющую отношения к реальности. И какой-то момент останется только вымышленный мир.