Генеральный директор Anti-Deepfake Software говорит, что его работа - «в конечном итоге проигрышная битва»
Шамир Аллибхай, генеральный директор и основатель Amber Video. Bloomberg
Большинство из нас воспитаны на руководящем принципе «видеть - значит поверить». Но этот девиз может скоро истечь с появлением «дипфейка», графической техники для синтеза ультрареалистичного человеческого видео и звука с использованием искусственного интеллекта и алгоритмов машинного обучения.
Технология, как бы сложно это ни звучало. , далеко не эксклюзив для профессионалов. В потребительском пространстве мобильные приложения с дипфейком, в частности FaceApp в России и ZAO из Китая, в мгновение ока приобрели популярность среди пользователей, ищущих развлечений, которые не возражают поделиться небольшими данными о лице, чтобы они могли изменить свое лицо, чтобы выглядеть моложе, старше или старше. другого пола, или на теле знаменитости.
С другой стороны, бум так называемой «демократизированной технологии дипфейков» вдохновил на появление инструментов, призванных разрушить ложность всего этого, чтобы предотвратить использование этой технологии для создания вредоносного контента, такого как фейковые новости и пропагандистские материалы.
СМОТРИ ТАКЖЕ: Почему AI Deepfakes должен напугать вас живых Bejeezus
«Эта технология аморальна», - заявил Шамир Аллибхай, основатель и генеральный директор Amber Video, платформы для аутентификации видео и аудио, на конференции Bloomberg Sooner Than You Think в Нью-Йорке на этой неделе. «Deepfake можно использовать в развлекательных целях, например, для создания сатиры или возвращения Мэрилин Монро в следующий художественный фильм. И мы все будем смеяться. Но есть серьезность - мы по-прежнему хотим сохранить правду ».
Подобно тому, как создается дипфейк, Amber Video использует искусственный интеллект и обработку сигналов, чтобы определить, был ли аудио- или видеофайл изменен злонамеренно. По словам Аллибхаи, у этой двухлетней компании есть база постоянных клиентов, в основном журналистов. Однако он не верит в то, что подход «борьба с огнем» победит в долгосрочной перспективе.
«В конечном счете, я думаю, что это проигрышная битва», - сказал Аллибхай. «Вся природа этой технологии построена как состязательная сеть, в которой один пытается создать подделку, а другой пытается обнаружить подделку. Основной компонент - постоянно совершенствовать машинное обучение… В конечном итоге он обойдет инструменты обнаружения ».
Для решения этой проблемы, добавил он, потребуются действия нескольких заинтересованных сторон в экосистеме контента, включая каналов распространения и законодателей.
«Одна из областей, мы много говорили о том, вепонизация этой deepfake технологии в отношении женщин, положив голову в порнографии. Вот где я чувствую, что может быть сильный законодательный подход », - пояснил Аллибхай. «В конце концов, вы не можете принять законодательные меры против самой технологии, потому что она существует и становится лучше с каждой новой версией. Вы не можете контролировать то, что находится в Интернете. Но я думаю, что возможность заставить Facebook, Twitters и YouTubes не делиться этими знаниями - первый шаг ».
комментариев