Следующая статья поможет вам: Генерируемые искусственным интеллектом дипфейки становится все труднее обнаружить, предупреждает генеральный директор Secta Labs
Искусственный интеллект (ИИ) произвел революцию во многих секторах, но вместе с благом приходит и беда. Генераторы изображений ИИ становятся все более изощренными, что усложняет задачу обнаружения дипфейков.
Эта проблема вызывает тревогу у мировых лидеров и правоохранительных органов, которые обеспокоены влиянием дипфейков, созданных искусственным интеллектом, на социальные сети и в зонах конфликтов.
«Мы вступаем в эпоху, когда мы больше не можем верить в то, что видим», — говорит Марко Як, соучредитель и генеральный директор Лаборатории Секты. «Сейчас это проще, потому что дипфейки еще не так хороши, и иногда вы можете видеть, что это очевидно».
#NewProfilePic учтивость @sectalabs хаха 🔥🔥 pic.twitter.com/WVrb24xGGc
— Марко (@markojak_) 13 июня 2023 г.
Жак предполагает, что мы приближаемся к моменту — возможно, в течение года — когда распознать поддельное изображение с первого взгляда будет невозможно.
К его выводам следует относиться серьезно, поскольку он является генеральным директором Secta Labs, компании, занимающейся созданием ИИ-изображений.
Растущие опасения по поводу дипфейков
Недавняя тенденция к дипфейкам, созданным искусственным интеллектом, вызвала возмущение и беспокойство. В сети появляются дипфейки жертв убийств, призванные вызвать сильную эмоциональную реакцию и получить клики и лайки.
Эта тревожная тенденция подчеркивает необходимость более эффективных способов обнаружения дипфейков.
Основанный Джеком в Остине стартап Secta Labs, соучредителем которого он стал в 2023 году, занимается созданием высококачественных изображений, созданных с помощью ИИ.
Secta Labs рассматривает своих пользователей как владельцев моделей ИИ, созданных на основе их данных, а компания выступает в роли хранителей, создающих изображения на основе этих моделей.
Призыв к регулированию ИИ
Потенциальное неправомерное использование передовых моделей ИИ побудило мировых лидеров настаивать на немедленных действиях по регулированию ИИ.
Это также привело к тому, что такие компании, как Meta, создатели новой голосовой платформы Voicebox, созданной с помощью ИИ, решили не публиковать свои передовые инструменты.
«Также необходимо найти правильный баланс между открытостью и ответственностью», Мета представитель общий.
Дипфейки: инструмент дезинформации
Ранее в этом месяце Федеральное бюро расследований США предупредило о мошеннических схемах искусственного интеллекта с целью вымогательства и преступниках, использующих фотографии и видео из социальных сетей для создания поддельного контента.
Перед лицом растущая проблема дипфейковДжек предполагает, что решение может заключаться не только в обнаружении дипфейков, но и в их разоблачении.
«Искусственный интеллект — это первый способ определить [a deepfake]— сказал Жак. «Есть люди, создающие искусственный интеллект, в который вы можете поместить изображение, как в видео, и ИИ может сказать вам, было ли оно создано ИИ».
Технология противодействия дипфейкам
Джак признает, что начинается «гонка вооружений ИИ», когда злоумышленники создают более изощренные дипфейки, чтобы противостоять технологии, предназначенной для их обнаружения.
Джак предлагает такие технологии, как блокчейн и криптография может предложить решение проблемы дипфейков путем аутентификации происхождения изображения.
Он также предлагает низкотехнологичное решение — использование коллективного разума интернет-пользователей.
«Твит может быть дезинформацией, как и дипфейк», — сказал он. Джак считает, что платформы социальных сетей могли бы извлечь выгоду из использования своих сообществ для проверки подлинности распространяемого контента.
По мере развития ИИ продолжается борьба с дипфейками, что подчеркивает важность как технологических, так и социальных решений для решения этой растущей проблемы.