Хотя я сталкивался с большим количеством приложений, связанных с ИИ, которые оказывают положительное влияние на реальный мир, я боюсь, что Рулетка ImageNet, безусловно, не входит в их число. Скорее, он раскрывает темную часть ИИ. Модель в настоящее время демонстрируется в рамках выставки Тренировочных Людей Тревора Паглена и Кейт Кроуфорд в Музее Фондаза Прада в Милане.
«Рулетка ImageNet – это провокация, призванная помочь нам разобраться в способах классификации людей в системах машинного обучения. В ней используется нейронная сеть, обученная по категориям «Персона» из набора данных ImageNet, которая имеет более 2500 меток, используемых для классификации изображений людей ».Описывает создателей.
Система использует систему глубокого обучения Caffe с открытым исходным кодом, которая обучается на изображениях и ярлыках, которые относятся к категории «человек». ImageNet Roulette сначала обнаруживает лица на входах изображений. Если он найдет его, изображение будет отправлено в модель Caffe для классификации. Если нет, исходное изображение возвращается вместе с меткой в левом верхнем углу.
Категории взяты из WordNet и содержат много оскорбительных категорий, которые иногда могут быть расистскими и даже женоненавистническими. «Мы хотим пролить свет на то, что происходит, когда технические системы обучаются на проблемных данных обучения. Классификации ИИ людей редко делаются видимыми для классифицируемых людей ImageNet Roulette дает представление об этом процессе и показывает, как все может пойти не так »., говорят создатели.
Как вы можете видеть ниже, нейронная сеть описывает пример изображения Леонардо Ди Каприо как «лицемер», «диссамблер», «диссимулятор» и еще пару оскорбительных слов. Худшая часть, однако, это описание, которое оно предоставило: «человек, который исповедует убеждения и мнения, которых он или она не придерживаются, чтобы скрыть свои настоящие чувства или мотивы ».
Фактически, Рулетка ImageNet представляет собой идеальный пример того, какой должна быть модель ИИ и насколько она может ухудшиться, если для обучения моделей на основе ИИ используется неправильный набор данных. Итак, что вы думаете о рулетке ImageNet? Дайте нам знать об этом в комментариях.
Add comment