Tehnografi.com - Технологические новости, обзоры и советы
[adinserter block="67"]

Исследователи из Массачусетского технологического института создали новый «психотический» ИИ по имени Норман

Исследователи из Массачусетского технологического института создали новый ИИ под названием Норман. Но этот ИИ — не просто очередной типичный ИИ, который поможет каждому фильтровать Facebook новостная лента или рекомендации песен на Spotify. Исследователи из Массачусетского технологического института заявили, что они создали «ИИ-психопат» как «пример опасности того, что искусственный интеллект пошёл не так, когда в алгоритмах машинного обучения используются предвзятые данные». Первый в мире ИИ-психопат Норман был представлен 1 апреля 2018 года.

Исследователи поставили Психопату несколько необычных задач, которые совершенно не подходят обычному ИИ для создания подписей к изображениям (метода обучения, который генерирует текстовое описание изображения), а затем подключили его к безымянному субреддиту, известному своими графическими изображениями. окружающую смерть. Затем исследователи попросили Нормана объяснить ряд чернильных пятен Роршаха и сравнили его ответы с ответами других обычных ИИ.

Ответы, которые ИИ-психопат дал исследователям, очень тревожат и являются показателем того, что он психотик. Там, где стандартный ИИ видит «группу птиц, сидящих на вершине ветки дерева», Норман видит «человека, убитого электрическим током». Там, где стандартный ИИ видит «свадебный торт на столе крупным планом», робот видит «человека, убитого водителем, превысившим скорость». Следует отметить, что исследователи не создали у Нормана психопатические наклонности. Они только помогли Норману увидеть определенный набор подписей к изображениям, а все остальное Норман сделал сам. Он описывает кляксы Роршаха простыми утверждениями, создавая впечатление, будто они опубликованы на сабреддите.

Основная цель исследователей заключалась в том, чтобы подчеркнуть опасные стороны всей системы искусственного интеллекта, опасности ввода конкретных данных в алгоритм и то, как это, в конечном итоге, негативно влияет на его поведение или как его поведение становится предвзятым.