Ученые создали нейросеть, которая «мыслит» как психопат

Прочитали: 614

Команда ученых из Массачусетского технологического института (MIT) разработала нейросеть, которая «мыслит» как психопат. Ее назвали Норманом — в честь убийцы из фильма Альфреда Хичкока «Психо», пишет BirdInFlight. Особенность программы состоит в том, как она интерпретирует пятна из теста Роршаха: там, где обычные нейросети видят очертания птиц или фигуры людей, Норман неизбежно распознает ситуации, связанные со смертью и насилием.

Такие особенности «мышления» нейросети вызваны тем, что обучали ее с использованием агрессивных комментариев, фото- и видеоматериалов, которые публикуются в различных Reddit-сообществах. По словам ученых, их разработка наглядно демонстрирует, что именно исходные данные, на которых обучают нейросеть, больше всего влияют на то, как она будет работать, а не алгоритмы.

«Именно данные, которые использованы для обучения, определяют поведение искусственного интеллекта, — отмечают в MIT. — Поэтому когда люди говорят об ошибках в работе нейросетей, виноват в этом не сам алгоритм, а неправильное обучение. Норман подвергся длительному воздействию самых темных уголков Reddit, чтобы показать, насколько опасным может быть ИИ, если использовать неправильные данные».

Оценить, как по-разному тест Роршаха проходят Норман и другие нейросети, можно на сайте MIT.