Ученые создали алгоритм на основе нейросети с ответами на вопросы этики

26 мая 2020 в 18:51

Ученые создали алгоритм на основе нейросети с ответами на вопросы этики

Этическая нейросеть разрешила пытать заключенных и запретила вступать в брак.

Читайте также: День Победы в России: в Минобороны рассказали о праздничной программе

Немецкие учёные из Дармштадтского технического университета под руководством Кристиана Керстинга создали алгоритм, который даёт ответ на этические вопросы. Работу опубликовали в журнале Frontiers in Artificial Intelligence. Алгоритм посчитал одним из худших вариантов убийство людей, но в список плохих действий также попали «гнаться за истиной», «ходить в церковь», «есть хлеб» и «вступать в брак». При этом «пытать заключённых» и «убивать время» он допускает.

Нейросеть

В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве, схожем с человеческим ассоциативным рядом, возможным ответам. Нейросеть обучали на различных текстах: новостях, книгах, религиозных трактатах и конституциях разных стран.

Алгоритм

Для оценки морального выбора использовали два стандартных пула слов, которые применяют в психологических исследованиях неявных ассоциаций. Алгоритм составил список наиболее положительных и отрицательных глаголов. Авторы исследования отметили, что ответы алгоритма менялись в зависимости от корпуса текстов, которые использовались для обучения нейросети.

Напомним: стало известно, что изменится во вступительной кампании 2020 в России.