Стало известно, как предотвратить конец света из-за роботов
Научные сотрудники Университета Массачусетса в Амхерсте создали платформу для разработки алгоритмов, которые призваны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку.
Специалисты назвали алгоритмы селдоновскими, в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для людей, они позволяют системе выявить, какое именно поведение является нежелательным и не допустить его.
В частности, в качестве примера ученые приводят применение селдоновских алгоритмов для лечения диабета, когда инсулиновую помпу контролирует автоматическая система. Нежелательным поведением в этом случае является то, что способствует критически низкому уровню инсулина в крови (гипогликемии). Эксперты также сформировали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые выявлялись у некоторых других алгоритмов.
Islam-today
