• Фаджр
  • Восход
  • Зухр
  • Аср
  • Магриб
  • Иша

Стало известно, как предотвратить конец света из-за роботов

1483

Специалисты назвали алгоритмы селдоновскими, в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова

Специалисты назвали алгоритмы селдоновскими, в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова

Научные сотрудники Университета Массачусетса в Амхерсте создали платформу для разработки алгоритмов, которые призваны предотвратить опасное поведение машин с искусственным интеллектом (ИИ) и не допустить причинения вреда человеку.

Специалисты назвали алгоритмы селдоновскими, в честь персонажа серии научно-фантастических романов «Основание» Айзека Азимова. Хотя они не дают ИИ понимание морально-этических норм или того, что является благом для людей, они позволяют системе выявить, какое именно поведение является нежелательным и не допустить его.

В частности, в качестве примера ученые приводят применение селдоновских алгоритмов для лечения диабета, когда инсулиновую помпу контролирует автоматическая система. Нежелательным поведением в этом случае является то, что способствует критически низкому уровню инсулина в крови (гипогликемии). Эксперты также сформировали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков, которые выявлялись у некоторых других алгоритмов.

Islam-today

Комментарии для сайта Cackle